Kilka tygodni temu w mojej skrzynce odbiorczej na LinkedIn pojawiła się wiadomość. Przeczytałem go, zainteresowałem się jego treścią i kliknąłem, aby przeczytać załączony dokument. Dokument nie został otwarty. Wróciłem do wiadomości i tym razem otworzyłem profil osoby, która mi ją wysłała. Pierwsza flaga – zdjęcie kobiety w profilu było zbyt idealne. Atrakcyjna z jasną skórą, czystymi, prostymi włosami, jasnymi oczami i miłym uśmiechem.

PREMIA

Oznaczenie tej kobiety było ogólnym CXO, ale opis profilu sprawiał wrażenie, jakby został wygenerowany ze wszystkimi właściwymi słowami kluczowymi związanymi z publikacją i po prostu nie miał do końca sensu. Podobnie jak chronologia jej edukacji. Jako autor fikcji mógłbym postrzegać tę postać jako postać stworzoną przez sztuczną inteligencję z mylącymi lukami w jej syntetycznej przeszłości. Wtedy zrozumiałem, że zostałem oszukany przez sztuczną inteligencję. Dokument, o którym mowa, najprawdopodobniej wirus, został pobrany na mój iPhone.

Poczułam się oszukana i sfrustrowana. Nie z powodu podejrzanego wirusa, ale dlatego, że przypadkowa sztuczna inteligencja przeczytała mój profil na LinkedIn, znalazła moje sekretne pragnienia i wyzwalacze – rzeczy, o których nawet nie wiedziałam, że ich potrzebuję – i zdołała mnie rozszyfrować i zmusić do lekkomyślnego działania.

W ciągu 20 minut, kiedy zdecydowałem się napisać o syntetycznych profilach na LinkedIn i otworzyłem laptopa, aby zrobić zrzuty ekranu, profil, wiadomość i dokument zostały usunięte z mojego konta. Syntetyczny użytkownik stworzony przez sztuczną inteligencję, który tak dobrze znał moje wyzwalacze, przestał istnieć.

Już w 2022 r., kiedy szalała pandemia, fałszywe profile generowane przez sztuczną inteligencję stały się problemem dla LinkedIn, największej na świecie platformy społecznościowej dla profesjonalistów. Jak wynika z badania przeprowadzonego w 2021 roku przez naukowców z Lancaster University i University of California w Berkeley, na kontach tych wykorzystywano wygenerowane komputerowo zdjęcia profilowe, które wydawały się bardziej realne i budzące większe zaufanie niż zdjęcia prawdziwych ludzi. Naukowcy odkryli, że twarzy stworzonych przez sztuczną inteligencję „nie można odróżnić” od prawdziwych twarzy. Ludzie mają tylko 50% szans na prawidłowe odgadnięcie. Spójrz na zdjęcie syntetycznych twarzy (S) poniżej, które powstało w ramach badania. Czy uważasz je za bardziej realne niż prawdziwe ludzkie twarze (R)?]

Wiele celów

W 2022 r. badacze ze Stanford Internet Observatory odkryli ponad 1000 fałszywych profili na LinkedIn, w których wykorzystano syntetyczne twarze i pisemne dane utworzone przez sztuczną inteligencję. Zdaniem badaczy, celem tych profili było kilka. Wirus był jeden. Potem nastąpiła dezinformacja. Ale był też marketing. Marketerzy ulepszyli syntetyczne profile na platformie, aby zwiększyć zaangażowanie, poprawić SEO artykułów lub zwiększyć sprzedaż swoim klientom. Jak wyjaśniono w badaniu, była to strategia telemarketingowa dla świata cyfrowego. Jeśli ktoś chwycił przynętę, szybko łączył się z prawdziwym sprzedawcą w firmie klienta.

Wkrótce potem LinkedIn ulepszył swoje filtry wykrywające fałszywe profile oraz uruchomił nowe funkcje i systemy, aby zapewnić swoim członkom interakcję z prawdziwymi ludźmi. Firmowy zespół Anti-Abuse AI umieścił systemy automatyzujące wykrywanie fałszywych kont, zwłaszcza fałszywych obrazów profilowych generowanych przez sztuczną inteligencję, które generują sygnały. W zeszłym roku ogłosili nowy detektor obrazu AI do wychwytywania fałszywych profili. „Nasz nowy model oparty na głębokim uczeniu się proaktywnie sprawdza przesłane zdjęcia profilowe, aby określić, czy obraz został wygenerowany przez sztuczną inteligencję, przy użyciu najnowocześniejszej technologii zaprojektowanej w celu wykrywania subtelnych artefaktów obrazu związanych z procesem generowania obrazu syntetycznego w oparciu o sztuczną inteligencję bez rozpoznawania twarzy lub biometrii analiz” – napisał na blogu LinkedIn Oscar Rodriguez, wiceprezes ds. zarządzania produktami.

Według najnowszego raportu firmy na temat przejrzystości, w pierwszej połowie 2023 r. firma usunęła ponad 15,1 mln fałszywych kont, zanim członkowie je zgłosili, oraz około 200 000 kont po ich oznaczeniu przez członków w pierwszych sześciu miesiącach 2023 r. Aż 104 w pierwszej połowie 2023 r. wykryto i usunięto miliony przypadków treści zawierających oszustwa i spam. Trzy miesiące temu LinkedIn wygrał nawet sprawę sądową przeciwko dwóm firmom marketingowym, TopSocial i SocialBD24, które zbudowały swoje firmy, tworząc fałszywe profile LinkedIn w celu generowania działań marketingowych wskazówki.

W tym roku posunęliśmy się dalej dzięki weryfikacjom w prawdziwym życiu. Możesz dodać znacznik weryfikacji do swojego profilu za pomocą wydanego przez rząd dokumentu tożsamości dla ponad 115 krajów (Indie nie zostały jeszcze uwzględnione na liście) i zweryfikować swoje miejsce pracy za pomocą służbowego adresu e-mail i instytucji edukacyjnej za pośrednictwem poczty elektronicznej. „Zweryfikowane profile uzyskują o 60 procent więcej wyświetleń profilu, o 50 procent więcej komentarzy i reakcji na swoich postach oraz o 30 procent więcej wiadomości” – wyjaśnia Rodriguez na innym blogu, jakby zachęcając użytkowników do zarejestrowania się.

LinkedIn uruchomił także funkcję o nazwie „O tym profilu”, która pokazuje, kiedy profil został utworzony i kiedy był ostatnio aktualizowany, wraz ze zweryfikowanym numerem telefonu i służbowym adresem e-mail członka.

Jednak wraz z poprawą możliwości sztucznej inteligencji stała się to gra w kotka i myszkę. Podczas gdy zautomatyzowane oprogramowanie AI wciąż tworzy fałszywe profile, oprogramowanie LinkedIn do zapobiegania nadużyciom AI ciągle je eliminuje, a niektóre, tak jak w moim przypadku, prześlizgują się przez szczeliny przez kilka godzin. Wystarczająco, żebym się nabrał, przekonał i kliknął.

Teraz, ostrożnie dodając osoby do mojej sieci, mądrzejszy ja zresetowałem hasło do LinkedIn i uważnie obserwuję mojego iPhone’a pod kątem charakterystycznych oznak działania ukrytego oprogramowania w tle — rozładowania baterii, przegrzania lub dziwnego zachowania aplikacji. Jeszcze tego nie zrobili, ale nadal mogę zresetować iPhone’a.

Shweta Taneja jest autorką i dziennikarką mieszkającą w Bay Area. Jej dwutygodniowy felieton będzie poświęcony temu, jak wschodzące technologie i nauka zmieniają społeczeństwo w Dolinie Krzemowej i poza nią. Znajdź ją w Internecie dzięki @shwetawrites. Wyrażane poglądy są osobiste.