Fałszywe zdjęcia Taylor Swift o charakterze jednoznacznie seksualnym, prawdopodobnie wygenerowane przez sztuczną inteligencję, szybko rozprzestrzeniły się w tym tygodniu na platformach mediów społecznościowych, niepokojąc fanów, którzy je zobaczyli, i ponownie wywołując wezwania ze strony prawodawców, aby chronić kobiety i zwalczać platformy i technologie rozpowszechniające takie obrazy.

Jedno zdjęcie udostępnione przez użytkownika na X, dawniej Twitterze, zostało wyświetlone 47 milionów razy, zanim konto zostało zawieszone w czwartek. X zawiesił kilka kont, na których zamieszczano sfałszowane zdjęcia pani Swift, jednak zdjęcia te zostały udostępnione na innych platformach mediów społecznościowych i nadal się rozprzestrzeniały pomimo wysiłków tych firm mających na celu ich usunięcie.

Choć X oświadczył, że pracuje nad usunięciem zdjęć, fani gwiazdy popu zalali platformę w proteście. Opublikowali powiązane słowa kluczowe wraz ze zdaniem „Chroń Taylor Swift”, próbując zagłuszyć wulgarne obrazy i utrudnić ich znalezienie.

Reality Defender, firma zajmująca się bezpieczeństwem cybernetycznym skupiająca się na wykrywaniu sztucznej inteligencji, ustaliła z 90-procentową pewnością, że obrazy zostały utworzone przy użyciu modelu dyfuzyjnego, technologii opartej na sztucznej inteligencji, dostępnej za pośrednictwem ponad 100 000 aplikacji i publicznie dostępnych modeli, powiedział Ben Colman, współtwórca firmy założyciel i dyrektor naczelny.

Wraz z rozwojem branży sztucznej inteligencji firmy ścigały się, aby udostępnić narzędzia umożliwiające użytkownikom tworzenie obrazów, filmów, nagrań tekstowych i dźwiękowych za pomocą prostych podpowiedzi. Narzędzia sztucznej inteligencji są niezwykle popularne, ale dzięki nim tworzenie tak zwanych deepfake’ów jest łatwiejsze i tańsze niż kiedykolwiek wcześniej, czyli przedstawia ludzi robiących lub mówiących rzeczy, których nigdy nie robili.

Badacze obawiają się obecnie, że deepfakes stają się potężną siłą dezinformacyjną, umożliwiającą codziennym użytkownikom Internetu tworzenie bez ich zgody nagich zdjęć lub zawstydzających portretów kandydatów politycznych. Sztuczna inteligencja została wykorzystana do stworzenia fałszywych automatycznych połączeń telefonicznych z prezydentem Bidenem podczas prawyborów w New Hampshire, a w tym miesiącu pani Swift pojawiła się w fałszywych reklamach sprzedających naczynia kuchenne.

„Zawsze był to mroczny nurt Internetu, różnego rodzaju pornografia wykonywana bez zgody” – powiedział Oren Etzioni, profesor informatyki na Uniwersytecie Waszyngtońskim, który zajmuje się wykrywaniem deepfake’ów. „Teraz pojawił się nowy szczep, który jest szczególnie szkodliwy”.

„Będziemy świadkami tsunami wyraźnych obrazów generowanych przez sztuczną inteligencję. Osoby, które to stworzyły, uważają to za sukces” – powiedział pan Etzioni.

X stwierdził, że ma politykę zerowej tolerancji wobec treści. „Nasze zespoły aktywnie usuwają wszystkie zidentyfikowane zdjęcia i podejmują odpowiednie działania wobec kont odpowiedzialnych za ich publikację” – oznajmił przedstawiciel w oświadczeniu. „Ściśle monitorujemy sytuację, aby mieć pewność, że wszelkie dalsze naruszenia zostaną natychmiast zajęte, a treści usunięte”.

Od czasu zakupu usługi przez Elona Muska w 2022 r. X odnotował wzrost liczby problematycznych treści, w tym nękania, dezinformacji i mowy nienawiści. Poluzował zasady dotyczące treści serwisu i zwolnił, zwolnił lub przyjął rezygnację pracowników, którzy pracowali nad usunięciem takich treści. Platforma przywróciła także konta, które zostały wcześniej zbanowane za naruszenie zasad.

Chociaż wiele firm produkujących generatywne narzędzia AI zabrania swoim użytkownikom tworzenia wyraźnych obrazów, ludzie znajdują sposoby na łamanie zasad. „To wyścig zbrojeń i wydaje się, że ilekroć ktoś wymyśli poręcz, ktoś inny wymyśla, jak wydostać się z więzienia” – powiedział pan Etzioni.

Według 404 Media, serwisu z wiadomościami technologicznymi, zdjęcia pochodzą z kanału aplikacji do przesyłania wiadomości Telegram, który zajmuje się tworzeniem takich obrazów. Jednak deepfakes wzbudziły szerokie zainteresowanie po opublikowaniu ich w X i innych serwisach społecznościowych, gdzie szybko się rozprzestrzeniły.

Niektóre stany ograniczyły fałszywe treści pornograficzne i polityczne. Jednak ograniczenia nie miały dużego wpływu i nie ma federalnych przepisów dotyczących takich deepfakes, powiedział Colman. Platformy próbowały zająć się deepfakesami, prosząc użytkowników o ich zgłaszanie, ale ta metoda nie zadziałała – dodał. Zanim zostały oznaczone, widziały je już miliony użytkowników.

„Pasta do zębów jest już wyjęta z tubki” – powiedział.

Rzecznik prasowy pani Swift, Tree Paine, nie odpowiedział natychmiast na prośby o komentarz pod koniec czwartku.

Deepfake pani Swift wywołała ponowne wezwania prawodawców do działania. Przedstawiciel Joe Morelle, Demokrata z Nowego Jorku, który w zeszłym roku przedstawił ustawę, która uznałaby udostępnianie takich zdjęć za przestępstwo federalne, powiedział w X, że rozpowszechnianie zdjęć jest „przerażające” i dodał: „To zdarza się kobietom na całym świecie, każdego dnia .”

„Wielokrotnie ostrzegałem, że sztuczna inteligencja może zostać wykorzystana do generowania intymnych obrazów bez zgody” – powiedział o zdjęciach na X senator Mark Warner, Demokrata z Wirginii i przewodniczący Senackiej Komisji ds. Wywiadu. „To godna ubolewania sytuacja. ”

Przedstawicielka Yvette D. Clarke, Demokratka z Nowego Jorku, stwierdziła, że ​​postęp w sztucznej inteligencji sprawił, że tworzenie deepfakes stało się łatwiejsze i tańsze.

„To, co przydarzyło się Taylor Swift, nie jest niczym nowym” – powiedziała.