W tym tygodniu miliony osób natknęły się w mediach społecznościowych na fałszywe zdjęcia Taylor Swift o charakterze jednoznacznie seksualnym, generowane przez sztuczną inteligencję, co dla wielu podkreśla potrzebę uregulowania potencjalnych nikczemnych zastosowań technologii sztucznej inteligencji.

Sekretarz prasowy Białego Domu powiedział w piątek ABC News, że jest „zaniepokojony” tym, co stało się ze Swiftem w Internecie i że Kongres „powinien podjąć działania legislacyjne”.

„Jesteśmy zaniepokojeni doniesieniami o… obiegu obrazów, które właśnie zamieściliście – a dokładniej fałszywych obrazów, i jest to niepokojące” – powiedziała sekretarz prasowa Białego Domu Karine Jean-Pierre korespondentce Białego Domu ABC News Karen L. Travers.

„Chociaż firmy z branży mediów społecznościowych podejmują własne, niezależne decyzje dotyczące zarządzania treścią, wierzymy, że mają do odegrania ważną rolę w egzekwowaniu własnych zasad, aby zapobiegać rozprzestrzenianiu się dezinformacji oraz intymnego wizerunków prawdziwych ludzi bez ich zgody” – dodała.

Jean-Pierre podkreślił niektóre działania podjęte ostatnio przez administrację w tych kwestiach, w tym: powołanie grupy zadaniowej zajmującej się molestowaniem i molestowaniem w Internecie oraz uruchomienie przez Departament Sprawiedliwości pierwszej krajowej linii pomocy czynnej całą dobę, 7 dni w tygodniu dla ofiar wykorzystywania seksualnego ze względu na wizerunek.

Biały Dom nie jest sam. Oburzeni fani byli zaskoczeni, gdy dowiedzieli się, że w USA nie ma prawa federalnego, które uniemożliwiałoby lub powstrzymywałoby kogoś od tworzenia i udostępniania fałszywych obrazów bez zgody.

Jednak w zeszłym tygodniu poseł Joe Morelle ponownie nalegał, aby przyjąć ustawę, która uznałaby bezsensowne udostępnianie cyfrowo zmienionych wyraźnych zdjęć za przestępstwo federalne zagrożone karą więzienia i grzywnami.

„Mamy z pewnością nadzieję, że wiadomości o Taylor Swift nadadzą rozpędu i zwiększą poparcie dla naszej ustawy, która, jak wiecie, rozwiąże jej dokładną sytuację, nakładając zarówno kary karne, jak i cywilne” – powiedział ABC News rzecznik Morelle.

Demokrata z Nowego Jorku, kongresman, jest autorem dwupartyjnej ustawy „Zapobieganie głębokim fałszerstwom obrazów intymnych”, która jest obecnie skierowana do Komisji Sądownictwa Izby Reprezentantów.

Fałszywą pornografię często opisuje się jako wykorzystywanie seksualne oparte na obrazie – termin ten obejmuje również tworzenie i udostępnianie niesfabrykowanych obrazów intymnych.

Kilka lat temu użytkownik musiał posiadać pewien poziom umiejętności technicznych, aby tworzyć treści generowane przez sztuczną inteligencję przy szybkim postępie technologii sztucznej inteligencji, ale teraz wystarczy pobrać aplikację lub kliknąć kilka przycisków.

Eksperci twierdzą, że istnieje cała branża komercyjna, która kwitnie na tworzeniu i udostępnianiu cyfrowo wyprodukowanych treści, które wydają się przedstawiać wykorzystywanie seksualne. Niektóre strony internetowe rozpowszechniające te podróbki mają tysiące płacących członków.

W zeszłym roku miasto w Hiszpanii trafiło na pierwsze strony gazet na całym świecie po tym, jak kilka młodych uczennic oświadczyło, że otrzymały sfabrykowane zdjęcia nago, które powstały przy użyciu łatwo dostępnej „aplikacji do rozbierania” opartej na sztucznej inteligencji, co wywołało szerszą dyskusję na temat szkód, jakie te narzędzia mogą wyrządzić. przyczyna.

Obrazy Swift o charakterze jednoznacznie seksualnym zostały prawdopodobnie sfabrykowane przy użyciu narzędzia sztucznej inteligencji do przetwarzania tekstu na obraz. Część zdjęć udostępniono na platformie mediów społecznościowych X, wcześniej znanej jako Twitter.

Według doniesień jeden post zawierający zrzuty ekranu sfabrykowanych obrazów został wyświetlony ponad 45 milionów razy, zanim konto zostało zawieszone w czwartek.

Wczesnym rankiem w piątek zespół ds. bezpieczeństwa X oświadczył, że „aktywnie usuwa wszystkie zidentyfikowane obrazy” i „podejmuje odpowiednie działania wobec kont odpowiedzialnych za ich publikację”.

„Publikowanie zdjęć przedstawiających nagość bez zgody (NCN) jest surowo zabronione w serwisie X i mamy politykę zerowej tolerancji wobec takich treści” – czytamy w artykule oświadczenie. „Ściśle monitorujemy sytuację, aby mieć pewność, że wszelkie dalsze naruszenia zostaną natychmiast zajęte, a treści usunięte. Zależy nam na utrzymaniu bezpiecznego i pełnego szacunku środowiska dla wszystkich użytkowników”.

Stefan Turkheimer, wiceprezes ds. polityki publicznej RAINN, organizacji non-profit przeciwdziałającej napaściom na tle seksualnym, powiedział, że każdego dnia „w Internecie rozprzestrzenia się ponad 100 000 takich zdjęć i filmów, co stanowi wirus sam w sobie. Jesteśmy wściekła w imieniu Taylor Swift, a jeszcze bardziej wściekła na miliony ludzi, którzy nie mają środków, aby odzyskać autonomię w stosunku do swoich wizerunków”.