tworzyć i promować obrazy o charakterze jednoznacznie seksualnym. Ostatnią ofiarą jest Jenna Ortega, młoda aktorka najbardziej znana z roli w filmie „Środa”. Podobno została przedstawiona w zmanipulowany, sugestywny sposób na zdjęciu zrobionym, gdy miała zaledwie 16 lat!

Reklamy, o których mowa, promowały aplikację o nazwie Perky AI, która szczyciła się możliwością cyfrowego rozbierania kobiet przy użyciu sztucznej inteligencji. NBC News donosi, że twórcom Perky AI udało się wyemitować 11 reklam zawierających niewyraźne, fałszywe nagie zdjęcie Ortegi. Co gorsza, podobno wykorzystali jej nieletni wygląd do reklamowania problematycznych funkcji aplikacji. Reklamy te krążyły na Facebooku i Instagramie, a także na Messengerze głównie w lutym 2024 roku.

Ale czekaj, jest tego więcej. Dziarska sztuczna inteligencja nie poprzestała na oferowaniu zdjęć Ortegi bez ubrania. Obiecano także możliwość modyfikowania jej ubrań w oparciu o podpowiedzi tekstowe, takie jak „kostium lateksowy” i „bielizna Batmana”, według NBC News.

To źródło interweniowało i próbowało skontaktować się z RichAds, podmiotem stojącym za tymi kontrowersyjnymi reklamami. Z doniesień wynika, że ​​milczeli w tej sprawie. Rzecznik Meta, Ryan Daniels, odpowiedział, stwierdzając, że „Meta surowo zabrania przedstawiania nagości dzieci, treści seksualizujących dzieci oraz usług oferujących obrazy nagości generowane bez zgody przez sztuczną inteligencję”.

Według doniesień Meta zawiesiła stronę aplikacji Perky po incydencie. Jednak do tego czasu w okresie od września do lutego na platformach Meta rozpowszechniło się ponad 260 reklam. Chociaż Meta zawiesiła wcześniej 30 z tych reklam ze względu na niespełnianie swoich standardów reklamowych, konkretne reklamy przedstawiające Ortegę przez osoby nieletnie w jakiś sposób prześlizgnęły się przez szczelinę. Zasięg oglądalności tych reklam pozostaje nieznany. Jednak według NBC News jedna taka reklama na Instagramie odnotowała ponad 2600 wyświetleń.

Co więcej, Apple podjął decyzję o usunięciu aplikacji Perky ze swojego App Store, która w ogóle nie była wymieniona w Google Play. Jednak problematyczna aplikacja jest nadal dostępna dla tych, którzy już ją pobrali, i nadal mogą z niej korzystać. Według NBC News aplikacja kosztuje 7,99 dolarów tygodniowo lub 29,99 dolarów za 12-tygodniową subskrypcję.

Inne problemy związane z deepfake’ami

Incydent ten wywołał znaczące oburzenie w związku z etycznym wykorzystaniem sztucznej inteligencji w reklamie oraz odpowiedzialnością gigantów mediów społecznościowych za regulację treści. Ale niestety, nie jest to pierwszy raz, kiedy coś takiego się dzieje. Zarówno Scarlett Johansson, jak i Tom Hanks mieli swoje deepfake wersje w nieautoryzowanych reklamach. Taylor Swift padła ostatnio ofiarą jawnych deepfake’ów, które rozprzestrzeniły się w Internecie. W zeszłym roku informowaliśmy o wyłudzaczach, którzy wykorzystują zdjęcia z Facebooka do tworzenia aktów AI.

Wszystkie te incydenty uwydatniają szereg szerszych problemów. Najbardziej oczywista to prywatność i godność, które są ograniczane przez tworzenie takich obrazów. Następnie pozostaje kwestia licencji i zgody, szczególnie w przypadkach, gdy Twoje upodobania są wykorzystywane do nieautoryzowanych reklam. Istnieje również nadzór nad treściami i reklamami na platformach mediów społecznościowych. Jasne, Meta nie pozwala na „generowanie zdjęć nagich bez zgody AI”, ale niejednokrotnie zdarzało się, że w jakiś sposób się one wymykały.

Wykorzystywanie technologii deepfake, zwłaszcza z udziałem nieletnich, rodzi poważne pytania dotyczące etycznych granic zastosowań sztucznej inteligencji. Powinniśmy również kwestionować skuteczność istniejących ram regulacyjnych chroniących prawa i godność jednostki w epoce cyfrowej.

[via NBC News; image credits: Chris Roth, CC BY-SA 2.0, via Wikimedia Commons (edited)]