W Chinach sztuczna inteligencja przekształciła ukraińskiego YouTubera w Rosjanina

Olga Loiek, studentka Uniwersytetu Pensylwanii, szukała odbiorców w Internecie – tylko nie takich. Wkrótce po uruchomieniu kanału YouTube w listopadzie ubiegłego roku Loiek, 21-latka z Ukrainy, odkryła, że ​​jej zdjęcie zostało zrobione i przetworzone przez sztuczną inteligencję w celu stworzenia alter ego na chińskich platformach społecznościowych. Jej cyfrowe sobowtóry – jak „Natasza” – twierdziły, że są Rosjankami biegle władającymi językiem chińskim, które chciały podziękować Chinom za wsparcie dla Rosji i zarobić trochę pieniędzy na boku sprzedając produkty takie jak rosyjskie cukierki. Co więcej, fałszywe konta miały w Chinach setki tysięcy obserwujących, znacznie więcej niż sama Loiek. „To jakby moja twarz mówiła po mandaryńsku, a w tle widzę Kreml i Moskwę i mówię o tym, jak wspaniała jest Rosja i Chiny” – Loiek powiedział Reuterowi. „To było naprawdę przerażające, ponieważ są to rzeczy, których nigdy w życiu nie powiedziałbym”. Przypadek Loieka jest reprezentatywny dla rosnącej liczby Rosjanek, które na pierwszy rzut oka wydają się być w chińskich mediach społecznościowych, które pokazują swoją miłość do Chin w płynnym języku chińskim i twierdzą, że starają się wspierać Rosję w czasie wojny, sprzedając produkty importowane ze swojej ojczyzny. Żaden z nich jednak nie istnieje. Są generowane przez sztuczną inteligencję w wyniku sprzeniewierzenia klipów przedstawiających prawdziwe kobiety znalezione w Internecie, często bez ich wiedzy, a filmy utworzone przez fałszywe awatary służą do przedstawiania produktów samotnym Chińczykom – twierdzą eksperci. Konta utworzone przy użyciu wizerunku Loieka mają setki tysięcy obserwujących i sprzedały produkty o wartości dziesiątek tysięcy dolarów, w tym słodycze. Niektóre posty zawierają zastrzeżenie mówiące, że mogły zostać utworzone przy użyciu sztucznej inteligencji. Awatary takie jak Loiek wykorzystują partnerstwo Rosja-Chiny „bez ograniczeń”, ogłoszone między obydwoma krajami w 2022 r., kiedy prezydent Rosji Władimir Putin odwiedził Pekin na kilka dni przed inwazją Rosji na Ukrainę. Jim Chai, dyrektor naczelny XMOV – firmy opracowującej zaawansowaną technologię sztucznej inteligencji i niezaangażowanej w sytuację Loieka, twierdzi, że technologia tworzenia takich obrazów jest „bardzo powszechna, ponieważ wiele osób z niej korzysta w Chinach”. „Na przykład, aby wyprodukować własnego cyfrowego człowieka 2D, wystarczy, że nakręcę 30-minutowy film, na którym jestem, a następnie po ukończeniu go przerabiam. Oczywiście wygląda to bardzo realistycznie i oczywiście jeśli zmienisz język, jedyną rzeczą, którą musisz dostosować, jest synchronizacja ruchu warg” – powiedział Chai. Sztuczna inteligencja to temat gorąco dyskutowany, a historia Loieka rzuca światło na ryzyko związane z jej potencjalnie nielegalnymi lub nieetycznymi zastosowaniami, ponieważ potężne narzędzia do tworzenia i rozpowszechniania treści stają się powszechne na całym świecie. Obawy, że sztuczna inteligencja przyczynia się do dezinformacji, fałszywych wiadomości i materiałów chronionych prawem autorskim, nasiliły się w ostatnich miesiącach w związku z rosnącą popularnością generatywnych systemów sztucznej inteligencji, takich jak Chat GPT. W styczniu Chiny opublikowały projekt wytycznych dotyczących standaryzacji branży sztucznej inteligencji, proponując utworzenie do 2026 r. ponad 50 standardów krajowych i branżowych. Ustawa Unii Europejskiej o sztucznej inteligencji, która nakłada rygorystyczne obowiązki w zakresie przejrzystości na systemy sztucznej inteligencji wysokiego ryzyka, weszła w życie tego dnia miesięcznie, ustanawiając potencjalny światowy punkt odniesienia. Mimo to Xin Dai, profesor nadzwyczajny na Wydziale Prawa Uniwersytetu w Pekinie, powiedział, że regulacje starają się dogonić tempo rozwoju sztucznej inteligencji. „Możemy tylko przewidywać, że dzięki coraz potężniejszym narzędziom do tworzenia informacji, tworzenia treści i rozpowszechniania treści będą one dostępne praktycznie co następną minutę” – powiedział Dai. „Myślę, że najważniejszą rzeczą jest to, że wolumen jest po prostu zbyt duży… nie tylko w Chinach, ale także w całym Internecie wszędzie” – dodał.