Londyn
CNN
—

Według ekspertów ds. analiz i zwalczania dezinformacji z CNN, nagranie deepfake’u błędnie sugerujące, że żona prezydenta Ukrainy Wołodymyra Zełenskiego kupiła luksusowy samochód podczas wizyty pary w Paryżu w zeszłym miesiącu, jest prawdopodobnie częścią sieci dezinformacyjnej powiązanej z Rosją.

Na nagraniu wideo wygenerowanym przez sztuczną inteligencję widać nieistniejącego pracownika salonu Bugatti w Paryżu, który twierdzi, że Olena Zełeńska kupiła nowy model Bugatti Tourbillon za 4,5 miliona euro (około 4,8 miliona dolarów) 7 czerwca.

Według Clémenta Briensa, badacza z firmy zajmującej się cyberbezpieczeństwem Recorded Future, klip ma kilka cech deep fake, od cięć w filmie po dziwny akcent i ruchy ust i ust. Mimo to w ciągu 24 godzin na X-ie zgromadził około 18 milionów wyświetleń, gdzie został ponownie opublikowany przez prorosyjskich influencerów.

Firma Bugatti poinformowała we wtorek w oświadczeniu, że jej salon sprzedaży samochodów w Paryżu, prowadzony przez Autofficina Parigi, spółkę z grupy Car Lovers Group, padł ofiarą kilku przestępstw i „stanowczo potępiła tę kampanię dezinformacyjną”.

„Rzekomy sprzedawca podający się za członka Car Lovers Group i jej sportowej marki Schumacher Group opublikował w mediach społecznościowych film, w którym wskazał, że salon Bugatti Paris sprzedał pojazd ukraińskiej parze prezydenckiej” – czytamy w komunikacie, dodając, że grupa „stanowczo zaprzecza zarówno istnieniu transakcji, jak i, w konsekwencji, istnieniu faktury”.

„Obowiązkowe dane prawne nie pojawiają się na fakturze, cena pojazdu jest również błędna, ceny opcji i ich opisy są niedokładne i niespójne, grafiki są nieaktualne, a Car Lovers Group nigdy nie pozwoliłoby na wydanie takiego dokumentu” – dodano w oświadczeniu.

Grupa poinformowała również, że podjęła kroki prawne „składając zawiadomienie o popełnieniu przestępstwa w związku z fałszerstwem, wykorzystaniem fałszerstw, przywłaszczeniem tożsamości i zniesławieniem” – nie sprecyzowała jednak, przeciwko komu złożono zawiadomienie.

Clarity, startup zajmujący się cyberbezpieczeństwem AI i walczący z deepfake’ami, poinformował CNN, że analiza nagrania wskazuje na „wysoką pewność manipulacji AI, głównie w okolicach środkowej części twarzy”.

Film pochodzi z francuskojęzycznej witryny Verite Cachee France (sic), której treść najprawdopodobniej została wygenerowana przez sztuczną inteligencję na podstawie danych z francuskich mediów.

Analiza CNN pokazuje, że Verite Cachee zostało utworzone niedawno, 22 czerwca 2024 r., a niektóre jego strony nadal mają monity z AI, aby tworzyć fałszywe artykuły na górze tekstu. CNN nie jest w stanie znaleźć kontaktu do strony internetowej.

W tytule strony internetowej nie użyto znaków diakrytycznych – poprawna pisownia brzmiałaby Vérité Cachée – co rzuca jeszcze większe wątpliwości na jej autentyczność.

Darren Linvill, profesor Media Forensics Hub na Uniwersytecie Clemson, powiedział CNN, że strony internetowe deep fake i Verite Cachee noszą znamiona rosyjskiej kampanii prania brudnych informacji, która trwa od sierpnia ubiegłego roku, a jej celem jest osłabienie Ukrainy.

„Zazwyczaj umieszczają na YouTube jakiś film z historią do opowiedzenia. Następnie opowiadają tę historię, nakładając ją na strony z fałszywymi wiadomościami, które stworzyli, a często także na jedną lub więcej powiązanych stron internetowych. Następnie integrują historię za pośrednictwem mediów społecznościowych, zaczynając od prawdziwych prorosyjskich influencerów, którzy są częścią ich sieci” – powiedział CNN. „Jedyną niewielką zmianą w tej kampanii jest to, że film najwyraźniej nie jest dostępny na YouTube”.

W raporcie z grudnia ubiegłego roku Linvill i Patrick Warren, również profesor na Clemson, pokazali, jak kampanię dezinformacyjną prowadził DC Weekly, strona internetowa, która publikowała serię generowanych przez sztuczną inteligencję rosyjskich materiałów propagandowych i fałszywych historii, takich jak obalone twierdzenie, że Olena Zełeńska kupiła biżuterię za 1,1 miliona dolarów w nowojorskim sklepie Cartier we wrześniu ubiegłego roku.

Raport Recorded Future, wiodącej firmy zajmującej się cyberbezpieczeństwem, również wskazał, że Veritee Cachee jest częścią tej samej sieci dezinformacyjnej.

Biorąc pod uwagę rozmiar i zasoby sieci, prawdopodobne jest, że Rosja wspiera ją lub finansuje, powiedział CNN Clément Briens, starszy analityk ds. zagrożeń w firmie.

„Automatycznie zbierają artykuły z wielu źródeł, używając LLM-ów do wprowadzania konkretnych stronniczości politycznych, aby atakować Zełenskiego, Bidena i NATO. Następnie przesyłają artykuły, aby wyprać prorosyjską narrację” – powiedział Briens.

Ogromna liczba artykułów utrudnia wykrywanie deep fake’ów, ponieważ gdy ktoś kliknie na stronę internetową, widzi zaległą listę artykułów, które zazwyczaj przechodzą wstępną kontrolę – dodał.

„Następnie, gdy ktoś prześle film z YouTube lub bezpośrednio do witryny, system wzmacniający zostanie aktywowany w mediach społecznościowych”.

Zdaniem analityka, celem są czytelnicy z Europy, których celem jest osłabienie krajowego poparcia politycznego dla Ukrainy i osłabienie europejskich liderów, którzy popierają Ukrainę, takich jak prezydent Francji Emmanuel Macron.