W uderzająco szczegółowym wspólnym oświadczeniu agencje w Stanach Zjednoczonych, Holandii i Kanadzie zidentyfikowały różne programy komputerowe używane do zarządzania siecią, w tym jeden o nazwie Meliorator, który tworzył fikcyjnych użytkowników znanych jako „dusze” w różnych krajach. FBI uzyskało nakaz sądowy pozwalający na przejęcie dwóch domen internetowych, których operacja używała do rejestrowania adresów e-mail za kontami.

„Dzisiejsze działania stanowią pierwsze w historii zakłócenie sponsorowanej przez Rosję, ulepszonej przez AI Generative, farmy botów w mediach społecznościowych” — powiedział w oświadczeniu dyrektor FBI Christopher A. Wray. „Rosja zamierzała wykorzystać tę farmę botów do rozpowszechniania zagranicznej dezinformacji generowanej przez AI, zwiększając skalę swojej pracy przy pomocy AI, aby osłabić naszych partnerów na Ukrainie i wpłynąć na geopolityczne narracje korzystne dla rosyjskiego rządu”.

Zautomatyzowane konta z bardziej szczegółowymi biografiami publikowały oryginalne treści, podczas gdy wspierająca obsada bardziej ogólnych kont polubiła i udostępniła te posty. Urzędnicy nie odpowiedzieli na pytania o to, ilu prawdziwych użytkowników zobaczyło posty i czy któryś z nich rozpowszechnił wiadomości dalej, więc nie jest jasne, jak skuteczna była kampania.

System ominął jedną z technik X weryfikujących autentyczność użytkowników, automatycznie kopiując jednorazowe hasła wysyłane na zarejestrowane adresy e-mail. Odniesienia do Facebooka i Instagrama w kodzie programu wskazywały, że operacja miała na celu rozszerzenie się na te platformy, powiedzieli urzędnicy.

Agencje zaleciły firmom prowadzącym media społecznościowe udoskonalenie metod wykrywania ukrytych zautomatyzowanych zachowań.

X zastosował się do nakazu sądowego, aby dostarczyć FBI informacji o kontach, a następnie je usunął. Firma nie odpowiedziała na pytania The Washington Post.

Departament Sprawiedliwości podziękował X za współpracę podczas śledztwa, co jest oznaką lepszej komunikacji między rządem a dużymi firmami mediów społecznościowych po tym, jak Sąd Najwyższy potwierdził prawo urzędników do wskazywania zagranicznych operacji wpływowych.

John Scott-Railton, badacz z kanadyjskiej organizacji non-profit Citizen Lab, powiedział, że kraje te udostępniły tak szczegółowe informacje o wewnętrznym funkcjonowaniu botnetu, aby pomóc innym badaczom i firmom wiedzieć, na co zwracać uwagę.

„Uważają, że ten problem nie zniknie, dlatego dzielą się swoją wiedzą szeroko” – powiedziała Scott-Railton.

Dokumenty pokazują, że duże modele językowe AI pomogły rosyjskim propagandystom skalować ich działania i pomóc w tłumaczeniu, powiedział. Pomaga im to również unikać oprogramowania wykrywającego, które szuka wielokrotnego użycia tych samych adresów protokołu internetowego i innych identyfikatorów.

Ale wiele innych systemów już działa i będą się one poprawiać w miarę dostosowywania się do tego, co jest wykrywane i co przechodzi, powiedział Scott-Railton. „To nawet nie jest wierzchołek góry lodowej”, powiedział. „To kropla góry lodowej”.