CNN
—

Generał armii, który budził niegdyś strach i rządził Indonezją żelazną pięścią przez ponad trzydzieści lat, ma dla wyborców wiadomość zza grobu przed nadchodzącymi wyborami.

„Nazywam się Suharto, drugi prezydent Indonezji” – mówi były generał w trzyminutowym filmie, który uzyskał ponad 4,7 miliona wyświetleń w serwisie X i rozpowszechnił się w TikTok, Facebooku i YouTube.

Choć na pierwszy rzut oka jest to dość przekonujące, jasne jest, że surowo wyglądający mężczyzna na filmie nie jest byłym prezydentem Indonezji. Prawdziwy Suharto, nazywany „uśmiechniętym generałem”, ponieważ mimo jego bezwzględnego stylu przywództwa zawsze widywano go uśmiechniętego, zmarł w 2008 roku w wieku 86 lat.

Film był deepfakeiem wygenerowanym przez sztuczną inteligencję i stworzonym przy użyciu narzędzi, które sklonowały twarz i głos Suharto. „Film powstał, aby przypomnieć nam, jak ważne są nasze głosy w nadchodzących wyborach” – powiedział Erwin Aksa, wiceprzewodniczący Golkar – jednej z największych i najstarszych partii politycznych w Indonezji. Najpierw udostępnił wideo w dniu X przed wyborami zaplanowanymi na 14 lutego.

Partia jest jedną z 18 partii startujących w tegorocznym wyścigu, w którym do urn pójdzie ponad 200 milionów wyborców. Golkar nie wystawia własnego kandydata na prezydenta, ale udzielił wsparcia liderowi Prabowo Subianto, byłemu generałowi armii pod rządami reżimu Suharto wspieranego przez wojsko, a także jego byłemu zięciowi.

Przywracając do życia dawno zmarłego przywódcę na kilka tygodni przed głosowaniem, intencje Golkara były jasne: zachęcić wyborców, aby wspierali partię synonimiczną Suharto.

„Jako członek Golkar jestem bardzo dumny z Suharto, ponieważ z sukcesem rozwinął Indonezję” – napisała Aksa w X. „Przyniósł wiele sukcesów. Musimy to szanować i pamiętać o jego zasługach – Golkar tam był.”

Jednak krytycy internetowi potępili akt wykorzystania twarzy i głosu zmarłego, zwłaszcza do celów propagandy politycznej. „Taki jest dzisiejszy stan naszego kraju – przywracanie do życia martwych dyktatorów, aby oszukać nas i zastraszyć do głosowania” – napisał jeden z Indonezyjczyków na X.

„Od kiedy tworzenie deepfakes z martwych ludzi stało się etyczne? To takie moralnie niewłaściwe” – stwierdziła kolejna.

Świat online odgrywa ogromną rolę w indonezyjskiej polityce. W kraju o jednym z najwyższych na świecie wskaźników korzystania z Internetu prawie wszystkie partie polityczne i politycy są silnie obecni w mediach społecznościowych, aby gromadzić zwolenników i mieć wpływ.

„Deepfakes mogą znacząco wpłynąć na wybory – na sposób prowadzenia kampanii, a także na wyniki” – powiedziała Golda Benjamin, menedżerka kampanii na region Azji i Pacyfiku w Access Now, amerykańskiej organizacji non-profit zajmującej się prawami cyfrowymi.

„Niebezpieczeństwo polega na tym, jak szybko się rozprzestrzenia. Deepfake może z łatwością dotrzeć do milionów w ciągu kilku sekund, wywierając wpływ i manipulując (milionami) wyborców”.

W okresie poprzedzającym tegoroczne głosowanie obserwatorzy powiedzieli CNN, że wiele głównych partii zwróciło się w stronę sztucznej inteligencji i wykorzystywało różne fałszywe fałszywe informacje w celach politycznych.

Twierdzą, że wyprodukowany przez Golkara film Suharto był jednym z kilkudziesięciu prezentowanych w oficjalnych kampaniach partii.

Po publicznej krytyce zespół składający się z trzykrotnego kandydata na prezydenta Prabowo Subianto, a także obecnego ministra obrony Indonezji, przyznał się, że wykorzystał oprogramowanie AI, aby nadać swojemu szefowi przytulną animowaną metamorfozę na TikTok, aby przyciągnąć młodych wyborców. Większość głosów stanowią Indonezyjczycy w wieku 40 lat i młodsi – liczący około 114 milionów wyborców.

W innym filmie, który spotkał się z ostrą krytyką, partia wykorzystała w reklamie telewizyjnej dzieci wygenerowane przez sztuczną inteligencję do obejścia przepisów zabraniających dzieciom występowania w kampaniach politycznych.

„Zastosowana technologia jest tak zaawansowana… Możemy zrozumieć, jeśli niektórzy ludzie wzięli (dzieci) za prawdziwe postacie” – powiedział w oświadczeniu po opublikowaniu reklamy Budisatrio Djiwandono, bratanek Prabowa i rzecznik jego nacjonalistycznej prawicowej partii Gerindra. przez grupy strażnicze.

Partia byłego gubernatora Jawy Środkowej Ganjara Pranowa wykorzystała interaktywnego chatbota opartego na sztucznej inteligencji, aby nawiązać kontakt z potencjalnymi wyborcami. Zdjęcia AI wykonane przez kibiców zostały również wykorzystane przez partię Ganjara w jego kampanii. CNN skontaktowało się z przedstawicielami Ganjar’s Demokratyczną Partię Walki (PDIP) o komentarz.

Trzeci kandydat na prezydenta, były gubernator Dżakarty Anies Baswedan, którego kampania wykorzystuje chatbota opartego na OpenAI, który odpowiada na pytania dotyczące jego polityki w WhatsApp, ma przestrzegł przed wykorzystaniem sztucznej inteligencji podczas wyborów po tym, jak w styczniu padł ofiarą deepfake’a audio. W Internecie krążyła sfabrykowana rozmowa Aniesa, rzekomo ukaranego przez jej zwolennika politycznego.

„Musimy być krytyczni, ponieważ obecnie dostępna jest technologia sztucznej inteligencji, która może generować dźwięk lub obraz, który może wyglądać jak prawdziwy” – powiedziała Anies na wiecu kampanii pod koniec tego miesiąca.

Indonezyjskie Ministerstwo Komunikacji wydało zalecenia po kilku wirusowych filmach zawierających sztuczną inteligencję, ostrzegając firmy technologiczne i wyborców, aby uważali na deepfake. Jednak wysiłki nie były wystarczające, powiedziały CNN grupy nadzorujące.

TAPP (Tim Advokasi Peduli Pemilu), organizacja non-profit z siedzibą w Dżakarcie, stwierdziła, że ​​filmy takie jak deepfake Suharto pokazują potencjał sztucznej inteligencji w zakresie manipulacji wyborcami.

„Rząd nadal nie jest świadomy niebezpieczeństw związanych z deepfakes” – powiedział rzecznik Gugum Ridho Putra.

„Wiemy, do czego zdolna jest sztuczna inteligencja, a to dopiero początek” – dodaje. „Niepokoimy się manipulacją wyborcami, szczególnie tak blisko wyborów”.

Międzynarodowe organizacje praw człowieka uważają, że 32-letnia dyktatura Suharto jest jednym z najbardziej skorumpowanych i brutalnych okresów w historii Indonezji.

Za jego rządów tysiące ludzi zostało uwięzionych lub zabitych, gdy rozprawiał się z krytykami i przeciwnikami politycznymi oraz egzekwował władzę swojego reżimu nad Timorem Wschodnim, Acehu, Papuą Zachodnią i Malukami.

Dyskusja na temat jego rządów pozostaje w Indonezji w dużej mierze tematem tabu, a opinie na temat jego dziedzictwa są mieszane.

Ale w miejscach takich jak Kemusuk, wioska niedaleko Yogyakarty, gdzie się urodził, jego wizerunek jest wszędzie – od pamiątek muzealnych upamiętniających jego życie po pamiątkowe koszulki z jego uśmiechniętą twarzą. Teraz zyskał nową sławę w Internecie.

„Wiralowość filmu nawiązuje do jego dziedzictwa i pokazuje, jak ważny jest on dzisiaj w Indonezji” – powiedział Soe Tjen Marching, indonezyjski autor i kompozytor oraz pracownik naukowy na Uniwersytecie SOAS w Londynie. „Nie żyje od wielu lat, ale nadal ma wielu zwolenników” – dodała. „Jego duch wciąż istnieje.”

Jednak dla takich osób jak emerytowany oficer Anton Pratama (55 l.), który dorastał w czasach Suharto, ponowne pojawienie się dyktatora „było rozbrajające”.

„Nie chodzi o to, żeby go ponownie zobaczyć czy uwierzyć, że wciąż żyje” – Anton powiedział CNN, dodając, że wideo pokazał mu syn. „Obawia się, że Suharto i jego ideologia ponownie staną się popularne w kraju”.