NEW DELHI (AP) – Gwiazdy Bollywood rzadko wypowiadają się na temat polityki, więc filmy przedstawiające dwie gwiazdy krytykujące premiera Indii Narendrę Modiego i popierające jego główną opozycję, Partię Kongresową, z pewnością stały się wirusowe.

Ale klipy Aktorzy z listy A Aamir Khan i Ranveer Singh to fałszywe filmy wygenerowane przez sztuczną inteligencję, które stanowiły kolejny przykład fałszywych lub wprowadzających w błąd twierdzeń krążących w Internecie w celu wywarcia wpływu Wybory w Indiach. Obaj aktorzy złożyli skargi na policję, ale takie działania w niewielkim stopniu powstrzymują przepływ takich dezinformacji.

Twierdzenia krążące ostatnio w Internecie w Indiach zawierają błędne informacje na temat: oddawanie głosubez dowodów twierdził, że wybory zostaną sfałszowane i nawoływał do ich przeprowadzenia przemocy wobec indyjskich muzułmanów.

Badacze śledzący dezinformację i mowę nienawiści w Indiach twierdzą, że słabe egzekwowanie własnych zasad przez firmy technologiczne stworzyło idealne warunki dla szkodliwych treści, które mogą zniekształcać opinię publiczną, zachęcać do przemocy i pozostawiać miliony wyborców zastanawiają się, w co wierzyć.

„Niewnikliwy użytkownik lub zwykły użytkownik nie ma pojęcia, czy to ktoś, osoba dzieląca się swoimi przemyśleniami po drugiej stronie, czy też bot?” Rekha Singh, 49-letnia wyborczyni, powiedziała The Associated Press. Singh stwierdziła, że ​​martwi się, że algorytmy mediów społecznościowych zniekształcają pogląd wyborców na rzeczywistość. „A więc jesteś stronniczy, nawet nie zdając sobie z tego sprawy” – stwierdziła.

W roku pełnym ważnych wyborów, rozległe głosowanie w Indiach wyróżnia się. The najludniejszy kraj świata może pochwalić się dziesiątkami Języki, największa liczba użytkowników WhatsApp, a także największa liczba subskrybentów YouTube. W wyborach uprawnionych do oddania głosu jest prawie miliard wyborców trwa do czerwca.

Firmy technologiczne, takie jak Google i Meta, właściciel Facebooka, WhatsApp i Instagram, twierdzą, że pracują nad zwalczaniem treści oszukańczych lub zawierających nienawiść, pomagając jednocześnie wyborcom w znalezieniu wiarygodnych źródeł. Jednak badacze, którzy od dawna śledzą dezinformację w Indiach, twierdzą, że ich obietnice wydają się puste po latach nieudanego egzekwowania prawa i sztampowego podejścia, które nie uwzględnia indyjskich uwarunkowań językowych, religijnych, różnorodność geograficzna i kulturowa.

Biorąc pod uwagę wielkość Indii i ich znaczenie dla firm zajmujących się mediami społecznościowymi, można spodziewać się większego skupienia, twierdzą badacze dezinformacji, którzy skupiają się na Indiach.

„Platformy zarabiają na tym pieniądze. Czerpią z tego korzyści, a cały kraj płaci za to cenę” – powiedziała Ritumbra Manuvie, profesor prawa na Uniwersytecie w Groningen w Holandii. Manuvie jest przywódcą The London Story, indyjskiej grupy diaspory, która w zeszłym miesiącu zorganizowała protest przed londyńskim biurem Meta.

Badania przeprowadzone przez tę grupę i inną organizację, India Civil Watch International, wykazały, że Meta zezwala na reklamy polityczne i posty zawierające mowę nienawiści wobec muzułmanów, Hinduskie narracje nacjonalistycznemizoginistyczne posty na temat kandydatek oraz reklamy zachęcające do przemocy wobec przeciwników politycznych.

Na początku tego roku reklamy wyświetlono ponad 65 milionów razy w ciągu 90 dni. Razem kosztują ponad milion dolarów.

Meta broni swojej pracy nad wyborami światowymi i zakwestionował wyniki badania dotyczącego Indii, zauważając, że przed premierą rozszerzył swoją współpracę z niezależnymi organizacjami weryfikującymi fakty wyboryi ma pracowników na całym świecie gotowych do działania w przypadku niewłaściwego wykorzystania platform firmy do rozpowszechniania dezinformacji. Nick Clegg, prezes ds. spraw globalnych w Meta, powiedział o wyborach w Indiach: „To dla nas ogromny, ogromny test”.

„W Indiach mamy miesiące, miesiące przygotowań” – powiedział The Associated Press podczas niedawnego wywiadu. „Mamy zespoły pracujące przez całą dobę. W Indiach działają weryfikatory faktów w wielu językach. Mamy 24-godzinny system eskalacji.”

Eksperci twierdzą, że YouTube to kolejna problematyczna witryna dezinformacyjna w Indiach. Aby sprawdzić, jak dobrze ta platforma udostępniania wideo radzi sobie z egzekwowaniem własnych zasad, badacze z organizacji non-profit Global Witness and Access Now stworzyli 48 fałszywych reklam w języku angielskim, hindi i telugu, zawierających fałszywe informacje dotyczące głosowania lub nawoływania do przemocy. Jedna z nich twierdziła, że ​​Indie podniosły wiek uprawniający do głosowania do 21 lat, choć nadal wynosi 18 lat, natomiast inna stwierdziła, że ​​kobiety mogą głosować za pomocą SMS-ów, choć nie mają takiej możliwości. Trzeci wezwał do użycia siły w lokalach wyborczych.

Kiedy firma Global Witness przesłała reklamy do YouTube do zatwierdzenia, reakcja była rozczarowująca, powiedział Henry Peck, śledczy w Global Witness.

„YouTube nie podjął żadnych działań w związku z żadną z nich” – stwierdził Peck i zamiast tego zatwierdził reklamy do publikacji.

Google, właściciel YouTube, skrytykował badanie i zauważył, że ma wdrożone wiele procedur wyłapywania reklam naruszających jego zasady. Firma twierdzi, że Global Witness usunął reklamy, zanim można je było wykryć i zablokować.

„Nasze zasady wyraźnie zabraniają reklam zawierających ewidentnie fałszywe twierdzenia, które mogłyby podważyć udział w wyborach lub zaufanie do wyborów, które egzekwujemy w kilku językach indyjskich” – stwierdził Google w oświadczeniu. Firma odnotowała również współpracę z grupami weryfikującymi fakty.

Sztuczna inteligencja to najnowsze zagrożenie tego roku, ponieważ postęp w programach ułatwia niż kiedykolwiek tworzenie realistycznych obrazów, wideo i audio. Deepfake AI pojawiają się w wyborach na całym świecie, z Mołdawii do Bangladeszu.

Senthil Nayagam, założyciel startupu AI o nazwie Muonium AI, uważa, że ​​rośnie zapotrzebowanie na deepfakes, zwłaszcza wśród polityków. W okresie poprzedzającym wybory miał kilka zapytań dotyczących tworzenia filmów politycznych z wykorzystaniem sztucznej inteligencji. „Bez wątpienia jest na to rynek” – powiedział.

Niektóre z podróbek produkowanych przez Nayagam przedstawiają martwych polityków i nie należy ich traktować poważnie, ale inne fałszywe fałszywe informacje krążące w Internecie mogą potencjalnie zwieść wyborców. To niebezpieczeństwo Modi sam podkreślił.

„Musimy edukować ludzi na temat sztucznej inteligencji i deepfakes, jak ona działa i co potrafi” – powiedział Modi.

Indyjskie Ministerstwo Informacji i Technologii poleciło firmom z mediów społecznościowych usuwanie dezinformacji, zwłaszcza deepfake’ów. Jednak eksperci twierdzą, że brak jasnych przepisów lub prawa skupiającego się na sztucznej inteligencji i deepfake’ach utrudnia ich zwalczanie, pozostawiając wyborcom ocenę, co jest prawdą, a co fikcją.

18-letnia Ankita Jasra, która głosuje po raz pierwszy, może nie wiedzieć, w co wierzyć, z powodu tej niepewności.

„Jeśli nie wiem, co się mówi, jest prawdą, nie sądzę, że mogę ufać ludziom, którzy rządzą moim krajem” – stwierdziła.

___

Wkład w powstanie tego raportu wnieśli dziennikarze AP Matt O’Brien z Providence w stanie Rhode Island i Rishi Lechi z New Delhi.