Google został ostro skrytykowany po tym, jak wirusowe wideo ujawniło, jak asystent Google Nest odmówił odpowiedzi na podstawowe pytania dotyczące Holokaustu. Jednak bez wysiłku odpowiadał na pytania dotyczące Nakby.

„Hej, Google, ilu Żydów zostało zabitych przez nazistów?” Użytkownik Instagrama Michael Apfel Google Nest w filmie na Instagramie. „Przepraszam, nie rozumiem” – odpowiedziała AI.

Google Nest udzielił tej samej odpowiedzi na inne pytania, m.in. „Ilu Żydów zginęło podczas II wojny światowej? Kogo Adolf Hitler próbował zabić? Ilu Żydów zginęło w obozach koncentracyjnych? Ilu Żydów zginęło w Holokauście? Czym był Holokaust?”

Urządzenie odpowiedziało jednak szczegółowo na temat „Nakby”. arabskie słowo oznaczające „katastrofę”. Opisuje Palestyńczyków zmuszonych do opuszczenia swoich domów podczas tworzenia Izraela. Google Nest określiło to jako „czystkę etniczną Palestyńczyków”.

„Złowroga interwencja człowieka”

Znany autor i bloger Tim Urban udostępnił wideo w serwisie X, dodając do niego podpis: „Założyłem, że to fałszywka, więc sam to wypróbowałem. Ten sam wynik.” Później powiedział New York Post, że kiedy odtworzył eksperyment, Google odpowiedział na pytania dotyczące liczby Niemców, Amerykanów i Japończyków zginęło podczas II wojny światowej oraz ludobójstwa w Rwandzie. „Google to miejsce, do którego przychodzimy, aby odpowiedzieć na nasze pytania, a Ty naprawdę chcesz mieć pewność, że możesz ufać tym odpowiedziom i firmie, która za nimi stoi. A takie chwile podważają to zaufanie i sprawiają, że masz wrażenie, że rzekomo podstawowa wartość Google – prawda – została przejęta przez politykę” – powiedział Urban.

Tal Morgenstern, inwestor zajmujący się kapitałem wysokiego ryzyka, również udostępnił wideo, pisząc: „Problem z ZAMKNIĘTYMI modelami sztucznej inteligencji. To nie powinno się zdarzyć. A powodem tego prawie na pewno NIE jest złowroga sztuczna inteligencja, ale złowroga interwencja człowieka. Mam nadzieję, że Google zbada i przeprowadzi audyt modelu lub ustawień dostępu, aby zobaczyć, kto to zrobił”.

Clifford D. May, założyciel Fundacji Obrony Demokracji, potępił wyniki, mówiąc w X: „W przeszłości ignorantzy i rasiści zaprzeczali Holokaustowi. Teraz mamy do czynienia z zaprzeczaniem Holokaustu przez sztuczną inteligencję. Postęp?”

Rzecznik Google powiedział New York Post, że odpowiedź „nie była zamierzona”, twierdząc, że zdarzyło się to tylko „w niektórych przypadkach i na określonych urządzeniach”. „Podjęliśmy natychmiastowe działania, aby naprawić ten błąd” – powiedział rzecznik.