Google twierdzi, że wprowadził kilkanaście ulepszeń technicznych w przeglądach AI (reprezentacyjnych)

Tydzień po serii zrzutów ekranu narzędzia Google do wyszukiwania sztucznej inteligencji – AI Reviews – zawierających niedokładne odpowiedzi, które pojawiły się w mediach społecznościowych, Google wydał wyjaśnienia, podając jako przyczyny błędu „pustkę w danych” i „lukę informacyjną”.

Kilka tygodni temu Google uruchomiło w USA eksperymentalną funkcję wyszukiwania opartej na sztucznej inteligencji, jednak wkrótce spotkała się ona z krytyką, gdy ludzie udostępnili w mediach społecznościowych dziwne reakcje wyszukiwarki, w tym kazanie ludziom, aby jedli kamienie i mieszali ser do pizzy z klejem. .

W poście na blogu Google przyznał, że „pewne dziwne, niedokładne lub nieprzydatne przeglądy sztucznej inteligencji z pewnością się pojawiły”, jednocześnie demaskując rzekome niebezpieczne odpowiedzi na takie tematy, jak zostawianie psów w samochodach i palenie w czasie ciąży, stwierdzając, że te przeglądy sztucznej inteligencji „nigdy się nie ukazały”. Google zwróciło również uwagę na dużą liczbę fałszywych zrzutów ekranu udostępnianych w Internecie, nazywając je „oczywistymi” i „głupimi”.

Gigant technologiczny stwierdził, że zaobserwował „nowe, bezsensowne wyszukiwania, pozornie mające na celu uzyskanie błędnych wyników” i dodał, że jednym z obszarów, w których należy ulepszyć, jest interpretowanie bezsensownych zapytań i treści satyrycznych.

Powołując się na przykład pytania zawartego w wirusowych zrzutach ekranu – „Ile kamieni powinienem zjeść?” – Google stwierdziło, że praktycznie nikt nie zadawał tego pytania, zanim te zrzuty ekranu stały się wirusowe. Ponieważ niewiele wysokiej jakości treści internetowych, które poważnie rozważają tę kwestię, jest dostępnych w Internecie, stworzyło to „pustkę w danych” lub „lukę informacyjną” – stwierdził Google. Wyjaśniając, dlaczego wyszukiwarka dała dziwaczną odpowiedź na to konkretne zapytanie, Google stwierdził: „istnieją treści satyryczne na ten temat… które również zostały ponownie opublikowane w witrynie internetowej dostawcy oprogramowania geologicznego. Kiedy więc ktoś zadał to pytanie W wyszukiwarce pojawił się przegląd sztucznej inteligencji, który był wiernie powiązany z jedną z niewielu stron internetowych, które zajmowały się tym pytaniem.

W poście na blogu Liz Reid, wiceprezes, szefowa wyszukiwarki Google, wyjaśniła również, jak działają przeglądy AI i co odróżnia je od chatbotów i innych produktów LLM. Powiedziała, że ​​przeglądy AI są „oparte na dostosowanym modelu językowym, zintegrowanym z naszymi podstawowymi systemami rankingowymi w sieci i zaprojektowane do wykonywania tradycyjnych zadań „wyszukiwania”, takich jak identyfikowanie trafnych, wysokiej jakości wyników z indeksu Google”. Dlatego też przeglądy AI nie tylko udostępniają tekst, ale także odpowiednie linki potwierdzające wyniki i umożliwiające użytkownikom dalszą eksplorację.

„Oznacza to, że przeglądy sztucznej inteligencji na ogół nie powodują halucynacji ani zmyśleń w sposób, w jaki mogłyby to zrobić inne produkty LLM” – stwierdziła.

Według Google, gdy w przeglądzie sztucznej inteligencji pojawia się błąd, dzieje się tak z takich powodów, jak „błędna interpretacja zapytań, błędna interpretacja niuansów językowych w Internecie lub brak dostępnych wielu przydatnych informacji”.

Po zidentyfikowaniu wzorców, w których Google się myli, firma stwierdziła, że ​​wprowadziła kilkanaście ulepszeń technicznych, takich jak:

• Google opracował lepsze mechanizmy wykrywania bezsensownych zapytań i ograniczył uwzględnianie treści satyrycznych i humorystycznych.
• Google zaktualizowało swoje systemy, aby ograniczyć wykorzystanie treści generowanych przez użytkowników w odpowiedziach, które mogą zawierać wprowadzające w błąd porady.
• Google dodało ograniczenia wyzwalania zapytań, w przypadku których przeglądy AI nie okazały się tak pomocne.
• Przeglądy sztucznej inteligencji dotyczące trudnych tematów nie będą wyświetlane tam, gdzie najważniejsza jest „świeżość i rzeczowość”.

Oprócz tych ulepszeń Google stwierdził, że stwierdził naruszenie polityki treści w przypadku „mniej niż jednego na 7 milionów unikalnych zapytań”, w przypadku których pojawiły się przeglądy AI, i podjął wobec nich działania.