Google jest na lepkiej furtce. Po pierwsze, podobno był kwestionowany za to, że nie przewodził w uruchamianiu rozwiązania opartego na sztucznej inteligencji, takiego jak ChatGPT, a kiedy to się stało, grupa Googlerów skrytykowała go za pośpieszny debiut, jak sugerowały raporty. Wśród tego zamieszania w firmie, Prabhakar Raghavanprzewodniczący Wyszukiwarka Googlewydał „ostrzeżenie” o głównych pułapkach chatbotów AI.
Sztuczna inteligencja może mieć „halucynacje”
W niedawnym wywiadzie dla niemieckiej gazety Welt am Sonntag (za pośrednictwem agencji prasowej Reuters) Raghavan zwrócił uwagę na potencjalne zagrożenia związane ze sztuczną inteligencją (AI) w chatbotach. Ostrzegł przed „halucynacją” w sztucznej inteligencji, która może dać przekonującą, ale całkowicie zmyśloną odpowiedź.
„Ten rodzaj sztucznej inteligencji, o którym teraz mówimy, może czasami prowadzić do czegoś, co nazywamy halucynacjami. Następnie wyraża się to w taki sposób, że maszyna zapewnia przekonującą, ale całkowicie zmyśloną odpowiedź” – powiedział.

Raghavan dodał, że jednym z podstawowych zadań podczas pracy z AI było ograniczenie tego do minimum. Dyrektor podobno powiedział również, że Google odczuwa pilną potrzebę publicznego udostępnienia Bard, ale jest też wielka odpowiedzialność, aby nie wprowadzać ludzi w błąd.
Google twierdzi, że sztuczna inteligencja wiąże się z odpowiedzialnością
To nie pierwszy raz, kiedy Google zwraca uwagę na potencjalne zagrożenia związane ze sztuczną inteligencją. Na spotkaniu w grudniu dyrektor generalny Google Sundar Pichai i Jeff Dean, szef działu sztucznej inteligencji Google, powiedzieli pracownikom, że koszt wypuszczenia chatbota opartego na sztucznej inteligencji w firmie jest wyższy niż w przypadku start-upu [OpenAI] ponieważ ludzie ufają odpowiedziom, które otrzymują od Google.
Kierownictwo rozmawiało również o problemach chatbotów AI, takich jak stronniczość i fakty, co sprawia, że ​​nie nadają się do zastąpienia wyszukiwania w sieci.

„Ryzyko utraty reputacji” Google
Google jest znacznie większą firmą w porównaniu do OpenAI, a według Deana ma znacznie większe „ryzyko reputacyjne” w dostarczaniu błędnych informacji. Powiedział, że to jest powód, dla którego firma porusza się „bardziej konserwatywnie niż mały startup”.
Sztuczna inteligencja „może zmyślać. Jeśli nie są czegoś pewni, po prostu ci powiedzą, wiesz, że słonie to zwierzęta, które składają największe jaja czy coś w tym stylu” – cytuje Deana CNBC.
„Absolutnie chcemy wprowadzić te rzeczy do prawdziwych produktów i do rzeczy, które bardziej eksponują model językowy, a nie pod okładkami, gdzie używamy ich do tej pory. Ale to bardzo ważne, żebyśmy to dobrze zrozumieli – dodał Dean.

Google’a LaMDA
Google mogło mieć zaległości w wypuszczaniu chatbota opartego na sztucznej inteligencji, ale wydaje się, że komentarze najwyższego kierownictwa firmy i ostrożne podejście firmy wydają się być wiarygodne.
Firma od jakiegoś czasu pracuje nad sztuczną inteligencją. Niedawno wprowadzony przez Google chatbot konwersacyjny oparty na sztucznej inteligencji, Bard, korzysta z modelu językowego dla aplikacji dialogowych (LaMDA). Jest to ten sam model, który napędzał firmowego chatbota, który podobno stał się świadomy – co oznacza, że ​​mógł odczuwać różne rzeczy.
Doniesiono, że inżynier Google związany z rozwojem chatbota twierdził, że stał się on tak wyrafinowany, że gdyby ktoś nie wiedział, że rozmawia z chatbotem AI, pomyślałby „to był siedmiolatek, osiem lat -letni dzieciak, który przypadkiem zna się na fizyce.
Wkrótce po upublicznieniu tego rozwoju Google wysłał inżyniera na płatny urlop, mówiąc, że wykonał szereg „agresywnych” ruchów.