W Iskry sztucznej inteligencji ogólnej: wczesne eksperymenty z GPT-4, Badacze Microsoftu poinformowali 22 marca o wynikach badania „wczesnej wersji” GPT-4, twierdząc, że wykazuje ona „bardziej ogólną inteligencję niż poprzednie modele AI”. Biorąc pod uwagę zakres i głębię możliwości GPT-4, wykazujących się wydajnością zbliżoną do ludzkiej w różnych nowatorskich i trudnych zadaniach, naukowcy doszli do wniosku, że „można go rozsądnie postrzegać jako wczesną (jeszcze wciąż niekompletną) wersję sztucznego generała system wywiadowczy (AGI).

Badacze Microsoftu osiągnęli szczyt w GPT-4 (wydany 14 marca), prawdopodobnie dlatego, że Microsoft zainwestował 10 miliardów dolarów w OpenAI, twórcę GPT-4 i ChatGPT. Gary Marcus nie był zadowolony. „To głupie twierdzenie, biorąc pod uwagę, że jest całkowicie otwarte na interpretację (czy kalkulator można uznać za wczesną, ale niekompletną wersję AGI? A co z Elizą? Siri?)”, argumentował Marcus, wskazując na ciągłe braki obecnej generacji duże modele językowe (LLM): „Problem halucynacji nie został rozwiązany; niezawodność nie jest rozwiązana; planowanie złożonych zadań nie jest (jak przyznają sami autorzy) nie rozwiązane.”

Jeśli przez „AGI” rozumiemy (łącznie z Marcusem) sprawienie, by maszyna była tak „inteligentna” jak ludzie, dlaczego halucynacje, cecha bardzo ludzka, stanowią problem? Czy „AGI” lub nawet zwykła „AI” nie jest bardzo ludzką halucynacją?

Jedna z definicji halucynacji podana w słowniku Marriam-Webster to „bezpodstawne lub błędne wrażenie lub wyobrażenie”. Oczywiście Marcus, podobnie jak wielu innych inteligentnych ludzi dzisiaj, uważa, że ​​kalkulator nie jest sztuczną inteligencją ani niekompletnym AGI. Ale to błędne pojęcie (lub halucynacja) było rozwijane przez wielu inteligentnych ludzi przez wiele lat.

W 1833 roku współcześni Charlesowi Babbage’owi nazywali jego kalkulator mechaniczny lub, jak byśmy to nazwali dzisiaj, mechaniczny komputer ogólnego przeznaczenia, „myślącą maszyną”. W 1949 roku napisał pionier komputerowy Edmund Berkeley Gigantyczne mózgi lub maszyny, które myślą:

„Ostatnio pojawiło się wiele wiadomości o dziwnych gigantycznych maszynach, które potrafią przetwarzać informacje z ogromną szybkością i umiejętnościami… Te maszyny są podobne do tego, czym byłby mózg, gdyby był wykonany ze sprzętu i drutu zamiast ciała i nerwów… Maszyna może przetwarzać informacje; może obliczyć, wnioskować i wybrać; może wykonywać rozsądne operacje na informacjach. Dlatego maszyna może myśleć”.

Inni pionierzy komputerów, tacy jak Maurice Wilkes i Arthur Samuel, uważali, że kwestia tego, czy maszyny mogą — lub kiedykolwiek potrafiły — myśleć, zależy od tego, jak zdefiniujesz „myślenie”. Niestety definiowanie tego, o czym mówisz, jest dziś uważane za myślenie bardzo staromodne. Na przykład niedawne 2-letnie wysiłki dużej grupy bardzo wybitnych naukowców zajmujących się sztuczną inteligencją, mające na celu ustalenie punktu odniesienia dla „Stoletnich badań nad sztuczną inteligencją”, wykazały, że brak jasnej definicji tego, co badają, jest w rzeczywistości dobrą rzeczą .

I oskarżamy ChatGPT o „halucynacje”?

Chciałem przeprowadzić własne dochodzenie, więc zapytałem ChatGPT (wersja z 14 marca), jaka jest definicja AGI i oto, co otrzymałem w odpowiedzi:

„Sztuczna inteligencja ogólna (AGI) odnosi się do teoretycznego typu sztucznej inteligencji, która posiada zdolności poznawcze podobne do ludzkich, takie jak zdolność uczenia się, rozumowania, rozwiązywania problemów i komunikowania się w języku naturalnym”.

Zadałem to samo pytanie czatowi Bing firmy Microsoft (który prawdopodobnie jest oparty na ChatGPT) i otrzymałem odpowiedź:

„Sztuczna ogólna inteligencja (AGI) to reprezentacja uogólnionych ludzkich zdolności poznawczych w oprogramowaniu, dzięki czemu w obliczu nieznanego zadania system AGI może znaleźć rozwiązanie. Intencją systemu AGI jest wykonanie każdego zadania, do którego jest zdolny człowiek [1]. To inteligencja maszyn pozwala im rozumieć, uczyć się i wykonywać zadania intelektualne, podobnie jak ludzie. Dzięki AGI maszyny mogą naśladować ludzki umysł i zachowanie, aby rozwiązać każdy złożony problem [2]”.

W przeciwieństwie do ChatGPT, Bing Chat cytuje swoje źródła i linki do nich. [1] jest serwisem informacyjnym Tech Target; [2] to artykuł napisany przez badacza AI i opublikowany w Spiceworks. Na wszelki wypadek Bing dodaje trzecie źródło (ale jego odpowiedź na nim nie polega?), artykuł w Wikipedii na temat AGI.

Nieco inne odpowiedzi, ale dla mojej skromnej ludzkiej inteligencji obie wyglądają zgodnie z naszą zbiorową halucynacją i niejasnym językiem dotyczącym myślących maszyn i sztucznej inteligencji.

Teraz, w interesie pełnego ujawnienia, powiem wam, że spodziewałem się poważnych halucynacji chatbotów, ponieważ wpadłem na pomysł sprawdzenia ich definicji AGI po tym, jak odkryłem, jak zdezorientowani i zagmatwani są ich ludzcy twórcy i, mówiąc wam, Prawdę mówiąc, spodziewałem się, że ich sztuczne potomstwo będzie podobnie zdezorientowane.

Na stronie OpenAI znalazłeś następującą definicję AGI: „wysoce autonomiczne systemy, które przewyższają ludzi w pracy najbardziej wartościowej ekonomicznie”. Nie podano wyjaśnienia „wysoce autonomicznego”, więc można dojść do wniosku, że wczesne „olbrzymie mózgi”, które już obliczały szybciej niż ludzie, kwalifikowały się jako AGI (Alan Turing oszacował w 1947 r., że jeden z tych gigantycznych mózgów – ACE – mógł „wykonywać praca około 10 tys [human] komputery”).

Ta „definicja” AGI pojawia się w statucie OpenAI z 2018 r., który obiecuje zapewnić, że AGI, ostateczny cel organizacji, „przyniesie korzyści całej ludzkości”. Jednak biorąc pod uwagę ostatnie wydarzenia i światową sławę, dyrektor generalny OpenAI, Sam Altman, opublikował 24 lutego 2023 r. „Planning for AGI and Beyond”, w którym zrewidował (uaktualnił?) definicję AGI: „Naszą misją jest zapewnienie, że sztuczne ogólna inteligencja — systemy sztucznej inteligencji, które są ogólnie inteligentniejsze niż ludzie — przynosi korzyści całej ludzkości”. Jak widać, link prowadzi z powrotem do karty, która nadal wyświetla poprzednią definicję.

Inteligencja ludzka czuje się komfortowo z niejasnymi, okrężnymi, odmiennymi, a nawet sprzecznymi definicjami. Ludzka inteligencja oddaje się halucynacjom i od czasu powstania nowoczesnej nauki i technologii oddaje się halucynacjom, zwłaszcza halucynacjom o człowieku jako stwórcy podobnym do Boga. Ostatnio te halucynacje zostały ulepszone, aby wyobrazić sobie Człowieka jako nawet lepszego od Boga, ponieważ mężczyźni i kobiety AI bez wątpienia stworzą inteligentną maszynę, która jest mądrzejsza, bardziej moralna, mniej stronnicza niż istoty ludzkie.

Będąc pod wrażeniem tego, że ChatGPT nie podąża za mylącym językiem i wieloma definicjami swoich twórców, wróciłem i zapytałem dobrego chatbota: Czy wykazujesz iskierki inteligencji?

„Jako model języka sztucznej inteligencji zostałem zaprojektowany do naśladowania ludzkiej inteligencji w niektórych zadaniach, takich jak generowanie odpowiedzi na dane wprowadzane przez użytkownika. Zostałem przeszkolony w zakresie dużych ilości danych tekstowych i nauczyłem się rozpoznawać wzorce i relacje w języku, co pozwala mi generować odpowiedzi, które są odpowiednie kontekstowo i poprawne gramatycznie.

Należy jednak zauważyć, że moja inteligencja jest ograniczona do konkretnego zadania, do którego zostałem wyszkolony, i nie posiadam tego samego poziomu ogólnej inteligencji ani zdolności poznawczych co człowiek. Chociaż moje odpowiedzi mogą wydawać się inteligentne, ostatecznie są one generowane przez zestaw zaprogramowanych reguł i algorytmów statystycznych, a nie przez prawdziwe rozumowanie lub zrozumienie”.

Może badacze Microsoftu powinni zaufać tej maszynie.

Obserwuj mnie na Świergot lub LinkedInie. Wymeldować się moja strona internetowa.