Geoffrey Hinton był pionierem sztucznej inteligencji. W 2012 roku Hinton i dwóch jego absolwentów na Uniwersytecie w Toronto stworzyli technologię, która stała się intelektualną podstawą systemów sztucznej inteligencji, które według największych firm z branży technologicznej są kluczem do ich przyszłości.

Jednak w poniedziałek oficjalnie dołączył do rosnącego chóru krytyków, którzy twierdzą, że te firmy ścigają się w kierunku niebezpieczeństwa, prowadząc agresywną kampanię mającą na celu tworzenie produktów opartych na generatywnej sztucznej inteligencji, technologii, która napędza popularne chatboty, takie jak ChatGPT.

Hinton powiedział, że rzucił pracę w Google, gdzie pracował przez ponad dekadę i stał się jednym z najbardziej szanowanych głosów w tej dziedzinie, więc może swobodnie mówić o zagrożeniach związanych ze sztuczną inteligencją. Część niego, powiedział, teraz żałuje pracy swojego życia.

„Pocieszam się normalną wymówką: gdybym tego nie zrobił, zrobiłby to ktoś inny” — powiedział Hinton podczas długiego wywiadu w zeszłym tygodniu w jadalni swojego domu w Toronto, w odległości krótkiego spaceru od miejsca, w którym on i jego uczniowie dokonali przełomu.

Droga Hintona od pioniera sztucznej inteligencji do proroka zagłady to niezwykły moment dla branży technologicznej w prawdopodobnie najważniejszym punkcie zwrotnym od dziesięcioleci. Liderzy branży uważają, że nowe systemy sztucznej inteligencji mogą być równie ważne jak wprowadzenie przeglądarki internetowej na początku lat 90.

Ale wielu znawców branży gryzie strach, że wypuszczają coś niebezpiecznego na wolność. Generatywna sztuczna inteligencja może już być narzędziem dezinformacji. Wkrótce może to stanowić zagrożenie dla miejsc pracy. Gdzieś w dalszej części, największe zmartwienia technologiczne, mówią, że może to stanowić zagrożenie dla ludzkości.

„Trudno zobaczyć, jak można powstrzymać złych aktorów przed używaniem go do złych rzeczy” – powiedział Hinton.

Po tym, jak start-up OpenAI z San Francisco wypuścił w marcu nową wersję ChatGPT, ponad 1000 liderów technologii i badaczy podpisało list otwarty wzywający do wprowadzenia sześciomiesięcznego moratorium na rozwój nowych systemów, ponieważ technologie sztucznej inteligencji stanowią „głębokie zagrożenie dla społeczeństwa i ludzkości”. ”.

Kilka dni później 19 obecnych i byłych liderów Association for the Advancement of Artificial Intelligence, 40-letniego stowarzyszenia akademickiego, opublikowało własny list ostrzegający przed zagrożeniami związanymi ze sztuczną inteligencją. W grupie tej znalazł się Eric Horvitz, dyrektor naukowy w firmie Microsoft, która wdrożyła technologię OpenAI w szerokiej gamie produktów, w tym w wyszukiwarce Bing.

Hinton, często nazywany „ojcem chrzestnym sztucznej inteligencji”, nie podpisał żadnego z tych listów i powiedział, że nie chce publicznie krytykować Google ani innych firm, dopóki nie rzuci pracy. W zeszłym miesiącu poinformował firmę, że rezygnuje, aw czwartek rozmawiał telefonicznie z Sundarem Pichai, dyrektorem generalnym firmy macierzystej Google, Alphabet. Odmówił publicznego omówienia szczegółów swojej rozmowy z Pichai.

Główny naukowiec Google, Jeff Dean, powiedział w oświadczeniu: „Pozostajemy zaangażowani w odpowiedzialne podejście do sztucznej inteligencji. Nieustannie uczymy się rozumieć pojawiające się zagrożenia, jednocześnie odważnie wprowadzając innowacje”.

Hinton, 75-letni brytyjski emigrant, przez całe życie był naukowcem, którego karierę napędzały osobiste przekonania na temat rozwoju i wykorzystania sztucznej inteligencji. W 1972 roku, jako doktorant na Uniwersytecie w Edynburgu, Hinton przyjął ideę zwaną siecią neuronową. Sieć neuronowa to system matematyczny, który uczy się umiejętności poprzez analizę danych. W tamtym czasie niewielu badaczy wierzyło w ten pomysł. Ale stało się to dziełem jego życia.

W latach 80. Hinton był profesorem informatyki na Carnegie Mellon University, ale wyjechał z uniwersytetu do Kanady, ponieważ powiedział, że niechętnie przyjmuje fundusze Pentagonu. W tamtym czasie większość badań nad sztuczną inteligencją w Stanach Zjednoczonych była finansowana przez Departament Obrony. Hinton jest głęboko przeciwny używaniu sztucznej inteligencji na polu bitwy – co nazywa „żołnierzami-robotami”.

W 2012 roku Hinton i jego dwaj studenci z Toronto, Ilya Sutskever i Alex Krishevsky, zbudowali sieć neuronową, która może analizować tysiące zdjęć i nauczyć się identyfikować typowe obiekty, takie jak kwiaty, psy i samochody.

Google wydał 44 miliony dolarów na przejęcie firmy założonej przez Hintona i jego dwóch studentów. A ich system doprowadził do powstania coraz potężniejszych technologii, w tym nowych chatbotów, takich jak ChatGPT i Google Bard. Sutskever został głównym naukowcem w OpenAI. W 2018 roku Hinton i dwóch innych długoletnich współpracowników otrzymało nagrodę Turinga, często nazywaną „nagrodą Nobla w dziedzinie informatyki”, za pracę nad sieciami neuronowymi.

Mniej więcej w tym samym czasie Google, OpenAI i inne firmy zaczęły budować sieci neuronowe, które uczyły się z ogromnych ilości cyfrowego tekstu. Hinton uważał, że jest to potężny sposób rozumienia i generowania języka przez maszyny, ale był gorszy od sposobu, w jaki ludzie radzili sobie z językiem.

Potem, w zeszłym roku, kiedy Google i OpenAI zbudowały systemy wykorzystujące znacznie większe ilości danych, jego pogląd się zmienił. Nadal uważał, że pod pewnymi względami systemy te są gorsze od ludzkiego mózgu, ale sądził, że pod innymi przyćmiewają ludzką inteligencję. „Może to, co dzieje się w tych systemach”, powiedział, „jest w rzeczywistości o wiele lepsze niż to, co dzieje się w mózgu”.

Wierzy, że w miarę jak firmy ulepszają swoje systemy sztucznej inteligencji, stają się one coraz bardziej niebezpieczne. „Spójrz, jak to było pięć lat temu i jak jest teraz” – powiedział o technologii sztucznej inteligencji. „Weź różnicę i propaguj ją dalej. To jest straszne.”

Powiedział, że do zeszłego roku Google działał jako „właściwy zarządca” technologii, uważając, aby nie wypuścić czegoś, co mogłoby wyrządzić szkodę. Ale teraz, gdy Microsoft rozszerzył swoją wyszukiwarkę Bing o chatbota – rzucając wyzwanie podstawowej działalności Google – Google ściga się, by wdrożyć ten sam rodzaj technologii. Giganci technologiczni są uwikłani w konkurencję, której zatrzymanie może być niemożliwe, powiedział Hinton.

Jego bezpośrednim zmartwieniem jest to, że Internet zostanie zalany fałszywymi zdjęciami, filmami i tekstami, a przeciętny człowiek „nie będzie już mógł wiedzieć, co jest prawdą”.

Martwi się również, że technologie sztucznej inteligencji z czasem wywrócą rynek pracy do góry nogami. Obecnie chatboty, takie jak ChatGPT, mają tendencję do uzupełniania ludzkich pracowników, ale mogą zastąpić asystentów prawnych, osobistych asystentów, tłumaczy i inne osoby wykonujące rutynowe zadania. „To zabiera harówkę” – powiedział. „To może zabrać więcej”.

W przyszłości martwi się, że przyszłe wersje technologii stanowią zagrożenie dla ludzkości, ponieważ często uczą się nieoczekiwanych zachowań na podstawie ogromnych ilości analizowanych danych. Staje się to problemem, powiedział, ponieważ osoby i firmy pozwalają systemom sztucznej inteligencji nie tylko generować własny kod komputerowy, ale w rzeczywistości samodzielnie uruchamiać ten kod. I boi się dnia, w którym prawdziwie autonomiczna broń — te zabójcze roboty — stanie się rzeczywistością.

„Pomysł, że to coś może stać się mądrzejsze od ludzi – kilka osób w to wierzyło” – powiedział. „Ale większość ludzi uważała, że ​​to daleko. A ja myślałem, że to daleko. Myślałem, że to kwestia 30 do 50 lat, a nawet dłużej. Oczywiście już tak nie myślę”.

Wielu innych ekspertów, w tym wielu jego studentów i współpracowników, twierdzi, że to zagrożenie jest hipotetyczne. Hinton uważa jednak, że wyścig między Google a Microsoftem i innymi firmami przerodzi się w globalny wyścig, który nie zakończy się bez jakiejś globalnej regulacji.

Ale to może być niemożliwe – powiedział. Powiedział, że w przeciwieństwie do broni nuklearnej nie ma możliwości dowiedzenia się, czy firmy lub kraje pracują nad technologią w tajemnicy. Największą nadzieją jest współpraca czołowych światowych naukowców nad sposobami kontrolowania technologii. „Nie sądzę, że powinni zwiększać skalę, dopóki nie zrozumieją, czy mogą to kontrolować” – powiedział.

Hinton powiedział, że kiedy ludzie pytali go, jak mógłby pracować nad technologią, która jest potencjalnie niebezpieczna, parafrazował Roberta Oppenheimera, który kierował amerykańskimi wysiłkami na rzecz budowy bomby atomowej: i zrób to”.

Już tak nie mówi.