Informatycy, którzy pomogli zbudować podstawy dzisiejszej technologii sztucznej inteligencji i ci, którzy kierują jej kierunkiem, zgodnie ostrzegają przed jej niebezpieczeństwami. Pionier sztucznej inteligencji, Geoffrey Hinton, nie był inny, ponieważ powiedział, że technologia może stanowić „pilniejsze” zagrożenie dla ludzkości niż zmiany klimatu.

Hinton, powszechnie znany jako jeden z „ojców chrzestnych sztucznej inteligencji”, niedawno ogłosił, że odszedł z Alphabet po dziesięciu latach pracy w firmie, mówiąc, że chce wypowiadać się na temat zagrożeń związanych z technologią bez wpływu na jego byłego pracodawcę.

Praca Hintona jest uważana za niezbędną do rozwoju współczesnych systemów sztucznej inteligencji. W 1986 roku był współautorem nowatorskiego artykułu „Uczenie się reprezentacji przez wsteczną propagację błędów”, który był kamieniem milowym w rozwoju sieci neuronowych leżących u podstaw technologii sztucznej inteligencji. W 2018 roku otrzymał Nagrodę Turinga w uznaniu jego przełomowych osiągnięć badawczych.

Jednak obecnie jest jednym z coraz większej liczby liderów technologicznych, którzy publicznie wyrażają zaniepokojenie możliwym zagrożeniem ze strony sztucznej inteligencji, gdyby maszyny osiągnęły większą inteligencję niż ludzie i przejęły kontrolę nad planetą.

„Nie chciałbym dewaluować zmian klimatu. Nie chciałbym powiedzieć:„ Nie powinieneś się martwić o zmiany klimatu ”. To też ogromne ryzyko” – powiedział Reuterowi Hinton. „Ale myślę, że to może być bardziej pilne”.

Dodał: „W przypadku zmian klimatu bardzo łatwo jest zalecić, co powinieneś zrobić: po prostu przestań spalać węgiel. Jeśli to zrobisz, w końcu wszystko będzie dobrze. W tym przypadku wcale nie jest jasne, co powinieneś zrobić”.

Wspierany przez Microsoft OpenAI wystrzelił z pistoletu startowego w technologicznym wyścigu zbrojeń w listopadzie, kiedy udostępnił publicznie chatbota ChatGPT opartego na sztucznej inteligencji. Wkrótce stała się najszybciej rozwijającą się aplikacją w historii, osiągając 100 milionów użytkowników miesięcznie w ciągu dwóch miesięcy.

W kwietniu dyrektor generalny Twittera, Elon Musk, dołączył do tysięcy osób, które podpisały list otwarty wzywający do sześciomiesięcznej przerwy w rozwoju systemów potężniejszych niż niedawno uruchomiony GPT-4 firmy OpenAI.

Wśród sygnatariuszy znaleźli się dyrektor generalny Stability AI, Emad Mostaque, badacze z należącego do Alphabet DeepMind oraz inni pionierzy sztucznej inteligencji, Yoshua Bengio i Stuart Russell.

Chociaż Hinton podziela obawy sygnatariuszy, że sztuczna inteligencja może okazać się egzystencjalnym zagrożeniem dla ludzkości, nie zgodził się na wstrzymanie badań.

„To jest całkowicie nierealne” – powiedział. „Jestem w obozie, który uważa, że ​​jest to ryzyko egzystencjalne i jest na tyle blisko, że powinniśmy teraz bardzo ciężko pracować i wkładać wiele zasobów, aby dowiedzieć się, co możemy z tym zrobić”.

W Unii Europejskiej komitet prawodawców odpowiedział na list wspierany przez Muska, wzywając prezydenta Stanów Zjednoczonych Joe Bidena do zwołania światowego szczytu w sprawie przyszłego kierunku technologii z przewodniczącą Komisji Europejskiej Ursulą von der Leyen.

W zeszłym tygodniu komisja uzgodniła przełomowy zestaw propozycji ukierunkowanych na generatywną sztuczną inteligencję, która zmusiłaby firmy takie jak OpenAI do ujawnienia wszelkich materiałów chronionych prawem autorskim wykorzystywanych do szkolenia ich modeli.

W międzyczasie Biden prowadził rozmowy z wieloma liderami firm zajmujących się sztuczną inteligencją, w tym z dyrektorem generalnym Alphabet Sundarem Pichai i dyrektorem generalnym OpenAI Samem Altmanem w Białym Domu, obiecując „szczerą i konstruktywną dyskusję” na temat potrzeby większej przejrzystości firm w zakresie ich systemów.

„Liderzy technologiczni najlepiej to rozumieją, a politycy muszą być zaangażowani” – powiedział Hinton. „To dotyczy nas wszystkich, więc wszyscy musimy o tym pomyśleć”.