Sztuczna inteligencja może stanowić „pilniejsze” zagrożenie dla ludzkości niż zmiana klimatu, powiedział Reuterowi pionier sztucznej inteligencji Geoffrey Hinton.

Geoffrey Hinton, powszechnie znany jako jeden z „ojców chrzestnych sztucznej inteligencji”, niedawno ogłosił, że odchodzi z Alphabet (NASDAQ: GOOGL) po dziesięciu latach pracy w firmie, mówiąc, że chce wypowiadać się na temat zagrożeń związanych z technologią bez wpływu na jego byłego pracodawca.

Praca Hintona jest uważana za niezbędną do rozwoju współczesnych systemów sztucznej inteligencji. W 1986 roku był współautorem przełomowego artykułu „Uczenie reprezentacji przez błędy wstecznej propagacji błędów”, który był kamieniem milowym w rozwoju sieci neuronowych leżących u podstaw technologii sztucznej inteligencji. W 2018 roku otrzymał Nagrodę Turinga w uznaniu jego przełomowych osiągnięć badawczych.

Ale jest teraz jednym z coraz większej liczby liderów technologicznych, którzy publicznie wyrażają zaniepokojenie możliwym zagrożeniem ze strony sztucznej inteligencji, gdyby maszyny osiągnęły większą inteligencję niż ludzie i przejęły kontrolę nad planetą.

„Nie chciałbym dewaluować zmian klimatu. Nie chciałbym powiedzieć: „Nie powinieneś się martwić zmianami klimatycznymi”. To też ogromne ryzyko” – powiedział Hinton. „Ale myślę, że to może być bardziej pilne”.

Dodał: „W przypadku zmian klimatu bardzo łatwo jest zalecić, co powinieneś zrobić: po prostu przestań spalać węgiel. Jeśli to zrobisz, w końcu wszystko będzie dobrze. Z tego powodu nie jest wcale jasne, co powinieneś zrobić.

Wspierany przez Microsoft OpenAI wystrzelił z pistoletu startowego w technologicznym wyścigu zbrojeń w listopadzie, kiedy udostępnił publicznie chatbota ChatGPT opartego na sztucznej inteligencji. Wkrótce stała się najszybciej rozwijającą się aplikacją w historii, osiągając 100 milionów użytkowników miesięcznie w ciągu dwóch miesięcy.

W kwietniu dyrektor generalny Twittera, Elon Musk, dołączył do tysięcy osób, które podpisały list otwarty wzywający do sześciomiesięcznej przerwy w rozwoju systemów potężniejszych niż niedawno uruchomiony GPT-4 firmy OpenAI.

Wśród sygnatariuszy znaleźli się dyrektor generalny Stability AI, Emad Mostaque, badacze z należącego do Alphabet DeepMind oraz inni pionierzy sztucznej inteligencji, Yoshua Bengio i Stuart Russell.

Chociaż Hinton podziela obawy sygnatariuszy, że sztuczna inteligencja może okazać się egzystencjalnym zagrożeniem dla ludzkości, nie zgodził się na wstrzymanie badań.

„To zupełnie nierealne” – powiedział. „Jestem w obozie, który uważa, że ​​jest to ryzyko egzystencjalne i jest na tyle blisko, że powinniśmy teraz bardzo ciężko pracować i wkładać wiele zasobów, aby dowiedzieć się, co możemy z tym zrobić”.

W Unii Europejskiej komitet prawodawców odpowiedział na list wspierany przez Muska, wzywając prezydenta USA Joe Bidena do zwołania światowego szczytu w sprawie przyszłego kierunku technologii z przewodniczącą Komisji Europejskiej Ursulą von der Leyen.

W zeszłym tygodniu komisja uzgodniła przełomowy zestaw propozycji ukierunkowanych na generatywną sztuczną inteligencję, która zmusiłaby firmy takie jak OpenAI do ujawnienia wszelkich materiałów chronionych prawem autorskim wykorzystywanych do szkolenia ich modeli.

W międzyczasie Biden prowadził rozmowy z wieloma liderami firm zajmujących się sztuczną inteligencją, w tym dyrektorem generalnym Alphabet Sundarem Pichai i dyrektorem generalnym OpenAI Samem Altmanem w Białym Domu, obiecując „szczerą i konstruktywną dyskusję” na temat potrzeby większej przejrzystości firm w zakresie ich systemów.

„Liderzy technologiczni najlepiej to rozumieją, a politycy muszą być zaangażowani” — powiedział Hinton. „To dotyczy nas wszystkich, więc wszyscy musimy o tym pomyśleć”.
Źródło: Reuters