Sztuczna inteligencja (AI) może stanowić „pilniejsze” zagrożenie dla ludzkości niż zmiana klimatu, powiedział Geoffrey Hinton, pionier AI w piątkowym wywiadzie dla agencji Reuters.

Geoffrey Hinton, powszechnie znany jako jeden z „ojców chrzestnych sztucznej inteligencji”, niedawno ogłosił, że odchodzi z Alphabet po dziesięciu latach pracy w firmie, mówiąc, że chce wypowiadać się na temat zagrożeń związanych z technologią bez wpływu na jego byłego pracodawcę.

Praca Hintona jest uważana za niezbędną do rozwoju współczesnych systemów sztucznej inteligencji. W 1986 roku był współautorem przełomowego artykułu „Uczenie reprezentacji przez wsteczną propagację błędów”, który był kamieniem milowym w rozwoju sieci neuronowych stanowiących podstawę technologii sztucznej inteligencji. W 2018 roku otrzymał Nagrodę Turinga w uznaniu jego przełomowych osiągnięć badawczych.

Ale jest teraz jednym z coraz większej liczby liderów technologicznych, którzy publicznie wyrażają zaniepokojenie możliwym zagrożeniem ze strony sztucznej inteligencji, gdyby maszyny osiągnęły większą inteligencję niż ludzie i przejęły kontrolę nad planetą.

„Nie chciałbym dewaluować zmian klimatu. Nie chciałbym powiedzieć:„ Nie powinieneś się martwić o zmiany klimatu ”. To też ogromne ryzyko” – powiedział Hinton. „Ale myślę, że to może być bardziej pilne”.

Wspierany przez Microsoft OpenAI wystrzelił z pistoletu startowego w technologicznym wyścigu zbrojeń w listopadzie, kiedy udostępnił publicznie chatbota ChatGPT opartego na sztucznej inteligencji. Wkrótce stała się szybko rozwijającą się aplikacją w historii, osiągając 100 milionów użytkowników miesięcznie w ciągu dwóch miesięcy.

W kwietniu dyrektor generalny Twittera, Elon Musk, dołączył do tysięcy osób, które podpisały list otwarty wzywający do sześciomiesięcznej przerwy w rozwoju systemów potężniejszych niż niedawno uruchomiony GPT-4 firmy OpenAI.

Wśród sygnatariuszy znaleźli się dyrektor generalny Stability AI, Emad Mostaque, badacze z należącego do Alphabet DeepMind oraz inni pionierzy sztucznej inteligencji, Yoshua Bengio i Stuart Russell.

Chociaż Hinton podziela obawy sygnatariuszy, że sztuczna inteligencja może okazać się egzystencjalnym zagrożeniem dla ludzkości, nie zgodził się na wstrzymanie badań.

„To jest całkowicie nierealne” – powiedział. „Jestem w obozie, który uważa, że ​​jest to ryzyko egzystencjalne i jest na tyle blisko, że powinniśmy teraz bardzo ciężko pracować i wkładać wiele zasobów, aby dowiedzieć się, co możemy z tym zrobić”.

W Unii Europejskiej komitet prawodawców odpowiedział na list wspierany przez Muska, wzywając prezydenta USA Joe Bidena do zwołania światowego szczytu w sprawie przyszłego kierunku technologii z przewodniczącą Komisji Europejskiej Ursulą von der Leyen.

W zeszłym tygodniu komisja uzgodniła przełomowy zestaw propozycji ukierunkowanych na generatywną sztuczną inteligencję, która zmusiłaby firmy takie jak OpenAI do ujawnienia wszelkich materiałów chronionych prawem autorskim wykorzystywanych do szkolenia ich modeli.

W międzyczasie Biden prowadził rozmowy z wieloma liderami firm zajmujących się sztuczną inteligencją, w tym z dyrektorem generalnym Alphabet Sundarem Pichai i dyrektorem generalnym OpenAI Samem Altmanem w Białym Domu, obiecując „szczerą i konstruktywną dyskusję” na temat potrzeby większej przejrzystości firm w zakresie ich systemów.

„Liderzy technologiczni najlepiej to rozumieją, a politycy muszą być zaangażowani” – powiedział Hinton. „To dotyczy nas wszystkich, więc wszyscy musimy o tym pomyśleć”.

Czytaj więcej:

„Ojciec chrzestny sztucznej inteligencji” opuszcza Google, ostrzegając przed niebezpieczeństwami technologicznymi w erze ChatGPT