Technologia

Geoffrey Hinton, pionier sztucznej inteligencji, twierdzi, że zagrożenie dla świata może być „pilniejsze” niż zmiana klimatu

  • 6 maja, 2023
  • 4 min read
Geoffrey Hinton, pionier sztucznej inteligencji, twierdzi, że zagrożenie dla świata może być „pilniejsze” niż zmiana klimatu


Sztuczna inteligencja może stanowić „pilniejsze” zagrożenie dla ludzkości niż zmiana klimatu, powiedział Geoffrey Hinton, pionier sztucznej inteligencji w piątkowym wywiadzie dla agencji Reuters.

Geoffrey Hinton, powszechnie znany jako jeden z „ojców chrzestnych sztucznej inteligencji”, niedawno ogłosił, że odchodzi z Alphabet po dziesięciu latach pracy w firmie, mówiąc, że chce wypowiadać się na temat zagrożeń związanych z technologią bez wpływu na jego byłego pracodawcę.

Praca Hintona jest uważana za niezbędną do rozwoju współczesnych systemów sztucznej inteligencji. W 1986 roku był współautorem przełomowego artykułu „Uczenie reprezentacji przez wsteczną propagację błędów”, który był kamieniem milowym w rozwoju sieci neuronowych stanowiących podstawę technologii sztucznej inteligencji. W 2018 roku otrzymał Nagrodę Turinga w uznaniu jego przełomowych osiągnięć badawczych.

Przeczytaj także: Szukasz smartfona? Aby sprawdzić wyszukiwarkę mobilną

Ale jest teraz jednym z coraz większej liczby liderów technologicznych, którzy publicznie wyrażają zaniepokojenie możliwym zagrożeniem ze strony sztucznej inteligencji, gdyby maszyny osiągnęły większą inteligencję niż ludzie i przejęły kontrolę nad planetą.

„Nie chciałbym dewaluować zmian klimatu. Nie chciałbym powiedzieć:„ Nie powinieneś się martwić o zmiany klimatu ”. To też ogromne ryzyko” – powiedział Hinton. „Ale myślę, że to może być bardziej pilne”.

Warto przeczytać!  Google wyjaśnia, w jaki sposób ulepsza swoje przeglądy AI

Dodał: „W przypadku zmian klimatu bardzo łatwo jest zalecić, co powinieneś zrobić: po prostu przestań spalać węgiel. Jeśli to zrobisz, w końcu wszystko będzie dobrze. W tym przypadku wcale nie jest jasne, co powinieneś zrobić”.

Wspierany przez Microsoft OpenAI wystrzelił z pistoletu startowego w technologicznym wyścigu zbrojeń w listopadzie, kiedy udostępnił publicznie chatbota ChatGPT opartego na sztucznej inteligencji. Wkrótce stała się najszybciej rozwijającą się aplikacją w historii, osiągając 100 milionów użytkowników miesięcznie w ciągu dwóch miesięcy.

W kwietniu dyrektor generalny Twittera, Elon Musk, dołączył do tysięcy osób, które podpisały list otwarty wzywający do sześciomiesięcznej przerwy w rozwoju systemów potężniejszych niż niedawno uruchomiony GPT-4 firmy OpenAI.

Wśród sygnatariuszy znaleźli się dyrektor generalny Stability AI, Emad Mostaque, badacze z należącego do Alphabet DeepMind oraz inni pionierzy sztucznej inteligencji, Yoshua Bengio i Stuart Russell.

Chociaż Hinton podziela obawy sygnatariuszy, że sztuczna inteligencja może okazać się egzystencjalnym zagrożeniem dla ludzkości, nie zgodził się na wstrzymanie badań.

„To zupełnie nierealne” – powiedział. „Jestem w obozie, który uważa, że ​​jest to ryzyko egzystencjalne i jest na tyle blisko, że powinniśmy teraz bardzo ciężko pracować i wkładać wiele zasobów, aby dowiedzieć się, co możemy z tym zrobić”.

Warto przeczytać!  Oddychaj spokojnie: Google Discover oferuje teraz w nowej aktualizacji dane AQI dla Androida i iOS

W Unii Europejskiej komitet prawodawców odpowiedział na list wspierany przez Muska, wzywając prezydenta USA Joe Bidena do zwołania światowego szczytu w sprawie przyszłego kierunku technologii z przewodniczącą Komisji Europejskiej Ursulą von der Leyen.

W zeszłym tygodniu komisja uzgodniła przełomowy zestaw propozycji ukierunkowanych na generatywną sztuczną inteligencję, która zmusiłaby firmy takie jak OpenAI do ujawnienia wszelkich materiałów chronionych prawem autorskim wykorzystywanych do szkolenia ich modeli.

W międzyczasie Biden prowadził rozmowy z wieloma liderami firm zajmujących się sztuczną inteligencją, w tym z dyrektorem generalnym Alphabet Sundarem Pichai i dyrektorem generalnym OpenAI Samem Altmanem w Białym Domu, obiecując „szczerą i konstruktywną dyskusję” na temat potrzeby większej przejrzystości firm w zakresie ich systemów.

„Liderzy technologiczni najlepiej to rozumieją, a politycy muszą być zaangażowani” — powiedział Hinton. „To dotyczy nas wszystkich, więc wszyscy musimy o tym pomyśleć”.


Źródło