Sztuczna inteligencja może stanowić „pilniejsze” zagrożenie niż zmiana klimatu: pionier sztucznej inteligencji
![Sztuczna inteligencja może stanowić „pilniejsze” zagrożenie niż zmiana klimatu: pionier sztucznej inteligencji](https://oen.pl/wp-content/uploads/2023/05/4956badb72ed42549eee443652ec0f9d-750.png)
Geoffrey Hinton, pionier sztucznej inteligencji, przemawia na szczycie Thomson Reuters Financial and Risk Summit w Toronto, Kanada, 4 grudnia 2017 r. /Reuters
Geoffrey Hinton, pionier sztucznej inteligencji, przemawia na szczycie Thomson Reuters Financial and Risk Summit w Toronto, Kanada, 4 grudnia 2017 r. /Reuters
Sztuczna inteligencja (AI) może stanowić „pilniejsze” zagrożenie dla ludzkości niż zmiana klimatu, powiedział Geoffrey Hinton, pionier AI w piątkowym wywiadzie dla agencji Reuters.
Geoffrey Hinton, powszechnie znany jako jeden z „ojców chrzestnych sztucznej inteligencji”, niedawno ogłosił, że odchodzi z Alphabet po dziesięciu latach pracy w firmie, mówiąc, że chce wypowiadać się na temat zagrożeń związanych z technologią bez wpływu na jego byłego pracodawcę.
Praca Hintona jest uważana za niezbędną do rozwoju współczesnych systemów sztucznej inteligencji. W 1986 roku był współautorem przełomowego artykułu „Uczenie reprezentacji przez wsteczną propagację błędów”, który był kamieniem milowym w rozwoju sieci neuronowych stanowiących podstawę technologii sztucznej inteligencji. W 2018 roku otrzymał Nagrodę Turinga w uznaniu jego przełomowych osiągnięć badawczych.
Ale jest teraz jednym z coraz większej liczby liderów technologicznych, którzy publicznie wyrażają zaniepokojenie możliwym zagrożeniem ze strony sztucznej inteligencji, gdyby maszyny osiągnęły większą inteligencję niż ludzie i przejęły kontrolę nad planetą.
„Nie chciałbym dewaluować zmian klimatu. Nie chciałbym powiedzieć:„ Nie powinieneś się martwić o zmiany klimatu ”. To też ogromne ryzyko” – powiedział Hinton. „Ale myślę, że to może być bardziej pilne”.
Wspierany przez Microsoft OpenAI wystrzelił z pistoletu startowego w technologicznym wyścigu zbrojeń w listopadzie, kiedy udostępnił publicznie chatbota ChatGPT opartego na sztucznej inteligencji. Wkrótce stała się szybko rozwijającą się aplikacją w historii, osiągając 100 milionów użytkowników miesięcznie w ciągu dwóch miesięcy.
W kwietniu dyrektor generalny Twittera, Elon Musk, dołączył do tysięcy osób, które podpisały list otwarty wzywający do sześciomiesięcznej przerwy w rozwoju systemów potężniejszych niż niedawno uruchomiony GPT-4 firmy OpenAI.
Wśród sygnatariuszy znaleźli się dyrektor generalny Stability AI, Emad Mostaque, badacze z należącego do Alphabet DeepMind oraz inni pionierzy sztucznej inteligencji, Yoshua Bengio i Stuart Russell.
Chociaż Hinton podziela obawy sygnatariuszy, że sztuczna inteligencja może okazać się egzystencjalnym zagrożeniem dla ludzkości, nie zgodził się na wstrzymanie badań.
„To jest całkowicie nierealne” – powiedział. „Jestem w obozie, który uważa, że jest to ryzyko egzystencjalne i jest na tyle blisko, że powinniśmy teraz bardzo ciężko pracować i wkładać wiele zasobów, aby dowiedzieć się, co możemy z tym zrobić”.
W Unii Europejskiej komitet prawodawców odpowiedział na list wspierany przez Muska, wzywając prezydenta USA Joe Bidena do zwołania światowego szczytu w sprawie przyszłego kierunku technologii z przewodniczącą Komisji Europejskiej Ursulą von der Leyen.
W zeszłym tygodniu komisja uzgodniła przełomowy zestaw propozycji ukierunkowanych na generatywną sztuczną inteligencję, która zmusiłaby firmy takie jak OpenAI do ujawnienia wszelkich materiałów chronionych prawem autorskim wykorzystywanych do szkolenia ich modeli.
W międzyczasie Biden prowadził rozmowy z wieloma liderami firm zajmujących się sztuczną inteligencją, w tym z dyrektorem generalnym Alphabet Sundarem Pichai i dyrektorem generalnym OpenAI Samem Altmanem w Białym Domu, obiecując „szczerą i konstruktywną dyskusję” na temat potrzeby większej przejrzystości firm w zakresie ich systemów.
„Liderzy technologiczni najlepiej to rozumieją, a politycy muszą być zaangażowani” – powiedział Hinton. „To dotyczy nas wszystkich, więc wszyscy musimy o tym pomyśleć”.
Czytaj więcej:
„Ojciec chrzestny sztucznej inteligencji” opuszcza Google, ostrzegając przed niebezpieczeństwami technologicznymi w erze ChatGPT
Źródło: Reuters