Zaledwie kilka dni po ogłoszeniu przez OpenAI utworzenia nowego Komitetu ds. Bezpieczeństwa, byli członkowie zarządu Helen Toner i Tasha McCauley publicznie oskarżyli dyrektora generalnego Sama Altmana o przedkładanie zysków nad odpowiedzialny rozwój sztucznej inteligencji, ukrywanie kluczowych osiągnięć przed zarządem i tworzenie toksycznego środowiska w firmie.

Jednak obecni członkowie zarządu OpenAI, Bret Taylor i Larry Summers, odpowiedzieli dzisiaj solidną obroną Altmana, odpierając oskarżenia i twierdząc, że Toner i McCauley próbują ponownie otworzyć zamkniętą sprawę. Argument ten rozwinął się w dwóch felietonach opublikowanych w Ekonomista.

Byli członkowie zarządu zwolnili się pierwsi, argumentując, że zarząd OpenAI nie jest w stanie zapanować nad dyrektorem naczelnym.

„W listopadzie ubiegłego roku, próbując uratować tę samoregulacyjną strukturę, zarząd OpenAI zwolnił swojego dyrektora generalnego” – napisali 26 maja Toner i McCauley – którzy odegrali rolę w obaleniu Altmana w zeszłym roku. „W konkretnym przypadku OpenAI, biorąc pod uwagę spoczywający na zarządzie obowiązek zapewnienia niezależnego nadzoru i ochrony misji spółki leżącej w interesie publicznym, podtrzymujemy działania zarządu.”

W opublikowanej odpowiedzi Bret Taylor i Larry Summers, którzy dołączyli do OpenAI po tym, jak Toner i McCauley odeszli z firmy, stanęli w obronie Altmana, odrzucając twierdzenia i potwierdzając jego zaangażowanie w bezpieczeństwo i zarządzanie.

„Nie akceptujemy twierdzeń pani Toner i pani McCauley dotyczących wydarzeń w OpenAI” – napisali. „Żałujemy, że pani Toner zamiast posuwać się naprzód, w dalszym ciągu powraca do kwestii, które zostały dokładnie zbadane w ramach przeglądu prowadzonego przez WilmerHale .”

Chociaż Toner i McCauley nie powołali się na nową Komisję ds. Bezpieczeństwa i Ochrony firmy, w ich piśmie powtórzono obawy, że OpenAI nie jest w stanie wiarygodnie kontrolować siebie i swojego dyrektora generalnego.

„Na podstawie naszego doświadczenia uważamy, że samorządność nie jest w stanie niezawodnie wytrzymać presji zachęt do zysku” – napisali. „Uważamy również, że rozwój sytuacji od czasu jego powrotu do firmy – w tym jego przywrócenie do zarządu i odejście wyższego szczebla ds. bezpieczeństwa -skoncentrowany talent – źle wróży eksperymentowi OpenAI w zakresie samorządności.

Byli członkowie zarządu stwierdzili, że „długotrwałe wzorce zachowań” Altmana sprawiły, że zarząd firmy nie był w stanie właściwie nadzorować „kluczowych decyzji i wewnętrznych protokołów bezpieczeństwa”. Obecni współpracownicy Altmana zwrócili jednak uwagę na wnioski płynące z niezależnej analizy konfliktu zleconej przez firmę.

„Wnioski przeglądu odrzuciły pogląd, jakoby jakiekolwiek obawy dotyczące bezpieczeństwa sztucznej inteligencji wymagały zastąpienia pana Altmana” – napisali – „w rzeczywistości WilmerHale stwierdził, że decyzja poprzedniego zarządu nie wynikała z obaw dotyczących bezpieczeństwa lub ochrony produktów, tempa wdrażania rozwój, finanse OpenAI lub jego oświadczenia dla inwestorów, klientów lub partnerów biznesowych.”

Być może bardziej niepokojące jest to, że Toner i McCauley również oskarżyli Altmana o wspieranie toksycznej kultury firmy.

„Wielu starszych przywódców prywatnie podzieliło się z zarządem poważnymi obawami, twierdząc, że ich zdaniem pan Altman kultywuje „toksyczną kulturę kłamstwa” i angażuje się w „zachowanie [that] można scharakteryzować jako znęcanie się psychiczne”.

Taylor i Summers odrzucili jednak ich twierdzenia, twierdząc, że jego pracownicy cieszą się dużym szacunkiem Altmana.

„W ciągu sześciu miesięcy niemal codziennego kontaktu z firmą zauważyliśmy, że pan Altman jest bardzo kontaktowy we wszystkich istotnych kwestiach i konsekwentnie współpracuje ze swoim zespołem kierowniczym” – stwierdzili.

Taylor i Summers powiedzieli również, że Altman był zaangażowany we współpracę z rządem w celu ograniczenia ryzyka związanego z rozwojem sztucznej inteligencji.

Wahania opinii publicznej mają miejsce w burzliwej epoce OpenAI, która rozpoczęła się wraz z jego krótkotrwałym usunięciem. Zaledwie w tym miesiącu jej były szef ds. dostosowania dołączył do konkurencyjnej firmy Antropic po skierowaniu podobnych oskarżeń pod adresem Altmana. Musiał odzyskać model głosu uderzająco podobny do głosu aktorki Scarlett Johansson, po tym jak nie uzyskał jej zgody. Firma rozwiązała swój zespół ds. superdopasowania i okazało się, że obraźliwe umowy NDA uniemożliwiły byłym pracownikom krytykowanie firmy.

OpenAI zawarło także umowy z Departamentem Obrony na wykorzystanie technologii GPT do zastosowań wojskowych. W międzyczasie, według doniesień, główny inwestor OpenAI, Microsoft, również poczynił podobne ustalenia dotyczące ChatGPT.

Twierdzenia Tonera i McCauleya wydają się spójne z oświadczeniami byłych badaczy OpenAI, którzy odeszli z firmy, Jana Leike’a, stwierdzając, że „w ciągu ostatnich lat kultura i procesy bezpieczeństwa [at OpenAI] zeszli na dalszy plan i skupili się na błyszczących produktach” oraz że jego zespół dostosowujący „płynał pod wiatr”.

Taylor i Summers częściowo odnieśli się do tych obaw w swojej kolumnie, cytując nową komisję ds. bezpieczeństwa i jej odpowiedzialność za „wydawanie zaleceń całemu zarządowi w sprawach związanych z krytycznymi decyzjami dotyczącymi bezpieczeństwa i ochrony dla wszystkich projektów OpenAI”.

Toner ostatnio nasiliła swoje twierdzenia dotyczące braku przejrzystości Altmana.

„Aby dać poczucie, o czym mówię, kiedy ChatGPT ukazało się w listopadzie 2022 r., zarząd nie został poinformowany z wyprzedzeniem” – ujawniła w podcaście The TED AI Show na początku tego tygodnia. „O ChatGPT dowiedzieliśmy się Świergot.”

Powiedziała również, że zarząd OpenAI nie wiedział, że Altman jest właścicielem OpenAI Startup Fund, pomimo jego twierdzeń o braku udziałów finansowych w OpenAI. Fundusz zainwestował miliony zebrane od partnerów takich jak Microsoft w inne firmy bez wiedzy zarządu. W kwietniu Altmanowi wygasła własność funduszu.

OpenAI nie odpowiedziało na prośbę o komentarz od Odszyfruj.

Pod redakcją Ryana Ozawy.