„Jak złagodzić wady technologii, aby mieć pewność, że wartości ludzkie, interes publiczny i demokracja są wbudowane w system?”

Mozilla, organizacja non-profit stojąca za przeglądarką Firefox, uruchamia startup skoncentrowany na sztucznej inteligencji, którego misją jest stworzenie open source i godnej zaufania alternatywy dla wschodzących gigantów, takich jak ChatGPT. Firma ogłosiła dziś rano, że Moez Draief’, były globalny główny naukowiec w Capgemini Invent, stanie na czele przedsięwzięcia, w które Mozilla Foundation zainwestowała 30 milionów dolarów.

Rozmawiał prezes Fundacji Mozilla, Mark Surman Forbesa o nowym przedsięwzięciu, zwanym Mozilla.ai, w obszernym wywiadzie na temat zagrożeń i obietnic związanych z nową technologią. Mówił też o tym, jak 25-letnia firma inaczej podejdzie do AI.

„AI jest tym, czym była sieć 25 lat temu” — mówi. „To tkanina tego, jak tworzymy rzeczy”.

Ryzyko polega nie tylko na tym, że „bardzo mała grupa graczy kontrolujących całą naszą gospodarkę” spieszy się z tworzeniem produktów o niezamierzonych konsekwencjach, argumentuje, ale że skupiają się wyłącznie na tym, gdzie mogą osiągnąć zysk. „Niektóre z największych firm, jakie ludzkość kiedykolwiek zbudowała, pędzą z całą tą innowacją AI, aby robić to, do czego są naturalnie zaprojektowane, czyli konsolidować kontrolę”.

Nie jest to nowy obszar dyskusji dla Mozilli, która od kilku lat koncentruje się na generowaniu dyskusji i innowacji wokół sztucznej inteligencji. Startup pojawia się również w czasie, gdy Microsoft, główny inwestor w spółce macierzystej Open AI ChatGPT, zwolnił kluczowy zespół ds. etyki AI.

Czy konkurencja będzie zacięta? Oczywiście. „Jeśli cofniesz się do 25 lat temu, kiedy Mozilla zaczynała i powiedziałeś:„ cóż, masz ten kod open source z tej przeglądarki, która nie jest już popularna. Pokonaj największą firmę technologiczną na świecie”, zostałbyś wyśmiany z pokoju. (Zamiast tego) W rzeczywistości ponownie otworzył sieć i faktycznie doprowadził do powstania większości nowoczesnych usług internetowych i sieci społecznościowych, które mamy dzisiaj.

„Musimy zacząć budować słabą technologię, która pokaże, że sztuczna inteligencja może działać inaczej… coś, co stanowi niezależną alternatywę dla tego, dokąd zmierzają wielcy gracze, i tym właśnie będzie Mozilla.ai”.

„Jesteśmy zarówno aktywistami, jak i pragmatykami, orędownikami i twórcami technologii” — powiedział Surman. „Trzymamy się naszej misji utrzymywania internetu otwartego i dostępnego dla wszystkich, a także uczynienia z niego czegoś, co jest korzystne dla ludzkości”.

Mozilla zjednoczyła się w reakcji na to, co później Departament Sprawiedliwości uznał za monopolistyczne zachowanie Microsoftu, żądając od producentów komputerów PC licencji i instalacji przeglądarki Internet Explorer jako warunku korzystania z oprogramowania. Wraz z wydaniem kodu źródłowego pakietu przeglądarek Netscape społeczność Mozilli stworzyła samodzielną bezpłatną przeglądarkę Firefox. Mozilla Corporation, spółka zależna fundacji non-profit, której szefem jest Surman, pozostaje twórcą bezpłatnych przeglądarek, aplikacji, kodu i narzędzi typu open source.

„Widzieliśmy wspaniałe rzeczy w zakresie więzi międzyludzkich, innowacji i kreatywności”, mówi Surman o początkach sieci. „Nie widzieliśmy skutków ubocznych nieskrępowanego otwartego internetu – monopoli, dezinformacji wokół demokracja.”

Przełomowy moment dla Surmana i wielu innych, którzy zobaczyli, jak można uzbroić Internet, nastąpił prawie dziesięć lat temu, kiedy Edward Snowden, były konsultant wywiadu komputerowego i wykonawca dla Agencji Bezpieczeństwa Narodowego, ujawnił dowody szpiegowania własnych obywateli przez rząd USA. Następnie ujawniono, że brytyjska firma Cambridge Analytica niewłaściwie pozyskała dane dotyczące nawet 87 milionów osób na Facebooku i wykorzystała je do zbudowania profili wyborców wykorzystywanych do kierowania reklam politycznych przez Donalda Trumpa, Teda Cruza i innych.

Świat potrzebuje teraz nie powstrzymania innowacji, ale wprowadzenia rozsądnych środków bezpieczeństwa, większej przejrzystości i większego dostępu. Porównuje to do bezpieczeństwa żywności lub pasów bezpieczeństwa. Jako naukowiec, Surman z Toronto mówi, że pokolenie Z już to rozumie. „Są niewiarygodnie świadomi, że algorytmy są po to, aby nimi manipulować i próbować je odwrócić. To, czego tak naprawdę nie mają, to platforma, na której mogliby zrobić coś bardziej ekstremalnego, jeśli chodzi o czytanie innego rodzaju algorytmu, tworzenie innego rodzaju firmy. “

Jeśli obecna obsada postaci pozostanie niekwestionowana, najgorszy scenariusz Surmana nie jest tak bardzo podobny Terminator ale raczej Macierz, Ale “niesamowicie banalne.” W tym scenariuszu „technologia, która staje się coraz potężniejsza, rzeczy są coraz bardziej zautomatyzowane i jest kontrolowana przez coraz mniej graczy, a my po prostu wszyscy wpadamy w funk, w którym w pewnym sensie idziemy z rzeczami. Wszystko po prostu wydaje się miłe, ponieważ wszyscy się wymeldowaliśmy.

Z drugiej strony, mówi, „najgorszym scenariuszem jest to, że wysadzimy się w powietrze. Z pewnością myślę, że w świecie, w którym istnieje ogromny konflikt, pomysł, że sztuczna inteligencja przyspieszy ludzi, którzy chcą wykorzystać informacje jako broń i wywołać konflikt, jest bardzo możliwy. Ktoś nie musi być Terminatorem, tylko złym facetem” z lepszymi narzędziami.

Lub oddajemy te narzędzia w ręce ludzi o bardziej inspirujących motywacjach. Surman, który już wcześniej rzucał wyzwanie behemotom, zna siłę, jaką daje demokratyzacja technologii i udostępnianie ludziom platformy do korzystania z niej.