Branża technologiczna uwielbia opowieści o swoich garażowych start-upach. Od Hewlett-Packard po Google, opowieści o firmach typu bootstrap, które przekształciły się w gigantów, inspirowały pokolenia przedsiębiorców.

Ale ogromne pieniądze i moc obliczeniowa potrzebne start-upom, które próbują wykorzystać najgorętszą dzisiejszą technologię, sztuczną inteligencję używaną w chatbotach, takich jak ChatGPT i Google Bard, mogą sprawić, że te inspirujące historie odejdą w przeszłość.

W 2019 roku Aidan Gomez i Nick Frosst opuścili Google, aby stworzyć w Toronto start-up AI o nazwie Cohere, który mógłby konkurować z ich byłym pracodawcą. Kilka miesięcy później wrócili do Google i zapytali, czy sprzedałoby im to ogromną moc obliczeniową, której potrzebowali do zbudowania własnej technologii sztucznej inteligencji. Po tym, jak dyrektor naczelny Google, Sundar Pichai, osobiście zatwierdził układ, gigant technologiczny dał im to, czego chcieli.

„To „Gra o tron”. Tak właśnie jest” – powiedział David Katz, partner w Radical Ventures, pierwszym inwestorze Cohere. Dodał, że duże firmy, takie jak Google, Microsoft i Amazon, kontrolują chipy. — Kontrolują moc obliczeniową — powiedział. „Oni wybierają, kto to dostanie”.

Zbudowanie przełomowego start-upu AI jest trudne bez wsparcia „hiperskalerów”, którzy kontrolują rozległe centra danych zdolne do obsługi systemów AI. I to sprawiło, że giganci branży ponownie zajęli stery, co wielu uważa za najważniejszą zmianę w branży technologicznej od dziesięcioleci.

OpenAI, start-up stojący za ChatGPT, zebrał ostatnio 10 miliardów dolarów od Microsoftu. Wpompuje większość tych pieniędzy z powrotem do Microsoftu, ponieważ płaci za czas na ogromnych klastrach serwerów komputerowych obsługiwanych przez większą firmę. Maszyny te, obejmujące tysiące wyspecjalizowanych chipów komputerowych, są niezbędne do doskonalenia i poszerzania umiejętności ChatGPT i podobnych technologii.

Konkurenci nie mogą nadążyć za OpenAI, chyba że zdobędą podobne ilości mocy obliczeniowej. Cohere niedawno zebrał 270 milionów dolarów, zwiększając łączne finansowanie do ponad 440 milionów dolarów. Znaczną część tych pieniędzy wykorzysta na zakup mocy obliczeniowej od takich firm jak Google.

Inne start-upy poczyniły podobne ustalenia, w szczególności firma z Doliny Krzemowej o nazwie Anthropic, która została założona w 2021 roku przez grupę byłych badaczy OpenAI; Character.AI, założona przez dwóch wiodących badaczy z Google; i Inflection AI, założone przez byłego dyrektora Google. Inflection zebrał w zeszłym tygodniu rundę finansowania w wysokości 1,3 miliarda dolarów, co daje łączną kwotę 1,5 miliarda dolarów.

W Google pan Gomez był członkiem małego zespołu badawczego, który zaprojektował Transformer, podstawową technologię używaną do tworzenia chatbotów, takich jak ChatGPT i Google Bard.

Transformer jest doskonałym przykładem tego, co naukowcy nazywają siecią neuronową — systemem matematycznym, który może uczyć się umiejętności poprzez analizę danych. Sieci neuronowe istnieją od lat, pomagając napędzać wszystko, od mówiących asystentów cyfrowych, takich jak Siri, po usługi natychmiastowego tłumaczenia, takie jak Tłumacz Google.

Transformer przeniósł ten pomysł na nowe terytorium. Działając na setkach, a nawet tysiącach chipów komputerowych, może analizować znacznie więcej danych, znacznie szybciej.

Korzystając z tej technologii, firmy takie jak Google i OpenAI zaczęły budować systemy, które uczyły się z ogromnych ilości cyfrowego tekstu, w tym artykułów z Wikipedii, cyfrowych książek i dzienników czatów. Ponieważ systemy te analizowały coraz więcej danych, nauczyły się samodzielnie generować tekst, w tym prace semestralne, posty na blogach, poezję i kod komputerowy.

Systemy te — zwane dużymi modelami językowymi — stanowią teraz podstawę chatbotów, takich jak Google Bard i ChatGPT.

Na długo przed pojawieniem się ChatGPT pan Gomez opuścił Google, aby założyć własną firmę wraz z panem Frosstem i innym przedsiębiorcą z Toronto, Ivanem Zhangiem. Celem było zbudowanie dużych modeli językowych rywalizujących z Google.

W Google on i jego współpracownicy mieli dostęp do niemal nieograniczonej mocy obliczeniowej. Po odejściu z firmy potrzebował czegoś podobnego. Więc on i jego współzałożyciele kupili go od Google, które sprzedaje dostęp do tych samych chipów za pośrednictwem usług przetwarzania w chmurze.

W ciągu następnych trzech lat Cohere zbudował duży model języka, który może konkurować z prawie każdym innym. Teraz sprzedaje tę technologię innym firmom. Chodzi o to, aby zapewnić każdej firmie technologię potrzebną do tworzenia i uruchamiania własnych aplikacji AI, od chatbotów, przez wyszukiwarki, po osobistych nauczycieli.

„Strategia polega na zbudowaniu platformy, z której inni mogą budować i eksperymentować” – powiedział Gomez.

OpenAI oferuje usługę podobną do GPT-4, której wiele firm już używa do tworzenia chatbotów i innych aplikacji. Ta nowa technologia może analizować, generować i edytować tekst. Ale wkrótce będzie obsługiwać również obrazy i dźwięki. OpenAI przygotowuje wersję GPT-4, która może zbadać fotografię, natychmiast ją opisać, a nawet odpowiedzieć na pytania na jej temat.

Dyrektor naczelny Microsoftu, Satya Nadella, powiedział, że umowa firmy z OpenAI to rodzaj wzajemnie korzystnych relacji, które od dawna pielęgnuje z mniejszymi konkurentami. „Dorastałem w firmie, która zawsze zawierała tego typu umowy z innymi firmami” – powiedział The New York Times na początku tego roku.

Podczas gdy branża ściga się, by dorównać GPT-4, przedsiębiorcy, inwestorzy i eksperci debatują, kto będzie ostatecznym zwycięzcą. Większość zgadza się, że OpenAI przoduje w tej dziedzinie. Ale Cohere i niewielka grupa innych firm budują podobną technologię.

Giganci technologiczni mają silną pozycję, ponieważ dysponują ogromnymi zasobami potrzebnymi do popchnięcia tych systemów dalej niż ktokolwiek inny. Google posiada również patent na Transformer, podstawową technologię stojącą za systemami sztucznej inteligencji, które buduje Cohere i wiele innych firm.

Ale jest dzika karta: oprogramowanie open source.

Meta, kolejny gigant dysponujący mocą obliczeniową potrzebną do zbudowania następnej fali sztucznej inteligencji, niedawno udostępnił swój najnowszy duży model językowy, co oznacza, że ​​każdy może go ponownie wykorzystać i zbudować na jego podstawie. Wielu w tej dziedzinie wierzy, że tego rodzaju ogólnodostępne oprogramowanie pozwoli każdemu konkurować.

„Zbiorowe umysły wszystkich badaczy na Ziemi pokonałyby każdą firmę” – powiedział Amr Awadallah, dyrektor naczelny start-upu Vectara zajmującego się sztuczną inteligencją i były dyrektor generalny Google. Ale nadal będą musieli płacić za dostęp do znacznie większych centrów danych konkurencji.