Oczekuje się, że dobroczyńcą tego wczesnego zainteresowania będzie dostawca centrum danych i zarządzanej infrastruktury chmurowej z siedzibą w Bombaju, firma Yotta Data Services.

Firma ma podpisaną umowę z firmą Nvidia na zakup ponad 16 000 procesorów graficznych, czyli jednostek przetwarzania grafiki, rozłożonych na co najmniej dwa lata podatkowe.

„Prowadzimy wstępne rozmowy z firmą Nvidia w sprawie zakupu procesorów graficznych Blackwell w ramach naszego zamówienia i jesteśmy w trakcie finalizowania wszystkich szczegółów” – powiedział Sunil Gupta, współzałożyciel i dyrektor generalny Yotta, w wywiadzie dla Mennica.

„Prawdopodobnie do października tego roku planujemy zakup około 1000 procesorów graficznych Blackwell B200, co będzie równoznaczne z około 4000 procesorów graficznych „H100”. Chociaż harmonogram nie jest jeszcze jasny, spodziewamy się, że dostawy procesorów graficznych Blackwell zostaną dostarczone przed do końca tego roku i zrealizować całe nasze istniejące zamówienie do następnego roku budżetowego” – powiedział Gupta.

Gupta powiedział, że całe zamówienie pomiędzy Yottą i Nvidią jest warte blisko 1 miliard dolarów.

Procesor graficzny Blackwell, zapowiedziany przez Jensena Huanga, dyrektora generalnego Nvidii, jest zgodny z oczekiwaniami analityków względem najszybciej rozwijającej się firmy technologicznej z Doliny Krzemowej.

Huang twierdził, że oferuje czterokrotnie szybsze szkolenie modeli sztucznej inteligencji z ponad 1 bilionem parametrów danych i 30 razy szybszy czas przetwarzania przy tworzeniu „wniosków”, czyli zdolności modelu do przyjmowania zapytania, jego przetwarzania i dostarczania wyniku końcowego.

W ciągu ostatnich czterech kwartałów Nvidia wyprzedziła energetycznego giganta Saudi Aramco i stała się trzecią co do wielkości firmą technologiczną na świecie pod względem wyceny. Według raportu Reuters, w chwili publikacji Nvidia (wyceniana na około 2,1 biliona dolarów) ustępuje Microsoftowi (3,1 biliona dolarów) i Apple (2,8 biliona dolarów).

Trzej dyrektorzy naczelni Big Tech potwierdzili w momencie premiery, że najnowszy procesor graficzny Nvidia Blackwell będzie dostępny w ich usługach. Sundar Pichai, dyrektor generalny Google i Alphabet, powiedział, że centra danych i infrastruktura chmurowa oparta na Blackwell trafią do klientów badaczy Google Cloud i DeepMind.

Andy Jassy z Amazona i Satya Nadella z Microsoftu również potwierdzili, że nowy procesor graficzny będzie dostępny na serwerach w chmurze Amazon Web Services (AWS) i Microsoft Azure, natomiast Mark Zuckerberg z Meta potwierdził, że będzie na nim trenowany firmowy model sztucznej inteligencji Llama.

Nowy procesor graficzny może wnioskować w czasie rzeczywistym w podstawowych modelach AI z maksymalnie 10 bilionami parametrów danych, powiedział Huang. Dla porównania, szacuje się, że najnowszy model GPT OpenAI ma 1,8 biliona parametrów danych.

Procesor graficzny korzysta również z „silnika transformatorowego” drugiej generacji, który podwaja prędkość wnioskowania lub przetwarza dwukrotnie większe modele AI.

Kwestią może być jednak koszt. Kierownictwo wyższego szczebla dwóch dostawców platform chmurowych stwierdziło, że nowy procesor graficzny może być od 40% do 60% droższy od obecnie używanego procesora graficznego Nvidia H100.

„Jedna karta graficzna H100 kosztuje dziś około 25 000 dolarów, a Blackwell może kosztować około 35 000–40 000 dolarów. To sprawi, że nowe chipy będą potencjalnie droższe, ale mogą też wymagać mniejszej liczby jednostek w centrum danych, w zależności od zapotrzebowania” – powiedział jeden z dyrektorów.

Poprosili o anonimowość, ponieważ każdy z nich ma istniejące relacje z Nvidią i nie został jeszcze upoważniony do wypowiadania się na temat cen Blackwell.

Gupta z Yotty powiedział, że nowy procesor graficzny „może pozwolić centrom danych poprawić wydajność nieruchomości i przyciągnąć więcej klientów czekających na dostawę procesorów graficznych”.

„Może to pomóc nam zwiększyć przychody poprzez zapewnienie szerszej gamy zarządzanych usług w chmurze płacącym klientom. Znacznie niższy poziom zasilania dodatkowo zwiększy wydajność” – dodał Gupta.

Analitycy również pozytywnie ocenili start Nvidii, podkreślając, że rosnące wyceny firmy mogą nie być krótkotrwałe. „Do szkolenia generatywnych obciążeń AI potrzebne są procesory graficzne.

Obecnie głównym zapotrzebowaniem są obciążenia szkoleniowe, a nie wnioskowanie” – powiedziała Anushree Verma, dyrektor analityk w firmie Gartner. „W przypadku szkoleń potrzebne są przyspieszone obliczenia, które zazwyczaj można skalować, uruchamiając wiele instancji obciążeń na różnych serwerach”.

Nowe procesory Blackwell zostaną umieszczone w GB200 – „superchipie” składającym się z dwóch procesorów graficznych Blackwell i procesora. Tytułem odniesienia Huang powiedział, że architektura procesorów graficznych Nvidii poprzedniej generacji, Hopper, wymagałaby 8000 jednostek i zasilacza o mocy 15 W w ciągu 90 dni, aby wytrenować model sztucznej inteligencji o 1,8 bilionach parametrów. Teraz Blackwell będzie potrzebował jednej czwartej liczby chipów i jednej czwartej zasilacza do wytrenowania modelu.

Nvidia ogłosiła także szereg konkretnych inicjatyw strategicznych, w tym zestaw narzędzi „BioNeMo” obejmujący podstawowe modele sztucznej inteligencji do badań biologicznych i farmaceutycznych. Platforma „Omniverse” zawierająca precyzyjne wirtualne symulacje będzie oferować cyfrowe bliźniaki w chmurze jako usługę – prezentowaną w ramach partnerstw z branży motoryzacyjnej i robotyki, w tym z takimi firmami jak Mercedes-Benz i Cadence Design.

Nvidia pracuje także nad specyficznym dla domeny modelem wielkojęzykowym, aby przyspieszyć projektowanie chipów, dodał Huang.

Autor przebywa w San Jose, aby wziąć udział w GTC 2024 na zaproszenie firmy Nvidia.