Firma Tenstorrent, produkująca układy AI, kierowana przez znanego inżyniera mikroprocesorów Jima Kellera, właśnie ogłosiła nowe zestawy deweloperskie i stacje robocze AI zasilane przez najnowocześniejsze akceleratory Wormhole firmy. Tenstorrent wcześniej oferował zestawy deweloperskie (zestawy deweloperskie) oparte na swoim procesorze Grayskull AI (i będzie to robić nadal, dopóki zapasy będą dostępne), ale Wormhole ma nowszą, wydajniejszą architekturę, a to oznacza, że ​​firma po raz pierwszy zaoferowała kompletne stacje robocze zbudowane wokół swoich układów.

Tenstorrent stosuje nieco wyjątkowe podejście do akceleracji AI, wykorzystując wolny od opłat licencyjnych procesor RISC-V ISA i stosy oprogramowania typu open source. Ostatecznym celem jest oferowanie wysoce skalowalnych i wydajnych procesorów AI, z niską barierą wejścia i niższym całkowitym kosztem posiadania niż konkurencyjne rozwiązania. Jednak aby odnieść sukces w przestrzeni AI, programiści muszą znać układy scalone i oprogramowanie, a to właśnie tam wkraczają te nowe zestawy deweloperskie i stacje robocze.

Plan działania firmy Tenstorrent w zakresie krzemu

Akceleratory centrów danych Tenstorrent i te nowe zestawy deweloperskie wykorzystują te same architektury i działają podobnie, więc tworzenie na jednej z tych nowych kart lub stacji roboczych i skalowanie do chmury powinno być dość proste. Kluczem jest dostarczenie zestawów deweloperskich do rąk deweloperów.

„Zawsze jest satysfakcjonujące, gdy więcej naszych produktów trafia w ręce deweloperów. Udostępnianie systemów deweloperskich z naszą kartą Wormhole pomaga deweloperom skalować i pracować nad wieloprocesorowym oprogramowaniem AI” — powiedział Jim Keller, CEO Tenstorrent. „Oprócz tego wprowadzenia na rynek cieszymy się, że wyprowadzanie taśmy i włączanie zasilania dla naszej drugiej generacji, Blackhole, przebiega bardzo dobrze”.

Blackhole to autonomiczny komputer AI nowej generacji firmy Tenstorrent, który będzie wyposażony w 140 rdzeni Tensix++ firmy, 16 rdzeni CPU i szereg szybkich połączeń. Blackhole zaoferuje do 790 TOPS wydajności obliczeniowej z typem danych FP8, ale nie ma się pojawić wcześniej niż nieco później. Wormhole — podstawa tych nowych zestawów deweloperskich i stacji roboczych — jest produkowany w procesie 12 nm, zawiera 80 rdzeni Tensix+ firmy Tenstorrent, 16 x 100 Gb łącza Ethernet, 6 kanałów pamięci DDR6, 16 linii łączności PCIe Gen 4. Wormhole ma w rzeczywistości mniej rdzeni niż Grayskull, ale wykorzystuje bardziej zaawansowaną mikroarchitekturę i oferuje znacznie większą wydajność — 328 TOPS w porównaniu do 276 TOPS.

TT-Loudbox i TT-QuietBox to pierwsze stacje robocze Tenstorrent

Tenstorrent oferuje dwie karty oparte na Wormhole, N150 i N300, oraz dwie stacje robocze, TT-LoudBox i TT-QuietBox. N150 ma pojedynczy chip Wormhole, podczas gdy N300 ma dwa chipy. Będą one kosztować odpowiednio 1000 i 14 000 USD. Zarówno TT-LoudBox, jak i TT-QuietBox będą miały cztery N300, co daje łącznie osiem chipów Wormhole w siatce 2×4 na system, oprócz 512 GB pamięci RAM, 4 TB pamięci masowej NVMe i podwójnego Ethernetu 10 Gb. Oba systemy są opcjonalnie montowane w szafie, ale na tym kończą się podobieństwa. TT-LoudBox za 12 000 dolarów jest chłodzony powietrzem i ma parę 8-rdzeniowych procesorów Intel Xeon, podczas gdy TT-QuietBox za 15 000 dolarów jest chłodzony cieczą i ma jeden 16-rdzeniowy procesor AMD EPYC. Jeśli chodzi o to, jak głośne lub ciche są systemy, rzeczywiste pomiary decybeli nie były dostępne, ale powiedziano mi, że są podobne do potężnych systemów PC, a nie do wielkich serwerów żelaznych.

N150, N300 i TT-LoudBox są już dostępne na stronie Tenstorrent. TT-QuietBox jest również wymieniony, ale jest dostępny w przedsprzedaży i nie rozpocznie się jego wysyłka przez kolejne 8-10 tygodni.