W ciągu ostatnich 18 miesięcy generatywna sztuczna inteligencja eksplodowała wraz z uruchomieniem różnych usług sztucznej inteligencji o potężnych możliwościach, które umożliwiały tworzenie tekstu, obrazów i muzyki, a nawet pełnienie roli wszechstronnego asystenta.

Producenci smartfonów i producenci chipów mobilnych również przyjęli ten trend, wykorzystując nowy sprzęt, aby szybko dostosować się do tego nowego trendu. Nowa seria Pixel 8 firmy Google już przoduje, a dzięki procesorowi Qualcomm Snapdragon 8 Gen 3 tuż za rogiem spodziewamy się jeszcze większych postępów w nadchodzącym roku. Przyjrzyjmy się, czego się spodziewać.

Najnowszym dowodem na to, że producenci smartfonów wykorzystują generatywną sztuczną inteligencję w znacznie większym stopniu, jest Google. Telefony Pixel 8 firmy to pierwsze smartfony, które obsługują na swoim urządzeniu wersje generatywnego modelu AI Foundation Models firmy Google. Google twierdzi, że modele widoczne na telefonach Pixel 8 to okrojone wersje modeli działających w chmurze, ale uruchamianie na urządzeniu jest bezpieczniejsze i bardziej niezawodne, gdy dane nie są dostępne.

Jest to możliwe dzięki Tensorowi G3, a Google reklamuje znacznie ulepszoną jednostkę przetwarzającą Tensor (TPU) w porównaniu z zeszłym rokiem. Firma zazwyczaj utrzymuje ściśle strzeżoną tajemnicę wewnętrznego działania swojego krzemu AI, ale ujawniła kilka informacji. Po pierwsze, Google twierdzi, że Pixel 8 obsługuje dwa razy więcej modeli uczenia maszynowego na urządzeniu niż seria Pixel 6. Dodał, że generatywne modele AI w Pixelu 8 wykonują do 150 razy więcej obliczeń niż największy model w Pixelu 7.

W języku angielskim oznacza to, że masz takie funkcje, jak wielojęzyczne dyktowanie głosu, funkcja Best Take, Audio Magic Eraser, udoskonalona Magic Eraser, podsumowania rejestratora i inne, bez konieczności przetwarzania w chmurze.

Google nie jest jedyną marką mobilną, która od niedawna wykorzystuje generatywną sztuczną inteligencję na poziomie sprzętowym. Samsung potwierdził, że prace nad chipsetem Exynos 2400 były prowadzone na początku tego miesiąca, dodając, że zapewni on 14,7-krotny wzrost wydajności obliczeniowej AI w porównaniu z Exynos 2200. Pomiar wydajności obliczeniowej AI jest nadal niejasny, ale Samsung już to zrobił przynajmniej jedno zastosowanie.

Firma podała, że ​​opracowała narzędzie sztucznej inteligencji dla „nadchodzących telefonów” z procesorem Exynos 2400. Narzędzie to umożliwi generowanie tekstu na obraz na urządzeniu bez konieczności połączenia z Internetem.

Chipy Qualcomm Snapdragon zasilają większość flagowych telefonów z Androidem na całym świecie, dlatego jesteśmy ciekawi, co zaoferuje nadchodzący Snapdragon 8 Gen 3 pod względem generatywnych możliwości AI.

Firma już wcześniej zademonstrowała wersję generatora zamiany tekstu na obraz Stable Diffusion działającego na urządzeniu Snapdragon 8 Gen 2 na początku tego roku. Sugeruje to, że obsługa generowania obrazu może być funkcją nowego chipsetu, zwłaszcza w świetle Exynos 2400 oferującego tę funkcję.

Czy jednak moglibyśmy zobaczyć dedykowany krzem generatywnej sztucznej inteligencji łączący się z dedykowanym krzemem AI? powiedział starszy dyrektor Qualcomm Karl Whealton Władze Androida w wywiadzie, że gdyby istniejący sprzęt był wystarczająco mocny, wydajny i elastyczny, mógłby obsłużyć „większość rzeczy, które chcesz zrobić”.

Whealton stwierdził, że istnieje tendencja do skupiania się na konkretnych funkcjach związanych z generatywną sztuczną inteligencją (powołując się na przykład softmax) i zastanawiania się, czy do ich obsługi potrzebny jest specjalny sprzęt.

Jednakże dyrektor uważał, że istniejący krzem Qualcomm jest rzeczywiście wystarczająco mocny i elastyczny, aby sprostać tego typu potrzebom:

Wygląda na to, że ogólnie mamy znaczące ulepszenia silnika, ale remont lub konkretną NPU przy określonym obciążeniu… Nadal tak jest w przypadku Snapdragon 8 Gen 2, że nic takiego nie jest potrzebne.

Mówiąc to, Qualcomm nie ustępował już wcześniej, gdy w 2017 i 2018 r. zadebiutowały pierwsze mobilne chipsety z dedykowanym krzemem AI. Jednak ostatecznie firma ustąpiła w kwestii Snapdragona 855, który napędzał flagowe telefony z 2019 r., wprowadzając na rynek akcelerator Hexagon Tensor Accelerator.

Na początku tego roku widzieliśmy także telefony z szalonymi 24 GB pamięci RAM, a niektórzy sugerowali, że byłoby to dobre zastosowanie w modelach generatywnej sztucznej inteligencji. W ten sposób teoretycznie mógłbyś mieć szeroko zakrojonego asystenta AI zajmującego część tej pamięci RAM. Zgadza się, że ilość pamięci RAM będzie ważna dla przyszłych zastosowań generatywnej sztucznej inteligencji.

„Nie będę wypowiadał się w imieniu producentów OEM. Ale jest duża korzyść. Ogólnie rzecz biorąc, zwiększy to wydajność pamięci RAM” – wyjaśnił Whealton. Dodał, że bogactwo i „to, co postrzegamy jako zakres wiedzy” modeli AI, jest powiązane z wielkością modelu.

Zauważył, że model sztucznej inteligencji musiałby znajdować się w pamięci RAM, ponieważ użycie pamięci flash skutkowałoby długim czasem ładowania.

Chcesz przesuwać 10, 20, 40 żetonów na sekundę. Dzięki temu będzie można uzyskać dobre rezultaty, będzie można uzyskać niemal konwersację i tym podobne rzeczy. Więc to naprawdę musi być pamięć RAM i dlatego pamięć RAM jest tak ważna.

Czy to oznacza, że ​​telefony pozbawione pamięci RAM (np. z 6 GB lub 8 GB pamięci RAM) zostaną w pewnym stopniu pominięte w pętli?

Whealton nie przewiduje minimalnego zapotrzebowania na pamięć RAM dla generatywnej sztucznej inteligencji na urządzeniu, zamiast tego zauważa, że ​​większa ilość pamięci RAM umożliwi „duży wzrost” funkcjonalności:

Nie powiedziałbym więc, że istnieje granica, w której można powiedzieć „wypadłeś z obiegu”. Powiedziałbym, że wyniki będą znacznie lepsze, im więcej pamięci RAM obsłużysz.

Dyrektor ds. PR w Qualcomm, Sascha Segan, sugeruje również hybrydową przyszłość smartfonów, które mogą nie być w stanie pomieścić na urządzeniu dużego modelu sztucznej inteligencji. Moglibyśmy zobaczyć telefon oferujący znacznie mniejszy model sztucznej inteligencji na urządzeniu, nadal pozwalający na przetwarzanie lokalne, ale urządzenie mogłoby następnie zweryfikować te wyniki w porównaniu z większym modelem opartym na chmurze.

Jednym z rozwiązań jest podejście oparte na brutalnej sile polegające na oferowaniu dużej ilości pamięci RAM do przechowywania generatywnych modeli sztucznej inteligencji. Jednak zaobserwowaliśmy również tendencję do zmniejszania lub kwantyzacji modeli sztucznej inteligencji w celu zmniejszenia ich śladu. Dlatego obsługa precyzji INT4 i INT8 w dalszym ciągu jest kluczowym sposobem na zmniejszenie generatywnych modeli AI i uruchomienie ich na urządzeniach z mniejszą ilością pamięci RAM, takich jak starsze flagowce i telefony średniej klasy. Na szczęście zarówno Qualcomm, jak i odwieczny rywal MediaTek obsługują tę funkcję.

Podsumowując, jasne jest, że generatywne modele sztucznej inteligencji będą odgrywać coraz ważniejszą rolę w nadchodzących urządzeniach mobilnych. Chociaż większość współczesnych telefonów korzysta z chmury, przetwarzanie na urządzeniu będzie kluczem do zwiększenia bezpieczeństwa i funkcjonalności. Będzie to wymagało wydajniejszych chipów, większej ilości pamięci i sprytnych technik kompresji AI.

Chętnie zobaczymy, jak sprzęt smartfonów w 2024 r. będzie ewoluował dzięki generatywnej sztucznej inteligencji. Wygląda na to, że dostawcy chipsetów mają już w głowie kilka pomysłów