Jak Apple skorzystało z pomocy Google, wprowadzając funkcje AI do iPhone’ów
Apple wydało pierwsze wersje beta dla deweloperów systemów iOS 18.1, iPadOS 18.1 i macOS Sequoia 15.1 – dając wgląd w to, jak sztuczna inteligencja, a raczej Apple Intelligence, działa w jego urządzeniach. Producent iPhone’ów opublikował również dokument techniczny, który zawiera szczegóły na temat opracowanych przez niego modeli, w tym, że polegał na układach zaprojektowanych przez Google, a nie lidera branży, Nvidię.
Według artykułu, Apple wykorzystało układy AI firmy Google do zbudowania dwóch kluczowych komponentów (lub modeli bazowych Apple) swojej infrastruktury oprogramowania AI, korzystając z dwóch różnych klastrów procesora tensorowego (TPU) firmy Google.
„Modele AFM są wstępnie trenowane w klastrach Cloud TPU v4 i v5p przy użyciu środowiska AXLearn [Apple, 2023]JAX [Bradbury et al., 2018] oparta na głębokiej bibliotece uczenia się zaprojektowana dla chmury publicznej. Szkolenie jest przeprowadzane przy użyciu kombinacji tensora, w pełni sharded-data-parallel i paralelizmu sekwencji, co pozwala na skalowanie szkolenia do dużej liczby parametrów modelu i długości sekwencji przy wysokim wykorzystaniu”, powiedział Apple w artykule.
Apple twierdzi, że system pozwolił na efektywne i skalowalne trenowanie modeli AFM, w tym AFM-on-device, AFM-server i większych modeli. Podczas gdy AFM-server trenowano na 8192 chipach TPUv4, AFM-on-device trenowano na jednym wycinku 2048 chipów TPUv5p.
Dlaczego to jest istotne
Godna uwagi jest decyzja Apple o poleganiu na infrastrukturze Google, ponieważ Nvidia produkuje najbardziej pożądane procesory AI. W rzeczywistości Google używa procesorów graficznych H100 firmy Nvidia w połączeniu z własnymi TPU do trenowania modeli AI.
Apple nie powiedziało wprost, że nie używa żadnych chipów firmy Nvidia, która nie projektuje TPU. Google sprzedaje dostęp do TPU za pośrednictwem swojej platformy Google Cloud Platform.
Nowe wersje beta, które wprowadzają funkcje Apple Intelligence, są dostępne tylko dla określonych urządzeń. Kluczowe funkcje obejmują Writing Tools do ulepszania tekstu, ulepszone możliwości Siri, inteligentne funkcje poczty e-mail i wiadomości oraz zaawansowane wyszukiwanie i organizowanie zdjęć.
Według artykułu, Apple wykorzystało układy AI firmy Google do zbudowania dwóch kluczowych komponentów (lub modeli bazowych Apple) swojej infrastruktury oprogramowania AI, korzystając z dwóch różnych klastrów procesora tensorowego (TPU) firmy Google.
„Modele AFM są wstępnie trenowane w klastrach Cloud TPU v4 i v5p przy użyciu środowiska AXLearn [Apple, 2023]JAX [Bradbury et al., 2018] oparta na głębokiej bibliotece uczenia się zaprojektowana dla chmury publicznej. Szkolenie jest przeprowadzane przy użyciu kombinacji tensora, w pełni sharded-data-parallel i paralelizmu sekwencji, co pozwala na skalowanie szkolenia do dużej liczby parametrów modelu i długości sekwencji przy wysokim wykorzystaniu”, powiedział Apple w artykule.
Apple twierdzi, że system pozwolił na efektywne i skalowalne trenowanie modeli AFM, w tym AFM-on-device, AFM-server i większych modeli. Podczas gdy AFM-server trenowano na 8192 chipach TPUv4, AFM-on-device trenowano na jednym wycinku 2048 chipów TPUv5p.
Zwiększać
Godna uwagi jest decyzja Apple o poleganiu na infrastrukturze Google, ponieważ Nvidia produkuje najbardziej pożądane procesory AI. W rzeczywistości Google używa procesorów graficznych H100 firmy Nvidia w połączeniu z własnymi TPU do trenowania modeli AI.
Apple nie powiedziało wprost, że nie używa żadnych chipów firmy Nvidia, która nie projektuje TPU. Google sprzedaje dostęp do TPU za pośrednictwem swojej platformy Google Cloud Platform.
Nowe wersje beta, które wprowadzają funkcje Apple Intelligence, są dostępne tylko dla określonych urządzeń. Kluczowe funkcje obejmują Writing Tools do ulepszania tekstu, ulepszone możliwości Siri, inteligentne funkcje poczty e-mail i wiadomości oraz zaawansowane wyszukiwanie i organizowanie zdjęć.
