Nowy trudny produkt Microsoftu: GenAI, które żyje w laptopach, a nie w chmurze | Wiadomości technologiczne
Tuż przed trzydniową doroczną konferencją „Build”, która odbyła się na początku tego tygodnia w Seattle, Microsoft rozpoczął nową kampanię dotyczącą nowego komputera „Copilot+ PC”. Wprowadzony na rynek we współpracy z graczami ekosystemowymi, takimi jak Qualcomm, Intel i AMD, a także partnerami OEM na niższym szczeblu łańcucha dostaw, w tym Dell, HP i Samsung, Microsoft obiecał, że jego komputer PC wyposażony w OpenAI GPT-4o będzie „20 razy mocniejszy i do 100 razy wydajniejszy dla obsługuje obciążenia AI i zapewnia wiodące w branży przyspieszenie AI” i jest w stanie „przewyższyć 15-calowego MacBooka Air firmy Apple nawet o 58 procent pod względem stałej wydajności wielowątkowej, a wszystko to przy jednoczesnym zapewnieniu całodziennej pracy na baterii”.
Komputery PC firmy Microsoft z systemem Windows od lat konsekwentnie wypierają urządzenia Apple. Ten trend stał się bardziej wyraźny od czasu wprowadzenia na rynek pierwszego chipa M1 dla MacBooków w 2020 r., co pomogło urządzeniom Apple uzyskać dłuższy czas pracy baterii i zoptymalizowaną wydajność. Wydaje się jednak, że Apple poważnie stoi za Microsoftem w wyścigu AI. Dzięki nowym komputerom wyposażonym w sztuczną inteligencję (zasilanym przez nowy układ Qualcomm Snapdragon X Elite) główny producent oprogramowania z Redmond ma pewność, że nowa premiera może w końcu przechylić szalę na korzyść.
Sztuczna inteligencja w komputerze
Komputery wyposażone w sztuczną inteligencję to zasadniczo komputery osobiste wyposażone w wyspecjalizowane procesory lub akceleratory zwane jednostkami przetwarzania neuronowego lub jednostkami NPU, które są zoptymalizowane pod kątem lokalnego uruchamiania aplikacji AI na urządzeniu, zamiast polegać na usługach opartych na chmurze, takich jak ChatGPT lub Gemini. Celem inicjatywy AI PC jest uchwycenie stałego rozwoju sztucznej inteligencji w ciągu ostatnich 24 miesięcy. Co ważniejsze, dzieje się to w momencie, gdy po prawie czterech latach gwałtowny wzrost popytu na nowy sprzęt i towarzyszące mu oprogramowanie po pandemii Covid-19 wygasa. Aby popchnąć kolejną falę komputerów osobistych, trzeba było zaoferować coś nowego, ponieważ większość systemów kupowanych przez konsumentów w fazie po Covid-19 jest obecnie przeznaczona do aktualizacji.
Dzięki najnowszej wersji systemu Windows, dedykowanemu kluczowi Copilot i jednostce NPU zdolnej do wykonywania ponad 40 bilionów operacji na sekundę, konsumenci mogą uruchamiać Microsoft Copilot lokalnie na urządzeniu osobistym lub maszynie, takiej jak laptop lub komputer stacjonarny. W przeciwieństwie do tradycyjnych procesorów graficznych (jednostek przetwarzania grafiki, takich jak te produkowane przez firmę Nvidia) lub tradycyjnych procesorów (jednostek centralnych), jednostka NPU jest prawie całkowicie zoptymalizowana pod kątem obliczeń AI na poziomie sprzętowym w celu poprawy wydajności i efektywności energetycznej.
Według Jensena Huanga, współzałożyciela, prezesa i dyrektora generalnego Nvidii, koncepcja „on prem” znów staje się modna. Model „na urządzeniu” to po prostu krok dalej w stosunku do modelu „na urządzeniu”.
Modele AI: od szkolenia do wnioskowania, od chmury do krawędzi
Rozwój ten następuje w momencie, gdy mówi się o powolnym przechodzeniu w modelach uczenia maszynowego (ML) i sztucznej inteligencji od „szkolenia”, czyli pierwszej fazy modelu sztucznej inteligencji, do tak zwanego „wnioskowania”. Szkolenie obejmuje proces prób i błędów lub proces zaznajamiania modelu sztucznej inteligencji z przykładami pożądanych danych wejściowych i wyjściowych lub jedno i drugie. To właśnie zrobiły podstawowe modele, takie jak Chat GPT OpenAI, Gemini Google i Lama Meta. Wnioskowanie to proces następujący po szkoleniu AI, podczas którego wyszkolony model jest następnie dostrajany pod kątem praktycznego, a czasem bardziej szczegółowego zastosowania, a następnie budowane są na nim nowe aplikacje.
Tradycyjnie modele szkoleniowe działały tylko na wydajnych serwerach w chmurze lub w sieci centrów danych, biorąc pod uwagę ogromną ilość danych, które trzeba przetworzyć w celu prostego szkolenia algorytmu. W tym przypadku infrastruktura chmurowa, czyli rozwiązania w chmurze publicznej, zapewniła podstawę dla obliczeń korporacyjnych. Rozwiązania chmury publicznej są w pełni zarządzane przez zewnętrznych dostawców, odciążając zespoły IT z konieczności zakupu, instalowania, zarządzania i aktualizowania technologii na miejscu. Infrastruktura lokalna (lub lokalna) bardziej przypomina środowisko chmury prywatnej, z którego może korzystać tylko jeden klient. ML na urządzeniu ma miejsce wtedy, gdy konsument przeprowadza wnioskowanie z modelami bezpośrednio na urządzeniu za pomocą aplikacji mobilnej lub przeglądarki internetowej. Przetwarzanie AI odbywające się bezpośrednio na komputerze użytkownika, co jest czasami nazywane przetwarzaniem brzegowym.
W przypadku przetwarzania brzegowego model ML przetwarza dane wejściowe — takie jak obrazy, tekst lub dźwięk — na urządzeniu, zamiast wysyłać je na serwer zewnętrzny. To naprawdę jest nowa granica, którą przesuwają producenci sprzętu i oprogramowania w przestrzeni komputerów osobistych. Duża poprawa mocy obliczeniowej (moc obliczeniowa procesora, procesora graficznego oraz dzięki dedykowanym blokom akceleratorów ML, takim jak NPU) umożliwiła zbliżenie wydajności urządzenia do tej, którą można osiągnąć na serwerach dedykowanych.
Zalety uczenia maszynowego na urządzeniu obejmują mniejsze opóźnienia, ponieważ nie ma podróży w obie strony na serwer i z powrotem, oraz znacznie większą prywatność, ponieważ przetwarzanie danych odbywa się na samym urządzeniu użytkownika. Wady obejmują modele instalowane na urządzeniach, które muszą być znacznie mniejsze niż ich odpowiedniki serwerowe.
’Całkowite przypomnienie
Microsoft wychwala zalety zarówno mniejszych opóźnień, jak i zwiększenia prywatności w swoich komputerach Copilot+, które Yusuf Mehdi, wiceprezes wykonawczy i dyrektor ds. marketingu konsumenckiego firmy z siedzibą w Redmond, nazwał „najszybszymi i najbardziej inteligentnymi komputerami PC z systemem Windows, jakie kiedykolwiek zbudowano”.
Trzy duże zalety z punktu widzenia aplikacji użytkownika obejmują funkcję o nazwie Recall, dzięki której można łatwo znaleźć i zapamiętać to, co użytkownik widział na komputerze; funkcja o nazwie Cocreator umożliwiająca generowanie i udoskonalanie obrazów AI w czasie zbliżonym do rzeczywistego bezpośrednio na urządzeniu; oraz funkcję o nazwie Live Caption, która umożliwia użytkownikowi pokonanie barier językowych poprzez tłumaczenie dźwięku z ponad 40 języków na angielski.
Dużą zaletą jest tutaj funkcja Recall, która zasadniczo działa jak pamięć fotograficzna, prezentując użytkownikowi to, co wcześniej widział lub robił na komputerze. Przypomnienie nie polega na wyszukiwaniu słów kluczowych, ale raczej na kompleksowym, nawet piktograficznym przeszukiwaniu całej historii użytkownika. Zasada działania polega na tym, że system Windows stale wykonuje zrzuty ekranu zawartości ekranu użytkownika, gdy urządzenie działa, a następnie korzysta z generatywnego modelu sztucznej inteligencji bezpośrednio na urządzeniu i wbudowanej jednostce NPU, aby przetworzyć wszystkie te dane i umożliwić ich przeszukiwanie, w tym określone dane wejściowe, takie jak sukienki na zdjęciach lub liczby na slajdzie wykresu słupkowego.
Funkcja ta naprawdę kładzie nacisk na prywatność, dlatego też wszystko odbywa się lokalnie, a użytkownik może mieć pewność, że wszystkie dane znajdują się na jego komputerze, zamiast przesyłać je, a następnie pobierać za pomocą aplikacji AI działającej na komputerze. Chmura.
Ostatnie słowo
Microsoft wyraźnie zaczyna mieć wyraźną przewagę w AI. Ale Apple raczej nie przyjmie tego na spokojnie. 10 czerwca firma będzie gospodarzem corocznej konferencji Worldwide Developers Conference, podczas której ma zaprezentować własne aplikacje i sprzęt AI. Może to obejmować nowe chipy M4 Pro i M4 Max, które są reklamowane jako znacznie większe w porównaniu z najnowszymi chipami M4 i mogą nawet przewyższyć chipy Qualcomm.
Zmiany w sztucznej inteligencji mogą w końcu sprawić, że walka między komputerami Mac i PC z systemem Windows znów stanie się interesująca.
Edot: Uczenie maszynowe na urządzeniu
Uczenie maszynowe na urządzeniu ma miejsce, gdy użytkownik wykonuje wnioskowanie AI na modelach bezpośrednio na urządzeniu za pomocą aplikacji mobilnej lub przeglądarki internetowej. Do zalet należą mniejsze opóźnienia, ponieważ nie ma podróży w obie strony na serwer i z powrotem, a także większa prywatność, ponieważ przetwarzanie danych odbywa się na samym urządzeniu użytkownika.
