W niedawnym teście platformy uczenia maszynowego MLX firmy Apple test porównawczy pokazuje, jak nowe komputery Apple Silicon Mac konkurują z kartą RTX 4090 firmy Nvidia.

Wydajność szeptu

6 grudnia firma Apple ogłosiła wydanie MLX, platformy open source zaprojektowanej specjalnie dla krzemu Apple. Jest przeznaczony dla programistów sztucznej inteligencji, którzy mogą na nim budować, testować, wykorzystywać i ulepszać swoje projekty.

Deweloper Oliver Wehrens udostępnił niedawno wyniki testów porównawczych frameworka MLX na chipach Apple M1 Pro, M2 i M3 w porównaniu z kartą graficzną RTX 4090 firmy Nvidia. Wykorzystuje Whisper, model rozpoznawania mowy OpenAI.

Wehrens wykorzystuje model Whisper do transkrypcji mowy i mierzy czas potrzebny na przetworzenie 10-minutowego pliku audio. Wyniki pokazują, że układ M1 Pro nie do końca dorównuje wydajności procesora graficznego Nvidia – przetwarzanie dźwięku zajmuje 216 sekund w porównaniu do 186 sekund w modelu 4090.

Jednak nowsze chipy Apple mają znacznie lepszą wydajność. Na przykład inna osoba uruchomiła ten sam plik audio na komputerach M2 Ultra z 76 procesorami graficznymi i M3 Max z 40 procesorami graficznymi i odkryła, że ​​te chipy transkrybowały transkrypcję dźwięku w krótszym czasie niż procesor graficzny Nvidia.

Istnieje również znacząca różnica w zużyciu energii pomiędzy chipami Apple a ofertą Nvidii. W szczególności, porównując zużycie energii przez komputer PC z kartą Nvidia 4090 w porównaniu ze stanem bezczynności, widać wzrost o 242 waty.

Natomiast MacBook z 16 rdzeniami graficznymi M1 wykazuje znacznie mniejszy wzrost zużycia energii w stanie aktywnym w porównaniu do stanu bezczynności, z różnicą zaledwie 38 watów.

Wyniki podkreślają postęp Apple w zakresie sztucznej inteligencji i uczenia maszynowego i mogą stanowić początek lepszych możliwości produktów Apple. Dzięki temu, że platforma MLX jest obecnie oprogramowaniem typu open source, toruje drogę programistom do szerszych zastosowań i innowacji.

Ceny procesora graficznego Nvidia 4090 zaczynają się od 1599 dolarów za samą kartę, bez komputera. To ta sama cena, co M3 MacBook Pro z 2022 roku – ale ceny M3 Pro i M3 Max gwałtownie rosną.

Historia trwa

Użycie zoptymalizowanego narzędzia zmieniło wyniki

Aktualizacja wpisu na blogu Wehrensa zmieniła sytuację. Chipy M3 nadal radziły sobie dobrze, jednak Nvidia skróciła swoje czasy o ponad połowę, korzystając z odpowiednio zoptymalizowanych narzędzi testowych.

Zaktualizowano wydajność szeptu

Pozostawiamy oryginalną historię nienaruszoną, ponieważ odzwierciedla ona działanie niezoptymalizowanego narzędzia. Jednak procesory Apple wciąż mają wiele do zrobienia, aby dorównać procesorom Nvidii, jeśli chodzi o transkrypcje AI.

Najbardziej interesującym czynnikiem, na który należy zwrócić uwagę, jest różnica w zużyciu energii. Wynik ten się nie zmienił – chipy Apple radziły sobie dobrze przy ułamku mocy pobieranej przez Nvidię.

Dzięki nowym wynikom narzędzia zoptymalizowanego pod kątem Nvidii transkrypcja jest wykonywana w 8 sekund. M1 Pro zajęło to 263 sekundy, M2 Ultra 95 sekund, a M3 Max 100 sekund.

Wyniki Apple nadal były imponujące, biorąc pod uwagę pobór mocy, ale nadal nie dorównywały wynikom Nvidii. Apple Silicon ma jeszcze trochę do poprawienia, ale już to osiąga.

Zaktualizowano 13 grudnia o 18:50 ET: W oryginalnym poście użyto niezoptymalizowanego testu porównawczego, który wyświetlał niedokładne wyniki.