Apple zatrzymał się przedszkolu. Ten dokument pokazał, gdzie jest firma w kwestii SI
Naukowcy pracujący dla Apple'a właśnie opublikowali pracę naukową, która sugeruje, że koncern prężnie działa, by prześcignąć największe modele konkurencji w benchmarkach. Dokonania rodziny modeli MM1 są imponujące, ale nadal nie rozwiązują trapiącej firmę (i jej fanów) kwestii.
Według najnowszych informacji Apple aktywnie prowadzi negocjacje co do wprowadzenia do nadchodzących (a być może i poprzednich) iPhone'ów modeli sztucznej inteligencji Google'a. Ta informacja to rozczarowanie dla wszystkich, którzy oczekiwali od Apple'a jego własnej AI i naprawy Siri.
Jednak nie oznacza to, że Apple porzucił ambicje stworzenia generatywnej sztucznej inteligencji. Jest wręcz przeciwnie, bowiem do internetu trafił całkiem solidny dowód pokazujący, że koncern aktywnie pracuje nad AI.
Inżynierowie Apple'a pracują nad sztuczną inteligencją. MM1 wypada obiecująco w benchmarkach
Mowa tu konkretnie o pracy naukowej opisującej pracę inżynierów nad modelem MM1. Praca opublikowana w archiwum pre-printów arXiv została stworzona przez grupę naukowców Apple'a pod przewodnictwem Brandona McKinzie i Zhe Gan.
"MM1: Methods, Analysis & Insights from Multimodal LLM Pre-training" opisuje garść eksperymentów, jakie naukowcy firmy przeprowadzili w celu ustalenia, jakie podejście do budowania multimodalnych dużych modeli językowych (LLM) byłoby optymalne. Poprzez testy różnych komponentów, ale i używanie różnych zestawów treningowych, ustalili oni, które aspekty grają największą rolę przy budowaniu multimodalnych LLM.
To doświadczenie przekuli oni w stworzenie rodziny modeli AI MM1. W największej wersji MM1 posiada aż 30 miliardów parametrów, a każdy z modeli w rodzinie wykazuje ponadprzeciętne zdolności nauki z zaledwie kilku przykładów.
Badacze porównali MM1 z innymi modelami sztucznej inteligencji (w tym GPT-4 czy Gemini Nano) w różnych benchmarkach sprawdzających m.in. potencjał językowy, potencjał rozumowania i możliwości multimodalności modelu (np. pokazanie AI zdjęcia muchomora i dołączenie do niego tekstowego promptu "Czy człowiek może to zjeść?"). W każdym z benchmarków modele inżynierów Apple wykazywały się ponadprzeciętnymi zdolnościami.
Modele MM1 znajdują się obecnie w fazie wstępnego szkolenia (pre-training phase), co oznacza, że MM1 nie jest wystarczająco wyszkolony, aby zapewnić pożądane wyniki. Bowiem jest to etap, w którym naukowcy dopiero będą dostrajać model i jego sposób działania.
Ponadto internetowe repozytorium arXiv jest archiwum tzw. pre-printów, czyli prac, które nie przeszły recenzji naukowej. Chociaż sam dokument nie wspomina o Apple, większość wspomnianych badaczy jest powiązana z pionem uczenia maszynowego (ML) firmy.
Chociaż dokonania naukowców Apple wydają się być istotne, to opublikowany przez nich dokument nie świadczy o tym, że w iPhone 16 lub 17 możemy spodziewać się modelu MM1. Na tym etapie trudno jest nawet powiedzieć, czy model sztucznej inteligencji jest multimodalny jedynie podczas przyjmowania danych wejściowych (wysyłania do AI zapytań), czy również zwraca dane wyjściowe (np. czy może generować obrazy).
Więcej na temat Apple i sztucznej inteligencji:
Zdjęcie główne: Droneandy / Shutterstock