Zamiast dusić procesory, będą wysyłać dane radiem. "Mózg będzie na zewnątrz"
Zamiast dusić się na słabych procesorach albo wysyłać dane do chmury, urządzenia brzegowe mogą liczyć za pomocą fal radiowych. Tak działa WISE.
Drony, kamery miejskie i czujniki w inteligentnych fabrykach potrzebują dziś coraz sprytniejszej sztucznej inteligencji, ale wciąż działają na skromnych, zasilanych bateryjnie podzespołach. Zespół z Duke University proponuje rozwiązanie, które brzmi niczym jak z książki czy filmu sci-fi: zamiast upychać wielkie modele AI w małych urządzeniach, ich mózg ma być przesyłany falami radiowymi z pobliskich stacji bazowych.
AI dusi się na brzegu sieci
Wizja inteligentnego wszystkiego opiera się na tzw. edge computingu, czyli przetwarzaniu danych bezpośrednio tam, gdzie powstają – w dronach, kamerach czy sensorach. To właśnie na brzegu sieci mają zapadać szybkie decyzje: rozpoznać twarz, wykryć dym, policzyć samochody na skrzyżowaniu.
Problem jednak w tym, że modele AI rosną, a sprzęt w takich urządzeniach prawie wcale. Upchnięcie całego modelu na małej płytce oznacza duże zużycie pamięci, ciągłe przerzucanie danych i wysokie pobory energii. Z kolei wysyłanie wszystkiego do chmury generuje opóźnienia, kosztuje energię i tworzy nowe ryzyka dla prywatności.
Dotychczas wybór był więc brutalnie prosty: albo ciężki, lokalny model, który zjada baterię, albo zależność od łącza i serwerowni oddalonej o setki kilometrów. W projekcie WISE (WIreless Smart Edge networks) naukowcy z Duke pokazują trzecią drogę.
Model AI ukryty w falach radiowych
Zespół kierowany przez Tingjuna Chena wprowadza pojęcie tzw. w-fizyce (in-physics) obliczeń analogowych. Zamiast klasycznego podejścia – dane zamieniamy na zera i jedynki, wysyłamy do cyfrowego procesora, który krok po kroku liczy równania – badacze wykorzystują coś, co i tak dzieje się w tle, a mianowicie zachowanie fal radiowych.
W ich rozwiązaniu pełny model AI nie siedzi w dronie czy w kamerze, lecz w pobliskiej stacji bazowej. To ona przechowuje współczynniki modelu, czyli tzw. wagi, i koduje je w swoim sygnale radiowym. Innymi słowy, oprócz zwykłej informacji o tym, co trzeba przesłać, w eter idzie też charakter modelu.
Gdy taki sygnał dociera do urządzenia na brzegu sieci, zaczyna dziać się najciekawsze. Elektronika radiowa na pokładzie – ta sama, która na co dzień obsługuje łączność – miesza docierające fale z lokalnymi danymi z kamery czy czujników. Ten analogowy mix realizowany w częstotliwości radiowej przybliża operację mnożenia, która jest podstawą większości sieci neuronowych.
Oznacza to, że część pracy, którą zwykle wykonuje cyfrowy procesor, jest wykonana już na poziomie fizyki fal radiowych. Urządzenie nie musi trzymać w pamięci całego modelu, nie musi też wykonywać tysięcy cyfrowych operacji – wagi są niesione przez sygnał, a pierwsze kroki obliczeń dzieją się w samym torze radiowym.
Radio jako współprocesor sztucznej inteligencji
W tym rozwiązaniu nie ma tak naprawdę nic kosmicznego. Jak podkreślają autorzy, WISE opiera się na elementach, które już są w niemal każdym sprzęcie bezprzewodowym: mieszaczach częstotliwości i torach RF, miniaturyzowanych od lat na potrzeby Wi-Fi czy 5G.
Zamiast projektować nowy, energożerny chip, badacze przestawiają wajchy w istniejącej już infrastrukturze. Stacje bazowe 5G, przyszłe nadajniki 6G czy nawet domowe routery można w teorii rozszerzyć o funkcję nadajników modeli AI. Urządzenia końcowe – drony, miejskie kamery, czujniki ruchu – nie wymagają egzotycznych dodatków, bo potrzebne komponenty radiowe już w nich są.
W testach laboratoryjnych prototyp WISE rozpoznawał tysiące obrazów przesyłanych bezprzewodowo, osiągając blisko 96 proc. trafności przy zużyciu energii ponad rząd wielkości niższym niż w wiodących cyfrowych procesorach do edge AI. W praktyce może to oznaczać dłuższą pracę na baterii, mniejsze grzanie się urządzeń i możliwość użycia bardziej złożonych modeli tam, gdzie dziś trudno je zmieścić.
Na razie blisko, potem dalej
Technologia jest jednak dopiero na starcie. Obecny prototyp działa na niewielkich dystansach i w kontrolowanych warunkach. Wyjście poza laboratorium wymagałoby mocniejszej emisji sygnału lub integracji z następną generacją sprzętu sieciowego.
Przeczytaj także:
Jest też wyzwanie logistyczne: jedna stacja bazowa mogłaby nadawać równolegle kilka różnych modeli – np. inny do analizy ruchu drogowego, inny do wykrywania dymu czy rozpoznawania osób. To wymaga sprytnego podziału zasobów czasu, częstotliwości i przestrzeni radiowej lub dodatkowego pasma.
Mimo tych ograniczeń scenariusze zastosowań łatwo sobie wyobrazić. Jedna stacja mogłaby zasilać swoją inteligencją całą chmarę dronów szukających zaginionych w górach, gęstą sieć czujników w magazynie czy system kamer sterujących sygnalizacją w mieście. Zmiana modelu z centrali natychmiast aktualizowałaby zachowanie całej floty urządzeń. Piękna wizja.
*Grafika wprowadzająca wygenerowana przez AI
