Ograniczyli żarłoczność AI. Sekret to ruch i fizyka materiału
AI pożera ogromne ilości energii tylko po to, by przerzucać dane między pamięcią i procesorem. Naukowcy twierdzą, że znaleźli sposób, by to obejść. Ich układ liczy dzięki samej fizyce materiału.
Dzisiejsza sztuczna inteligencja działa na potężnych układach, które błyskawicznie liczą, ale równie błyskawicznie zużywają energię. Jednym z powodów jest ciągłe przenoszenie danych między pamięcią i procesorem. Badacze z Cornell pokazali zupełnie inną, bardzo niecodzienną drogę: układ, który zapisuje informację elektrycznie, ale odczytuje ją przez mikroskopijne drgania. To jeszcze nie gotowy procesor AI, lecz ciekawy przykład tego, jak komputery przyszłości mogą zacząć liczyć samą fizyką materiału.
AI ma duży problem z przerzucaniem danych
W klasycznym komputerze pamięć i obliczenia są zwykle rozdzielone. Dane trzeba pobrać z pamięci, przenieść do jednostki obliczeniowej, wykonać operację i zapisać wynik. Przy zwykłych zadaniach to działa świetnie. Przy sztucznej inteligencji zaczyna być kłopotliwe, bo modele wykonują gigantyczne liczby prostych operacji, głównie mnożeń i dodawań.
To właśnie mnożenie i akumulacja wyników są podstawą pracy sieci neuronowych. Każdy sygnał wejściowy jest mnożony przez wagę, czyli liczbę opisującą znaczenie danego połączenia. Potem takie wyniki są sumowane. W dużych modelach ta operacja powtarza się miliardy razy. Im więcej danych trzeba przenosić między pamięcią i procesorem, tym większe zużycie energii oraz opóźnienia.
Właśnie dlatego naukowcy szukają układów, w których pamięć i obliczenia są bliżej siebie. To podejście nazywa się in-memory computing, czyli obliczeniami w pamięci. Zamiast traktować pamięć jak pasywny magazyn liczb, można sprawić, by sam element pamięci pomagał w obliczeniach.
Zapis elektryczny, ale odczyt już mechaniczny
Nowy układ z Cornell działa na dość nietypowej zasadzie. Informacja jest zapisywana elektrycznie, ale odczytywana przez ruch. Badacze zbudowali ferroelektryczny układ mikroelektromechaniczny, określany skrótem FeMEMS. W jego centrum znajduje się mikroskopijna zawieszona belka z warstwą tlenku hafnu i cyrkonu o grubości 20 nm.
Materiał ferroelektryczny ma domeny, czyli mikroskopijne obszary, w których polaryzacja elektryczna może być ustawiona w określony sposób. Impulsy elektryczne zmieniają orientację tych domen, a więc programują stan układu. Potem niewielki sygnał odczytowy wprawia belkę w drgania. To, jak belka się porusza, zdradza zapisaną wartość.
Najważniejsze jest tu rozdzielenie zapisu od odczytu. W wielu układach ferroelektrycznych ta sama ścieżka elektryczna odpowiada za zapisanie informacji, jej przechowywanie i późniejsze odczytanie. To bywa niezwykle problematyczne, bo sam odczyt może wprowadzać zakłócenia albo wpływać na zapisany stan. W rozwiązaniu z Cornell odczyt odbywa się inaczej, bo przez obserwację mikroskopijnych drgań belki. Dzięki temu nie trzeba intensywnie sondować pamięci sygnałem elektrycznym, żeby sprawdzić, co zostało w niej zapisane.
Jedna belka może przechowywać znacznie więcej, niż 0 i 1
Najciekawsze jest chyba to, że układ nie ogranicza się do dwóch stanów, jak klasyczne 0 i 1. Zespół z Cornell pokazał około 200 różnych stanów elektromechanicznych, które można od siebie odróżnić. To ważne w obliczeniach analogowych, gdzie zamiast prostego tak albo nie liczy się możliwość zapisania wielu wartości pośrednich.
W sieciach neuronowych takie wartości odpowiadają wagom. Im dokładniej można zapisać wagę, tym mniejsze ryzyko, że drobne błędy zaczną się kumulować w dużych obliczeniach. Gdy sieć wykonuje tysiące lub miliony operacji, każdy mały błąd może mieć znaczenie. Duża liczba stabilnych stanów daje więc większą precyzję.
To właśnie odróżnia ten układ od wielu wcześniejszych pokazów pamięci analogowej. Sam fakt, że urządzenie potrafi przechowywać wartości pośrednie, to za mało. Liczy się też to, ile takich poziomów można wiarygodnie rozróżnić, czy da się je precyzyjnie ustawiać i czy odczyt nie wpływa na zapisane dane.
Komputer, który mnoży ruchem
Drgająca belka robi coś więcej, niż tylko zdradza stan pamięci. Ponieważ sygnał wejściowy i zaprogramowany stan materiału oddziałują w jednym urządzeniu, ruch belki staje się fizycznym odpowiednikiem mnożenia. Jeśli zapisany stan reprezentuje jedną liczbę, a sygnał wejściowy drugą, odpowiedź mechaniczna układu odpowiada ich iloczynowi.
Choć brzmi to dosyć skomplikowanie, to tak naprawdę chodzi o coś, co modele AI robią bez przerwy. Sieci neuronowe nieustannie mnożą dane wejściowe przez zapisane w pamięci wagi. Gdyby takie operacje dało się wykonywać bez ciągłego przesyłania danych między pamięcią a procesorem, komputer mógłby zużywać mniej energii i mniej czasu poświęcać na samo przenoszenie informacji.
Nowy układ jest opisywany jako potencjalny element sprzętu neuromorficznego. Nie znaczy to, że komputer ma działać jak mózg. Chodzi o architekturę inspirowaną tym, że w biologicznym układzie nerwowym przechowywanie i przetwarzanie informacji nie są tak brutalnie rozdzielone jak w klasycznych komputerach.
Stare pomysły wracają, bo krzem ma się coraz trudniej
Historia komputerów nie zawsze była historią wyłącznie tranzystorów CMOS. Przez dekady eksperymentowano z różnymi fizycznymi sposobami zapisu i przetwarzania informacji. Dominacja krzemu była tak skuteczna, że wiele alternatyw zniknęło z głównego nurtu. CMOS okazał się tani, skalowalny, szybki i doskonale dopasowany do przemysłowej produkcji.
Teraz jednak klasyczne skalowanie robi się coraz trudniejsze. Tranzystory nadal są ulepszane, ale nie da się już liczyć na prosty, automatyczny wzrost wydajności przy każdym kolejnym zmniejszeniu wymiarów. Jednocześnie AI zwiększa zapotrzebowanie na obliczenia w tempie, które wymusza szukanie nowych rozwiązań.
Przeczytaj także:
Właśnie dlatego coraz chętniej wracają pomysły na obliczenia analogowe, neuromorficzne, fotoniczne, magnetyczne, memrystorowe i mechaniczne. Nie dlatego, że klasyczna elektronika nagle przestała działać. Dlatego, że sama elektronika może nie wystarczyć, jeśli chcemy dalej zwiększać wydajność bez proporcjonalnego wzrostu zużycia energii.
*Źródło grafiki wprowadzającej: corina-ciocirlans-images, Canva Pro; AI
