Szykują chip chłodzony od środka. Tak chcą zdjąć kaganiec z AI

Największym ograniczeniem sztucznej inteligencji nie są już tylko algorytmy ani liczba procesorów. Coraz częściej jest nim ciepło. Najmocniejsze układy AI generują tak duże ilości energii cieplnej, że klasyczne chłodzenie zaczyna dochodzić do granic swoich możliwości. Koreańscy naukowcy pokazali więc rozwiązanie radykalne, ale bardzo ciekawe. Chcą chłodzić chip od środka.

Zespół z KAIST opracował układ, w którym mikroskopijne kanały z cieczą są wbudowane bezpośrednio w krzemowy chip. Przez kanaliki cieńsze od ludzkiego włosa płynie zwykła woda o temperaturze pokojowej, odbierając ciepło tam, gdzie ono faktycznie powstaje. W testach system odprowadzał ponad 2000 W/cm kw. i utrzymywał temperaturę układu poniżej 100 st. C.

Centra danych budowane pod sztuczną inteligencję przypominają dziś przemysłowe piece obliczeniowe. Setki lub tysiące akceleratorów pracują jednocześnie, zużywają ogromne ilości energii i zamieniają dużą jej część w ciepło. To ciepło trzeba natychmiast odprowadzić, bo przegrzany chip spowalnia, traci stabilność albo ulega uszkodzeniu.

Właśnie dlatego wyścig o AI już od dawna nie jest tylko wyścigiem o lepszy proces technologiczny, szybszą pamięć i większe modele. Jest też przede wszystkim wyścigiem o chłodzenie. Jeśli nie da się odebrać ciepła z układu, nie da się bezpiecznie podnieść jego wydajności. Wtedy nawet najlepszy projekt procesora dostaje termiczny kaganiec.

To właśnie ten problem próbują rozwiązać naukowcy z KAIST. Zamiast dokładać coraz większe radiatory, płytki chłodzące czy zewnętrzne wymienniki ciepła, postanowili podejść do sprawy inaczej i przenieść chłodzenie jak najbliżej miejsca, w którym powstaje ciepło. Nie obok chipa ani nad nim, ale bezpośrednio do jego wnętrza.

Rozwiązanie opiera się na tzw. manifold microchannel cooling, czyli sieci mikroskopijnych kanałów, przez które przepływa ciecz chłodząca. Sam pomysł nie jest nowy, ale dotychczasowe konstrukcje miały pewną, bardzo upierdliwą wadę. Woda musiała pokonywać długie odcinki bardzo wąskich kanalików, co zwiększało opór przepływu i wymagało większej energii do jej pompowania.

KAIST rozwiązał to przez strukturę przypominającą sieć dystrybucji. Zamiast puszczać chłodziwo jednym długim korytarzem, system dzieli je na wiele krótszych ścieżek, doprowadza przez wiele wejść i odbiera przez wiele wyjść. W efekcie woda przepływa równomierniej, opory są mniejsze, a temperatura chipa rozkłada się bardziej stabilnie. To ma znaczenie zwłaszcza w dużych układach AI, gdzie lokalne gorące punkty mogą zabić wydajność całego procesora.

W przeprowadzonym eksperymencie zastosowano krzemowy chip testowy z wbudowanym układem chłodzenia. System potrafił odprowadzać strumień ciepła przekraczający 2000 W/cm kw. przy użyciu jednofazowego chłodzenia wodą, czyli bez gotowania cieczy i bez przechodzenia jej w parę. Jednocześnie utrzymano temperaturę złącza poniżej 100 st. C.

Jeszcze ciekawszy jest tutaj współczynnik efektywności COP. Zespół uzyskał wartość 106000. W praktyce oznacza to, że przy bardzo małym nakładzie energii na pompowanie dało się odebrać ogromną ilość ciepła. Według KAIST to wynik ok. 10 razy lepszy od poprzedniego czołowego rezultatu opisanego kilka lat temu.

W centrach danych energia zużywana na chłodzenie to energia, której nie da się przeznaczyć na obliczenia. Jeśli więc można odprowadzić tyle samo ciepła przy znacznie mniejszym zużyciu energii przez pompy i całą infrastrukturę chłodzącą, utrzymanie farm AI staje się po prostu łatwiejsze i tańsze.

Chociaż rozwiązanie zapowiada się naprawdę ciekawie, to powinniśmy pamiętać, że jest ono dopiero tak naprawdę prototypem. Naukowcy pokazali bardzo obiecujące wyniki na układzie testowym, ale droga do masowej produkcji bywa długa. Trzeba jeszcze sprawdzić m.in. niezawodność takiego systemu, jego szczelność, możliwość produkcji na dużą skalę, łatwość serwisowania czy odporność na wieloletnią pracę w rzeczywistych warunkach.

Największym wyzwaniem będzie teraz integracja. W centrum danych nie chłodzi się jednego chipa w izolacji. Trzeba chłodzić całe serwery, szafy, pompy, wymienniki ciepła i instalację obiektu. Wewnętrzne chłodzenie krzemu musi więc pasować do większej infrastruktury, a nie tylko imponować w danych technicznych.

Przeczytaj także:

Mimo wszystko kierunek wydaje się dobry. Samo dokładanie kolejnych GPU nie wystarczy, żeby AI rosła bez końca. Im bardziej upakowane i wydajne będą układy, tym większe znaczenie będzie miało chłodzenie – i coraz częściej stanie się ono integralną częścią projektu samego chipa.

*Grafika wprowadzająca wygenerowana przez AI