Twój komputer marnuje RAM i krzywdzi Dolinę Krzemową. Szef OpenAI całkowicie odleciał
Kryzys na rynku pamięci to wina centrów danych, ale Sam Altman widzi problem gdzie indziej. W twoim komputerze.
Koncerny budujące centra danych doprowadziły do wręcz tragicznej sytuacji na rynku elektroniki, gdzie tanim smartfonom grozi wyginięcie, Apple już dwukrotnie podniósł ceny swoich laptopów, koszt RAM stanowi mniej więcej 20-30 proc. ceny komponentów dowolnego urządzenia, a rynek komputerów osobistych jest w najgorszej sytuacji od kilkunastu lat. I wiesz, kto w tej sytuacji jest zły? Ty i ja, drogi czytelniku.
Sam Altman uważa, że przechowywanie pamięci RAM w prywatnych komputerach jest marnowaniem ograniczonych zasobów
Zdaniem szefa OpenAI znacznie lepszym rozwiązaniem byłoby przeniesienie mocy obliczeniowej do centrów danych, gdzie zasoby mogłyby być wykorzystywane przez większą liczbę użytkowników. Taka opinia padła ze słów Altmana podczas rozmowy w podcaście Cheeky Pint, prowadzonym przez współzałożyciela Stripe Johna Collisona. W jej czasie Sam Altman poruszył temat rosnącego zainteresowania lokalnym uruchamianiem modeli sztucznej inteligencji. Coraz więcej użytkowników chce korzystać z otwartych modeli językowych bezpośrednio na własnych komputerach, zamiast polegać na usługach działających w chmurze. Zdaniem szefa OpenAI takie podejście jest jednak nieefektywne z punktu widzenia globalnego wykorzystania dostępnych zasobów.
"Z perspektywy globalnej alokacji zasobów jest wręcz fatalnie, że wszyscy mają w swoich komputerach spore ilości ograniczonych zasobów DRAM, które są wykorzystywane przez 5 proc. czasu" - stwierdził Altman.
Jego zdaniem znacznie rozsądniejszym rozwiązaniem byłoby maksymalne wykorzystanie pamięci operacyjnej w chmurze. Zamiast kupować własny sprzęt i uruchamiać na nim modele AI, użytkownicy mieliby korzystać z infrastruktury centrów danych. W ten sposób ograniczona pula pamięci mogłaby obsługiwać znacznie większą liczbę osób, a jej wykorzystanie byłoby bardziej efektywne.
Wypowiedź Altmana dotyczyła przede wszystkim lokalnego uruchamiania modeli sztucznej inteligencji, a nie bezpośrednio komputerów gamingowych. Nie zmienia to jednak faktu, że argument szefa OpenAI obejmuje również pamięć RAM wykorzystywaną przez zwykłych konsumentów. Z jego perspektywy zasoby pozostające przez większość czasu bezczynne w prywatnych urządzeniach stanowią niewłaściwe wykorzystanie ograniczonej podaży.
Producenci pamięci zarabiają miliardy, ale nie spieszą się z rozbudową fabryk
Podczas tego samego podcastu Altman odniósł się również do sytuacji producentów pamięci operacyjnej. Zwrócił uwagę, że przez wiele lat produkcja DRAM-u nie należała do szczególnie dochodowych działalności. Firmy musiały inwestować ogromne pieniądze w rozbudowę fabryk, a historycznie zdarzało się, że poniesione nakłady przewyższały późniejsze przychody.
"Przez bardzo długi czas, jeśli byłeś producentem DRAM-u, inwestowałeś 20 mld dolarów nakładów kapitałowych, żeby zarobić 19 mld dolarów" - powiedział Altman, opisując wcześniejszą sytuację branży.
Obecne zapotrzebowanie na pamięć zmieniło jednak ekonomię tego rynku. Szef OpenAI zauważył, że najwięksi producenci mogą teraz generować nawet 100 mld dolarów wolnych przepływów pieniężnych rocznie. Jednocześnie firmy pamiętają wcześniejsze problemy związane z nadmiernymi inwestycjami w moce produkcyjne i ryzykiem załamania cen.
Altman zwrócił również uwagę na mechanizmy rynkowe, które jego zdaniem przestały działać prawidłowo. W rozmowie stwierdził, że skoro pamięć stała się tak droga, nowi producenci powinni wkrótce pojawić się na rynku i zwiększyć podaż. Dodał jednak, że obecnie „niewidzialna ręka rynku zawodzi”.
Kryzys na rynku napędzany przez sztuczną inteligencję
Problem, o którym mówi Altman, jest bezpośrednio związany z gwałtownym rozwojem infrastruktury AI. Najwięksi dostawcy usług sztucznej inteligencji potrzebują ogromnych ilości pamięci do obsługi swoich modeli, a zapotrzebowanie ze strony centrów danych zmienia priorytety producentów półprzewodników. Szczególnie atrakcyjny stał się segment pamięci HBM, wykorzystywanej w akceleratorach AI, ale rosnący popyt na pamięci dla serwerów wpływa również na dostępność i ceny innych rodzajów DRAM-u.
Konsekwencje odczuwają konsumenci. Drożeją zarówno moduły DDR5 jak i DDR4, a producenci komputerów, smartfonów i innych urządzeń muszą mierzyć się z rosnącymi kosztami podzespołów. Dla osób składających własne komputery szczególnie problematyczne stały się ceny zestawów pamięci o większej pojemności. Nieco ponad 13 miesięcy temu 32 GB RAM DDR5 było rozsądnym wyborem także dla osób budujących komputer ze stosunkowo małym budżetem, jednak od prawie roku domyślnym wyborem - nawet przy budżecie rzędu 6 czy 7 tys. zł - jest 16 GB DDR4.
Jednak takie problemy nie dotyczą Sama Altmana, który oczami wyobraźni jest już na swoim traktorze orząc pole. Do spełnienia tej wizji brakuje mu tylko centralizacji całości rynku pamięci wokół dostaw dla sektora AI i - w konsekwencji - pozbawienia nas urządzeń o mocy obliczeniowej większej niż smartfon. A to z kolei doprowadzi do uzależnienia przeciętnego zjadacza chleba od chmury.
Dlatego gdy następnym razem odpalisz remaster Wiedźmina 3 albo w końcu siądziesz do GTA 6, pamiętaj że twój egoizm krzywdzi Dolinę Krzemową i zmusza bogoli do gadania głupot w podcastach zamiast siedzenia na wsi.
Czytaj też:
Redaktorka Spider's Web specjalizująca się w tematykach sztucznej inteligencji, smartfonów i oprogramowania. Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską. Prywatnie miłośniczka psów, gotowania i literatury faktu.