To już 1,5 roku. Sprawdzam, czy AI PC to nadal marnowanie krzemu

Najpierw były AI PC. Potem pojawiły się Copilot+ PC. Komputery osobiste nowej generacji na wzór MacBooka lansują rewizję w standardzie IBM PC, promując stosowanie dodatkowego bloku obliczeniowego blisko procesora, skupionego na akceleracji obliczeń związanych ze sztuczną inteligencją. Kilka kwartałów później, a skutki wprowadzenia tegoż bloku wydają się ledwo odczuwalne. Czy aby na pewno?

Posiadacze komputerów z układem Snapdragon, Ryzen czy Core Ultra nowej generacji - ci bardziej świadomi z nich - mają podzielone opinie, dominuje sceptycyzm. Zauważają i w wielu przypadkach mają rację, że NPU na co dzień jest dla nich kompletnie bezużyteczne. Samo w sobie w żaden sposób nie przeszkadza w korzystaniu z komputera, ale niektórzy podirytowani zadają pytanie o to, czy przypadkiem nie jest to marnowanie krzemu.

Czytaj też:

Przestrzeń zajmowana przez NPU mogła być przecież przeznaczona na dodatkowe bloki obliczeniowe CPU i GPU, z czego użytkowa korzyść wydaje się oczywista. NPU jednak na co dzień się bardzo nudzi. Zupełnie nie tak, jak w MacBookach.

Neural Processing Unit (NPU) w komputerze osobistym to specjalizowany układ scalony zaprojektowany do przyspieszania obliczeń związanych z sieciami neuronowymi i algorytmami sztucznej inteligencji. Jego głównym zadaniem jest efektywne przetwarzanie skomplikowanych operacji matematycznych wymaganych przez modele AI, co pozwala na szybsze wykonywanie zadań takich jak rozpoznawanie obrazów, mowy czy przetwarzanie języka naturalnego.

Włączenie NPU do architektury PC przynosi wymierne korzyści w zakresie wydajności. Dzięki dedykowanemu układowi do przetwarzania zadań AI odciąża się główny procesor (CPU) oraz procesor graficzny (GPU), które tradycyjnie musiałyby obsługiwać te obciążające operacje. To prowadzi do bardziej płynnego działania systemu, zwłaszcza podczas równoczesnego wykonywania wielu aplikacji wymagających intensywnego przetwarzania danych.

Kolejną istotną zaletą jest zwiększona efektywność energetyczna. NPU są zoptymalizowane pod kątem specyficznych obliczeń, co sprawia, że zużywają mniej energii w porównaniu z CPU czy GPU wykonującymi te same zadania. Ponadto obecność NPU w PC pozwala na realizację bardziej zaawansowanych funkcji w czasie rzeczywistym. Użytkownicy mogą doświadczyć poprawy w aplikacjach wykorzystujących sztuczną inteligencję, takich jak asystenci głosowi, inteligentne systemy bezpieczeństwa czy programy do edycji multimediów z funkcjami automatycznej korekcji i ulepszania obrazu.

Zdecydowałem się gruntownie przebadać ofertę oprogramowania dla Windows pod kątem obsługi NPU. By ułatwić sobie zadanie zwróciłem uwagę wyłącznie na aplikacje, które jakkolwiek można zdroworozsądkowo uznać za mainstreamowe, pomijając póki co hobbystyczne projekty. Co znalazłem? Cóż, na dziś dość niewiele.

Djay Pro, znana aplikacja do DJ-owania i miksowania, wykorzystuje NPU by w czasie rzeczywistym móc izolować i manipulować ścieżkami w czasie rzeczywistym, bez żadnych opóźnień, co jest niezwykle ważne przy występach na żywo. Aplikacja wykorzystuje też NPU do dzielenia utworów na ścieżki przy pomocy AI, w czasie rzeczywistym potrafiąc odseparować wokal, beat i resztę aranżacji.

DaVinci Resolve to z kolei znana aplikacja do montażu wideo. Wykorzystuje NPU by odciążyć resztę chipsetu do obsługi mechanizmu Magic Mask - czyli w nieznacznym uproszczeniu automatycznego zaznaczania obiektów (np. samej osoby prezentującej) na wideo celem dalszej nimi manipulacji. Jak twierdzą autorzy aplikacji, NPU w chipsecie Snapdragon X działa z Magic Mask trzykrotnie szybciej niż na GPU w układzie Intel Core Ultra 7 155H.

Windows 11 wykorzystuje NPU do odciążenia CPU do obsługi kamery internetowej. Dzięki temu możliwe jest nie tylko znaczące zwiększenie jakości obrazu i dźwięku, ale też możliwość nakładania dodatkowych filtrów na obraz i dodatkową manipulację zbieranym przez mikrofon dźwiękiem. Z minimalnym wpływem na responsywność czy zużycie energii przez komputer. Oprócz tego system wykorzystuje NPU w funkcji ułatwień dostępu zapewniającej podpisy tekstowe do wypowiadanych na wideo kwestii w niemal dowolnym języku.

NPU do hostowania małego modelu językowego jest wykorzystywane też w oprogramowaniu Personal.ai, które oferuje firmom instancje wirtualnych agentów AI do automatyzacji typowych dla przedsiębiorstwa rutynowych czynności.

Z NPU umie też skorzystać popularny Zoom do wideokonferencji. Koprocesor do sztucznej inteligencji jest wykorzystywany przez aplikację by poprawić oświetlenie osoby w kadrze lub podmienić znajdujące się za nią tło na inne bez obciążania komputera i zwiększania zużywanej przez niego energii.

Microsoft Paint wykorzystuje NPU do pomocy przy rysowaniu. Można przy jego pomocy narysować prosty kształt, a za sprawą mechanizmu Cocreator w aplikacji zostanie od podmieniony na dzieło artysty znacząco przewyższające możliwości użytkownika.

Oficjalne rozszerzenie do popularnej aplikacji graficznej GIMP umożliwia generowanie treści graficznych za pomocą poleceń tekstowych (promptów) bez łączności z Internetem i jakąkolwiek chmurą - cały proces działa offline, wykorzystując neuralny koprocesor w komputerze.

Oprogramowanie Cephable, relatywnie popularne wśród osób z niepełnosprawnością, wykorzystuje NPU by odblokować nowe funkcje. Za sprawą NPU możliwe jest analizowanie w czasie rzeczywistym ruchów dłoni czy mimiki twarzy, co może być wykorzystane jako metoda interfejsu z komputerem.

Generowanie treści muzycznych za pomocą promptów jest też dostępne w Audacity. Podobnie jak w przypadku GIMP-a czy Blendera, również i tu dostępne jest oficjalne rozszerzenie, pozwalające na działanie modelu AI offline, bez łączności z Internetem czy chmurą.

Rozszerzenia do obsługi NPU doczekał się też bardzo popularny i lubiany Visual Studio Code. Za sprawą działających offline modeli można usprawnić swoją pracę i korzystać z modeli GenAI do tworzenia powtarzalnego i oczywistego kodu programistycznego lub usprawnić proces debugowania.

Adobe Lightroom nadal nie potrafi wykorzystać NPU w Windowsie, ale potrafi to jeden z jego największych konkurentów: Capture One. Aplikacja wykorzystuje koprocesor do akceleracji obliczeń związanych z gradacją kolorów, kadrowaniem a także przy obliczeniach związanych z pikselami i kolorem. Działa dzięki temu szybciej, responsywniej, zużywając mniej energii. Blender, czyli narzędzie do tworzenia grafiki 3D, oferuje dodatkową oficjalną wtyczkę oferującą asystę przy obsłudze aplikacji za pomocą poleceń tekstowych (promptów). Można generować treści podobnie jak w przypadku innych czatbotów, wykorzystując działający lokalnie (nie w chmurze) mały model językowy hostowany na NPU.

NPU jest też wykorzystywane przez Affinity Photo, prawdopodobnie największego konkurenta dla Adobe Photoshop. Przetwarzana na NPU sztuczna inteligencja pomaga w inteligentnym zaznaczaniu obiektów na zdjęciach i obrazach, robiąc to w ułamku sekundy zamiast wymagając kilkusekundowych przeliczeń. Luminar Neo - aplikacja do edycji zdjęć dla osób mniej zaawansowanych – dość szeroko wykorzystuje w swojej windowsowej wersji dodatkowy koprocesor. NPU przetwarza takie działania, jak zwiększanie ostrości i upscale’owanie przetwarzając je błyskawicznie i w czasie rzeczywistym, podczas gdy przeliczanie tego samego na typowym mobilnym GPU może zając do kilku sekund.

CapCut, popularny edytor wideo od twórców TikToka, wykorzystuje NPU do większości opartych o AI czy uczenie maszynowe funkcji. W tym do automatycznego tworzenia masek czy usuwania tła mimo braku zastosowania green screena czy też do wzmacniania nagranej mowy, realizując te zadania znacznie szybciej i sprawniej energetycznie niż na typowym mobilnym GPU.

W implementacji NPU w komputerach z Windowsem nie ma większych problemów. Społeczność deweloperska wydaje się być w większości zgodna, że dokumentacja i API zostały dobrze przygotowane. Czemu więc mimo upływającego czasu NPU nadal tak często nie ma nic do roboty w komputerze, marnując miejsce? Są dwie przyczyny.

Po pierwsze, w świecie laptopów z Windowsem to nadal nowość. Setki milionów komputerów działa w myśl standardowej architektury, rozbitej na CPU i GPU. Komputery z akceleracją sprzętową AI są oferowane od bardzo niedawna, co oznacza, że na dziś bardzo niewielki procent użytkowników sprzętu z Windowsem ma PC z NPU. Modyfikacja kodu aplikacji dla kilku procent potencjalnych klientów to inwestycja, z którą wielu dostawców oprogramowania woli poczekać. MacBooki z wielu względów są częściej aktualizowane przez klientów.

Wiele do zarzucenia jest też samemu Microsoftowi, głównemu promotorowi wizji AI. To Microsoft miał zapewnić killer-feature dla NPU, dla którego użytkownicy zdecydowanie chętniej wymienialiby swoje komputery na nowe. Mowa tu o niezwykle obiecujących modułach Windowsa, takich jak Recall czy Click To Do. Problem w tym, że prace nad nimi się przeciągają, mają już trzy kwartały opóźnienia. Komputery reklamowane przez producentów jako zgodne z rewolucyjym Recall nadal nie mają dostępu do tej funkcji. A jakby tego było mało, z czasem się okazało, że będzie dostępna w raptem w kilku krajach - nie w Polsce.

Nie należy też zapominać o profesjonalnych deweloperach i entuzjastach, którzy AI zajmują się od dawna na długo przed pojawieniem się NPU w PC. Klienci ci mają za sobą zazwyczaj znaczące inwestycje w desktopowe GPU, z którymi na dziś żadne NPU nie może się równać pod względem czystej surowej wydajności (i ignorując problem emisji ciepła czy zużycia energii). Przekonanie ich i twórców używanego przez nich oprogramowania do zmian jest trudne, jeśli nie bezcelowe. To jednak nie oznacza że NPU to nieudany eksperyment.

Mimo ogromnych opóźnień ze strony samego Microsoftu i dostawców oprogramowania wykorzystanie NPU przez software będzie wyłącznie rosło. Siłą rzeczy rynek zacznie się nasycać AI PC i Copilot+ PC, by w końcu te stanowiły większość rynku, motywując tym samym dostawców oprogramowania. Na dziś NPU w istocie przydaje się tylko od przypadku do przypadku - warto jednak przypomnieć, że tak samo niegdyś było z GPU. Początkowo użyteczne głównie w grach 3D dziś stanowi nieodzowny element obliczeniowy dla wszelkiego rodzaju oprogramowania. Z NPU, choć na razie w świecie Windowsa nieco rozczarowuje, będzie identycznie. To nie zmarnowany krzem i nietrafiony zakup. Choć faktycznie wspomniane opóźnienia to dla pierwszych nabywców nowych komputerów sytuacja ciut niepoważna.