Zrobili GPT na korbkę. Nie łączy się z chmurą
CrankGPT będzie działać tylko wtedy, gdy użyjesz siły - niewielkiej ilości. Nie potrzebuje wypijać kontynentalnych zapasów wody, nie wymaga gigawatów elektryczności.
CrankGPT to jeden z tych projektów, które zaczynają się jak żart, a kończą jako całkiem poważny komentarz do współczesnej technologii. W czasach, gdy każde pytanie do sztucznej inteligencji potrafi uruchomić setki GPU w odległym centrum danych dwójka twórców - Katrin Tomanek i Alex Kauffmann - postanowiła zbudować urządzenie, które działa wyłącznie dzięki sile ludzkich mięśni..To AI, które odpowie ci na pytanie tylko wtedy, gdy będziesz kręcić korbką. I to nie przez chwilę, ale przez pełne 30 sekund, zanim w ogóle zacznie z tobą rozmawiać.
AI na korbkę, czyli manifest w formie gadżetu
CrankGPT to niewielkie, wydrukowane drukarką 3D pudełko z korbką i Raspberry Pi w środku. Do tego specjalnie zaprojektowana płytka kondensatorów, która pozwala urządzeniu działać przez około 20 sekund bez kręcenia. Potem - koniec rozmowy, czas wracać do pracy ramion.
Czytaj też:
Twórcy nie ukrywają, że to projekt z przymrużeniem oka. Kauffmann porównuje proszenie dużych modeli o proste zadania do zabijania muchy kulą do wyburzania budynków - i trudno się z nim nie zgodzić. Żyjemy w dziwnych czasach, w których nawet dodanie dwóch liczb potrafi uruchomić chmurę wartą miliardy dolarów, CrankGPT jest jak mem, który nagle stał się fizycznym urządzeniem.
Ale to także demonstracja filozofii firmy Squeez, założonej przez Tomanek i Kauffmanna. Ich celem jest tworzenie małych, prywatnych modeli AI, które działają lokalnie, na tanim sprzęcie, bez wysyłania danych do chmury. Modele wyspecjalizowane, a nie wszechwiedzące. Takie, które potrafią rozpoznać mowę osoby z silnym akcentem albo pomóc w ogrodnictwie, ale nie będą udawać ekspertów od wszystkiego.
30 sekund kręcenia, 20 sekund rozmowy
Z dokumentacji wynika, że od pierwszego obrotu korbki do rozpoczęcia rozmowy mija około 30 sekund. To czas potrzebny, by naładować kondensatory i uruchomić system. Potem użytkownik ma około 20 sekund „wolności”, zanim urządzenie zacznie domagać się kolejnych obrotów.
To doświadczenie, które trudno porównać z jakimkolwiek innym gadżetem AI. Zwykle narzekamy, że modele odpowiadają za wolno. Tutaj wolno odpowiadają… bo nie kręcisz wystarczająco szybko.
CrankGPT to oczywiście zabawka, ale jednocześnie komentarz do współczesnej infrastruktury AI. OpenAI, Anthropic i inni spalają miliardy dolarów rocznie na obliczenia, a ceny tokenów rosną szybciej niż inflacja - taki projekt działa jak zimny prysznic. Pokazuje, że AI nie musi być gigantycznym, energożernym molochem. Może być małe, prywatne, wyspecjalizowane - i działać na sprzęcie, który w normalnych warunkach zasilałby lampkę nocną.
To także przypomnienie, że nie każda interakcja z AI musi kończyć się w chmurze. Czasem wystarczy Raspberry Pi, kilka kondensatorów i… twoje bicepsy.
CrankGPT nie trafi do sklepów. Nie zastąpi Siri, Alexy ani ChatGPT. Nie stanie się też nowym trendem w elektronice użytkowej. Ale jego istnienie jest ważne, bo pokazuje alternatywną drogę: AI, które działa lokalnie, jest prywatne, energooszczędne i wyspecjalizowane. Nie wszystko musi być wielkie. Nie wszystko musi być w chmurze. Nie wszystko musi być zasilane elektrownią. Czasem wystarczy korbka.
Lubi oglądać się zarówno za siebie – wspominając przełomowe dokonania w informatyce – jak i przed siebie, będąc nieustannie ciekawym tego, co będzie dalej. Jego zainteresowania to przede wszystkim software: UI/UX, algorytmy, uczenie maszynowe, chmura czy sztuczna inteligencja. Nic dziwnego, że jako specjalizację obrał sobie pilnowanie firmy Microsoft. Uwielbia też sztukę gier i kina, przez co wyrósł na pasjonata sprzętu RTV – a i o technologii wspomnianych gier i filmów ma wiele ciekawego do opowiedzenia. Jego pierwsza obecność w mediach dotyczyła muzyki – współtworzył Overkill.pl. Ciąg dalszy jego rozwoju dotyczył już tylko nowych technologii. Zanim dołączył do zespołu Spider’s Web przez lata współtworzył CHIP.pl i Magazyn CHIP.