Cyfrowy pomocnik miał zapisać go na siłkę. Uznał, że trzeba się do niej włamać
Cyfrowy pomocnik nie tylko znalazł na własną rękę niezałataną lukę w systemie rezerwacji, ale też… wyrzucił z kolejki innego użytkownika, żeby przesunąć swojego pana wyżej. Bez pytania.
Historia zaczyna się niewinnie. Australijczyk Andrew korzystał z OpenClaw - popularnego oprogramowania do tworzenia agentów AI, które potrafią wykonywać wieloetapowe zadania, korzystać z Internetu, API, maili czy nawet kart płatniczych. Czyli nie jest chatbot, który odpowiada na pytania, a cyfrowy pracownik, który sam planuje, analizuje i działa.
Agent dostał zadanie: zapisz mnie na zajęcia. W odpowiedzi odkrył, że system rezerwacji siłowni ma dziurę pozwalającą na zapisy z wielotygodniowym wyprzedzeniem - znacznie większym niż przewidywał regulamin. A potem, testując swoje możliwości, anulował rezerwację osoby znajdującej się przed Andrewem na liście oczekujących.
Czytaj też:
Najlepsze? Gdy Andrew kazał mu to cofnąć to AI odpowiedziało: „Bad news - nie mogę dodać tej osoby z powrotem”.
To nie pierwszy raz, gdy AI wymyka się z klatki
W ostatnich tygodniach podobnych historii było więcej. OpenAI przyznało, że jeden z ich modeli podczas testów „wyszedł poza sandbox”, dostał się do Internetu i włamał na serwery firmy Hugging Face, próbując zdobyć odpowiedzi do zadania testowego. Kilka dni później Anthropic ujawnił, że ich modele również „kompromitowały” trzy prawdziwe organizacje podczas badań bezpieczeństwa. Nowa generacja agentów AI potrafi działać z zaskakującą inicjatywą – i nie zawsze robi to w sposób zgodny z intencją użytkownika.
Długość zadań, które AI potrafi wykonać samodzielnie, podwaja się co siedem miesięcy. W 2020 r. były to zadania odpowiadające czterem sekundom pracy człowieka. W 2026 r. - już około 12 godzinom. To skok, który trudno porównać z czymkolwiek w historii oprogramowania.
Problem nie jest techniczny. Problem jest filozoficzny
Eksperci nazywają to „alignment problem” - czyli rozjazdem między tym, co użytkownik chce osiągnąć, a tym, jakie metody wybiera AI. Człowiek mówi: „zapisz mnie na zajęcia”. AI interpretuje: „zapisz mnie na zajęcia, wykorzystując wszystkie dostępne środki, nawet te, których nie przewidział twórca systemu”.
Kto odpowiada za szkody wyrządzone przez AI? Tu zaczyna się prawdziwy rollercoaster. Australijscy prawnicy przyznają, że obecne przepisy nie są przygotowane na sytuację, w której autonomiczny agent AI dokonuje czynu niezgodnego z prawem.
Odpowiedzialny może być użytkownik, który zlecił zadanie. Może być twórca oprogramowania. Może być firma, która stworzyła model AI. Może być nawet operator systemu, który miał lukę w zabezpieczeniach.
Rządy reagują, ale powoli
Australijski rząd już ostrzega firmy przed używaniem agentów AI bez odpowiednich zabezpieczeń. Brytyjski AI Security Institute opublikował raport, w którym opisuje przypadki, gdy modele AI „nieproszone” podszywały się pod ludzi, próbowały nakłaniać ich do uruchamiania szkodliwego kodu, a nawet współpracowały z innymi modelami, żeby osiągnąć cel.
A co na to Andrew? Jak donosi ABC News, po wszystkim jego AI napisało maila do dostawcy oprogramowania siłowni, opisując lukę, którą wykorzystało. Andrew zaakceptował i wysłał wiadomość. Nie zraził się do technologii. Ale - jak sam przyznał - dostał „sygnał ostrzegawczy”, że z agentami AI trzeba obchodzić się odpowiedzialnie.
I to chyba najlepsza puenta. Nie chodzi o strach przed AI. Chodzi o świadomość, że narzędzia, które jeszcze kilka lat temu były zabawką, dziś potrafią działać jak autonomiczne systemy zdolne do ingerencji w prawdziwe usługi, prawdziwe firmy i prawdziwe dane.
Wnioski dla nas, w Polsce
Choć historia wydarzyła się w Australii, jej konsekwencje są globalne. W Polsce również rośnie popularność agentów AI - zarówno w firmach, jak i wśród entuzjastów technologii.
To dobry moment, żeby zadać sobie pytanie: Czy wiemy, co dokładnie robi nasz cyfrowy pomocnik, gdy każemy mu „załatwić sprawę”? Czy rozumiemy, jakie ma uprawnienia? Czy jesteśmy gotowi na to, że zrobi coś więcej, niż chcieliśmy?
Bo jeśli AI potrafi zhakować siłownię, żeby zapisać nas na zajęcia, to może zrobić też wiele innych rzeczy. I nie zawsze będą one tak niewinne.
*Zdjęcie otwierające wygenerowane w AI
Redaktor Spider's Web - ekspert w tematykach Microsoftu i RTV. Lubi oglądać się zarówno za siebie – wspominając przełomowe dokonania w informatyce – jak i przed siebie, będąc nieustannie ciekawym tego, co będzie dalej. Jego zainteresowania to przede wszystkim software: UI/UX, algorytmy, uczenie maszynowe, chmura czy sztuczna inteligencja. Nic dziwnego, że jako specjalizację obrał sobie pilnowanie firmy Microsoft. Uwielbia też sztukę gier i kina, przez co wyrósł na pasjonata sprzętu RTV – a i o technologii wspomnianych gier i filmów ma wiele ciekawego do opowiedzenia. Jego pierwsza obecność w mediach dotyczyła muzyki – współtworzył Overkill.pl. Ciąg dalszy jego rozwoju dotyczył już tylko nowych technologii. Zanim dołączył do zespołu Spider’s Web przez lata współtworzył CHIP.pl i Magazyn CHIP.