Modele AI są agresywne. Przeprowadzają cyberataki, choć nikt im nie kazał
Komunikat Brytyjskiego Instytutu Bezpieczeństwa AI brzmi prawdziwie przerażająco. Modele Anthropic i OpenAI miały próbować włamać się do zewnętrznych systemów. I nie zawsze im się to nie udało.
Brzmi jak scenariusz z cyberpunkowego thrillera, ale to realne doniesienia z raportów dwóch niezależnych firm testujących modele frontier AI na zlecenie brytyjskiego rządu. Podczas lipcowych testów modele miały podejmować działania wykraczające poza ich zadania - w tym próby przejęcia systemów należących do podmiotów trzecich. To kolejny sygnał, że wyścig zbrojeń w AI wchodzi w etap, w którym „bezpieczeństwo” przestaje być abstrakcyjnym hasłem, a staje się realnym problemem.
Frontier AI to coś, co sami jego twórcy rozumieją coraz mniej
Według raportu, modele Anthropic i OpenAI - te najnowsze, najbardziej zaawansowane, które mają być fundamentem przyszłych usług i produktów - podczas testów bezpieczeństwa miały podejmować działania ofensywne. Nie chodzi o halucynacje, lecz o faktyczne próby wykonania nieautoryzowanych operacji na zewnętrznych systemach. W niektórych przypadkach zakończone sukcesem.
Czytaj też:
To ważne, bo testy były prowadzone w kontrolowanych warunkach, a ich celem było sprawdzenie, jak modele zachowują się w scenariuszach związanych z cyberbezpieczeństwem. Innymi słowy: czy potrafią bronić, wykrywać zagrożenia, analizować podatności. Problem w tym, że zamiast bronić, zaczęły atakować.
To nie pierwszy raz, gdy frontier AI pokazuje, że potrafi działać „po swojemu”. W ostatnich miesiącach głośno było o incydencie z OpenAI i Hugging Face, gdzie doszło do naruszenia bezpieczeństwa. Teraz dochodzą do tego testy, w których modele same próbują przejąć kontrolę nad systemami.
Dlaczego to w ogóle jest możliwe?
Modele frontier AI są trenowane na gigantycznych zbiorach danych, w tym na materiałach dotyczących programowania, cyberbezpieczeństwa, exploitów, technik ofensywnych i defensywnych. To nie jest wiedza tajemna, pochodzi z publicznych repozytoriów, dokumentacji, dyskusji ekspertów. Modele mają więc kompetencje, które w rękach człowieka byłyby narzędziem pracy pentestera.
Problem zaczyna się wtedy, gdy model nie tylko „wie”, ale też „działa”. Frontier AI potrafi wykonywać złożone sekwencje operacji, planować, iterować, testować i poprawiać swoje działania. To nie jest już chatbot, który odpowiada na pytania a system, który potrafi realizować cele.
Jeśli w trakcie testu bezpieczeństwa model uzna, że najlepszym sposobem na „rozwiązanie zadania” jest przejęcie kontroli nad systemem to może spróbować to zrobić. I właśnie to miało się wydarzyć.
Brytyjski rząd: testujemy, bo musimy
UK AI Safety Institute powstał po to, by badać zachowania modeli frontier AI i oceniać ich ryzyka. Brytyjczycy chcą być liderem w regulowaniu i testowaniu zaawansowanej sztucznej inteligencji - nie tylko tej konsumenckiej, ale przede wszystkim tej, która może mieć wpływ na infrastrukturę krytyczną, gospodarkę i bezpieczeństwo państwa.
Testy są częścią większego programu, który ma sprawdzić, czy modele mogą podejmować nieautoryzowane działania, omijać zabezpieczenia, wykorzystywać podatności i działać w sposób nieprzewidywalny.
Wyniki są niepokojące, ale nie zaskakujące. Frontier AI to technologia, która rozwija się szybciej niż regulacje, a jej możliwości rosną wykładniczo.
Co to oznacza dla zwykłego Mirka?
Jeśli korzystasz z AI do pisania tekstów, generowania grafik czy planowania wyjazdu, to możesz odnieść wrażenie, że to wszystko jest bezpieczne i przewidywalne. I w większości przypadków tak jest. Modele konsumenckie są mocno ograniczone, filtrowane i odcięte od możliwości wykonywania działań w świecie zewnętrznym.
Ale frontier AI to zupełnie inna liga. To modele, które będą napędzać przyszłe systemy operacyjne, inteligentne asystenty, narzędzia dla firm, automatyzację procesów, a nawet systemy obronne. Jeśli one potrafią podejmować działania ofensywne bez wyraźnego polecenia to znaczy, że musimy bardzo poważnie traktować ich testowanie.
Brytyjski rząd zapowiada kolejne testy i większą przejrzystość w raportowaniu wyników
To dobra wiadomość, bo branża potrzebuje twardych danych, a nie PR-owych komunikatów. Jeśli modele faktycznie próbują włamywać się do systemów, musimy o tym wiedzieć - nie po to, by siać panikę, ale by zrozumieć skalę problemu. To moment, w którym warto zacząć zadawać pytania nie tylko o to, co AI potrafi, ale też o to, czego nie powinna robić.
*Ilustracja otwierająca wygenerowana za pomocą MAI-Image-2.5 i Adobe Firefly F&E
Redaktor Spider's Web - ekspert w tematykach Microsoftu i RTV. Lubi oglądać się zarówno za siebie – wspominając przełomowe dokonania w informatyce – jak i przed siebie, będąc nieustannie ciekawym tego, co będzie dalej. Jego zainteresowania to przede wszystkim software: UI/UX, algorytmy, uczenie maszynowe, chmura czy sztuczna inteligencja. Nic dziwnego, że jako specjalizację obrał sobie pilnowanie firmy Microsoft. Uwielbia też sztukę gier i kina, przez co wyrósł na pasjonata sprzętu RTV – a i o technologii wspomnianych gier i filmów ma wiele ciekawego do opowiedzenia. Jego pierwsza obecność w mediach dotyczyła muzyki – współtworzył Overkill.pl. Ciąg dalszy jego rozwoju dotyczył już tylko nowych technologii. Zanim dołączył do zespołu Spider’s Web przez lata współtworzył CHIP.pl i Magazyn CHIP.