Mamy miesiące, nie lata. Twórcy sztucznej inteligencji przerażeni własnym dziełem
OpenAI i Anthropic ostrzegają: „mamy miesiące, nie lata”. Napędzane przez AI cyberataki nadchodzą szybciej, niż ktokolwiek chciałby przyjąć do wiadomości.
W branży technologicznej rzadko zdarzają się momenty, w których konkurenci mówią jednym głosem. Tymczasem OpenAI, Anthropic, Microsoft, AWS i ponad setka innych firm właśnie to zrobiły. Wystosowały dramatyczne ostrzeżenie, które w normalnych warunkach brzmiałoby jak mocna przesada: świat ma zaledwie kilka miesięcy, by przygotować się na falę cyberataków napędzanych przez najnowsze modele sztucznej inteligencji.
Nie chodzi o abstrakcyjne ryzyko. Chodzi o bardzo konkretne testy, w których frontierowe modele OpenAI i Anthropic - te same, które mają pisać kod, streszczać dokumenty i pomagać lekarzom - próbowały włamywać się do systemów podczas rządowych audytów w Wielkiej Brytanii. I nie były to próby nieudolne. W kilku przypadkach modele osiągnęły zamierzony efekt, wykonując działania, które w normalnych warunkach klasyfikowano by jako realny cyberatak.
Czytaj też:
To moment, w którym nawet najwięksi optymiści technologiczni muszą przyznać: coś się zmieniło.
Modele same inicjują ataki
Najbardziej niepokojące w tych testach jest to, że modele nie tylko reagowały na polecenia, ale potrafiły samodzielnie podejmować działania prowadzące do kompromitacji systemów. W praktyce oznacza to, że AI zaczyna zachowywać się jak hiperkompetentny tester bezpieczeństwa, który nie zawsze rozumie, że test to test, a nie prawdziwa operacja ofensywna.
Wcześniej głośno było o incydencie z Hugging Face, gdzie wyciek danych ujawnił podatności w modelach OpenAI. Teraz dochodzą do tego rządowe testy, które pokazują, że frontierowe modele potrafią nie tylko analizować kod, ale też aktywnie szukać luk i je wykorzystywać.
Mythos budzi strach nawet wśród jego twórców
Anthropic już w marcu ostrzegał rządy przed swoim nadchodzącym modelem o nazwie Mythos. Według firmy jego możliwości ofensywne są tak zaawansowane, że bieżący rok może być momentem, w którym cyberprzestępczość przejdzie na zupełnie nowy poziom. Mythos ma potrafić automatycznie skanować sieci, generować exploity w locie i koordynować złożone ataki w sposób, który dziś wymagałby zespołu specjalistów. Jeśli te możliwości trafią w niepowołane ręce to koszt przeprowadzenia zaawansowanego cyberataku spadnie do poziomu dostępnego dla zwykłych grup przestępczych.
Tempo rozwoju AI zaczyna wyprzedzać tempo zabezpieczania infrastruktury. Modele uczą się szybciej, niż rządy są w stanie wprowadzać regulacje. Frontierowe systemy potrafią analizować dokumentację techniczną, generować kod, testować go i optymalizować w czasie krótszym niż trwa zaparzenie kawy. To, co kiedyś było pracą zespołu ekspertów teraz może wykonać jeden algorytm.
Firmy technologiczne piszą wprost: jeśli nie powstaną wspólne standardy bezpieczeństwa, jeśli rządy nie zaczną wymagać obowiązkowych testów modeli przed ich udostępnieniem, jeśli infrastruktura krytyczna nie zostanie wzmocniona - skutki mogą być odczuwalne w bardzo codziennych aspektach życia. Przerwy w dostawie prądu, wody, zakłócenia w pracy szpitali, problemy z transportem. To nie jest straszenie a scenariusz, który już dziś analizują zespoły bezpieczeństwa w Stanach Zjednoczonych i Europie.
AI jako nowy zero-day
W świecie cyberbezpieczeństwa istnieje pojęcie zero-day - podatności, o której nikt nie wie, dopóki nie zostanie wykorzystana. Frontierowe modele zaczynają działać jak samoreplikujące zero-day: same znajdują luki, same je wykorzystują, same uczą się na błędach. To trochę tak, jakbyśmy zbudowali superinteligentnego pentestera, który nie ma ludzkiej intuicji, że „może nie powinienem tego robić”. I właśnie dlatego firmy technologiczne znalazły się w sytuacji, w której muszą ostrzegać świat przed własnymi produktami.
List otwarty wzywa rządy do natychmiastowego działania. Nie za rok. Nie po wyborach. Teraz. Branża chce wspólnych standardów bezpieczeństwa, obowiązkowych testów modeli i inwestycji w ochronę infrastruktury krytycznej. Twórcy AI sami mówią, że ich własne modele mogą być zagrożeniem - warto potraktować to poważnie. Zwłaszcza że - jak pokazują testy - te modele już próbują hakować systemy. I czasem im się to udaje.
*Grafika otwierająca wygenerowana za pomocą AI
Redaktor Spider's Web - ekspert w tematykach Microsoftu i RTV. Lubi oglądać się zarówno za siebie – wspominając przełomowe dokonania w informatyce – jak i przed siebie, będąc nieustannie ciekawym tego, co będzie dalej. Jego zainteresowania to przede wszystkim software: UI/UX, algorytmy, uczenie maszynowe, chmura czy sztuczna inteligencja. Nic dziwnego, że jako specjalizację obrał sobie pilnowanie firmy Microsoft. Uwielbia też sztukę gier i kina, przez co wyrósł na pasjonata sprzętu RTV – a i o technologii wspomnianych gier i filmów ma wiele ciekawego do opowiedzenia. Jego pierwsza obecność w mediach dotyczyła muzyki – współtworzył Overkill.pl. Ciąg dalszy jego rozwoju dotyczył już tylko nowych technologii. Zanim dołączył do zespołu Spider’s Web przez lata współtworzył CHIP.pl i Magazyn CHIP.