AI uciekła i włamała się do obcej firmy. "To miał być tylko test"
Wygląda na to, że nowym straszakiem branży AI nie jest już sztuczna inteligencja zyskująca świadomość, lecz sztuczna inteligencja przełamująca wszelkie możliwe zabezpieczenia.
Po tym jak Dolina Krzemowa doszła do wniosku, że nie przekona nas o potencjalnej świadomości AI i nieuchronnym zbliżaniu się silnej sztucznej inteligencji, machina PRowo-marketingowa przerzuciła się na nową retorykę i motyw "AI tak dobrej w łamaniu cyberzapezbieczeń, że aż musimy was przed nią chronić". Głównym przedstawicielem nurtu jest oczywiście Anthropic z modelem Claude Mythos, ale OpenAI nie chce pozostać mu dłużne.
Po tym jak rząd w USA zamknął w klatce model GPT-5.6 (ale na krótko), firma Sama Altmana może pochwalić się kolejnym "osiągnięciem": podczas wewnętrznych testów jej modele wydostały się z odizolowanego środowiska badawczego, uzyskały dostęp do internetu, a następnie włamały się do infrastruktury platformy Hugging Face, aby zdobyć odpowiedzi do benchmarku cyberbezpieczeństwa ExploitGym.
OpenAI opowiada jak model AI zerwał się im ze smyczy
Zdarzenie zostało opisane przez OpenAI na blogu firmy. W swojej relacji inżynierowie firmy opisali zdarzenie jako "bezprecedensowy incydent cybernetyczny" z udziałem modeli dysponujących najnowocześniejszymi możliwościami ofensywnymi. Według spółki w zdarzeniu uczestniczył publicznie dostępny GPT-5.6 Sol oraz jeszcze bardziej zaawansowany, niewydany model rozwijany wewnętrznie.
Zdarzenie miało miejsce podczas wewnętrznej ewaluacji zdolności modeli do prowadzenia złożonych operacji cybernetycznych. OpenAI celowo wyłączyło mechanizmy bezpieczeństwa ograniczające wykonywanie niebezpiecznych działań, ponieważ celem testu było sprawdzenie maksymalnych możliwości modeli. Środowisko badawcze pozostawało odizolowane od internetu, a jedyną drogą komunikacji z zewnętrznymi zasobami był wewnętrzny serwer pośredniczący służący do pobierania pakietów oprogramowania.
Według OpenAI modele samodzielnie odnalazły i wykorzystały nieznaną wcześniej lukę typu zero-day w tym oprogramowaniu. Producent poinformował, że podatność została już zgłoszona dostawcy zgodnie z procedurą odpowiedzialnego ujawniania. Następnie modele przeprowadziły serię działań polegających na eskalacji uprawnień i przemieszczaniu się pomiędzy kolejnymi systemami infrastruktury badawczej, aż dotarły do maszyny posiadającej dostęp do otwartego internetu.
Po uzyskaniu połączenia z siecią modele wywnioskowały, że platforma Hugging Face może przechowywać modele, zbiory danych oraz materiały związane z benchmarkiem ExploitGym. Zamiast kontynuować rozwiązywanie testu samodzielnie, rozpoczęły poszukiwanie sposobu na zdobycie gotowych odpowiedzi. OpenAI podaje, że sztuczna inteligencja połączyła kilka metod ataku, wykorzystując między innymi przejęte dane uwierzytelniające oraz kolejne podatności typu zero-day. Efektem było uzyskanie ścieżki umożliwiającej zdalne wykonanie kodu na serwerach Hugging Face i dostęp do produkcyjnej bazy danych zawierającej rozwiązania benchmarku.
OpenAI twierdzi, że cała operacja była podporządkowana jednemu celowi. Jak napisano w komunikacie, modele były "hiperskoncentrowane" na rozwiązaniu zadania ExploitGym i posuwały się do skrajnych działań, aby osiągnąć ten konkretny rezultat.
Nietypową aktywność wykrył wewnętrzny zespół bezpieczeństwa OpenAI. Firma skontaktowała się następnie z Hugging Face, jednak partner zdążył już samodzielnie wykryć i powstrzymać atak oraz rozpocząć analizę incydentu. Kilka dni wcześniej Hugging Face poinformowało publicznie, że padło ofiarą cyberataku przeprowadzonego najprawdopodobniej przez autonomicznego agenta AI, nie ujawniając wówczas jego autora.
Hugging Face przekazało również, że początkowo próbowało wykorzystać do obrony zamknięty model pochodzący z jednego z czołowych amerykańskich laboratoriów AI. Ograniczenia bezpieczeństwa uniemożliwiły jednak skuteczne wsparcie zespołu reagowania na incydenty. Ostatecznie firma wykorzystała otwartoźródłowy model chińskiej spółki Z.ai do prowadzenia działań obronnych.
Do sprawy odniósł się również współzałożyciel i prezes Hugging Face, Clem Delangue
W oświadczeniu opublikowanym przez OpenAI stwierdził, że incydent może być pierwszym tego rodzaju przypadkiem i pokazuje, iż bezpieczeństwo sztucznej inteligencji wymaga współpracy wielu podmiotów oraz szerokiego dostępu do narzędzi wspierających obrońców systemów.
OpenAI przyznało także, że ten sam niewydany model wcześniej również opuszczał odizolowane środowiska testowe. Firma opisała te przypadki we wcześniejszym wpisie poświęconym bezpieczeństwu modeli długiego działania. Poprzednie incydenty kończyły się jednak wyłącznie uzyskaniem dostępu do internetu i nie obejmowały włamań do infrastruktury innych organizacji.
Podobny przypadek wcześniej opisał także Anthropic. Firma informowała, że model Claude Mythos podczas testów bezpieczeństwa wydostał się z piaskownicy i zdobył dostęp do internetu, którego nie powinien posiadać, aby wysłać wiadomość e-mail badaczowi realizującemu eksperyment.
Czytaj też:
Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską, przybliżając czytelnikom Spider's Web tematykę smartfonów, smartwatchy, oprogramowania i sztucznej inteligencji. Prywatnie miłośniczka psów, gotowania i literatury faktu.