AI Facebooka zerwała się ze smyczy. I dokonała cyberataku
Meta właśnie dołączyła do grona wielkich firm od AI, którym całkowicie przypadkowo i spontanicznie ze smyczy zerwała się sztuczna inteligencja i namieszała w systemach innych firm.
W lipcu okazało się, że OpenAI dopuściło do poważnego incydentu bezpieczeństwa i pozwoliło swojemu modelowi AI na włamanie się do infrastruktury platformy Hugging Face. Tydzień później okazało się, że w podobny sposób Claude zerwał się ze smyczy Anthropic. Dziś z kolei wszystko wskazuje na to, że mamy do czynienia z nową modą, gdyż bardzo podobny incydent właśnie potwierdziła Meta. Koncern poinformował, że jeden z jej modeli sztucznej inteligencji podczas testów uzyskał - wbrew zamierzeniom - dostęp do internetu, a następnie wykorzystał lukę w systemach zewnętrznej firmy.
Meta dołącza do grona firm, które nie umieją upilnować swoich botów
Informacje jako pierwszy opublikował serwis The Information, powołując się na osoby zaznajomione ze sprawą. Niedługo później Meta potwierdziła incydent w oświadczeniach przekazanych między innymi Bloombergowi oraz agencji Reuters.
Według Mety w zdarzeniu uczestniczył model Muse Spark 1.1, przedstawiany przez spółkę jako jej najbardziej zaawansowany system przeznaczony do programowania oraz wykonywania złożonych zadań agentowych.
Rzecznik Meta Andy Stone poinformował, że podczas prowadzonej ewaluacji doszło do błędnej konfiguracji środowiska testowego przygotowanego przez zewnętrznego partnera - firmę Irregular, specjalizującą się w testach cyberbezpieczeństwa modeli AI. W efekcie model uzyskał dostęp do otwartego internetu, choć nie powinien go posiadać. Następnie wykorzystał lukę bezpieczeństwa w infrastrukturze bliżej nieokreślonej firmy.
- Błędna konfiguracja przygotowana przez Irregular nieumyślnie umożliwiła jednemu z naszych modeli dostęp do internetu podczas ewaluacji. Model następnie wykorzystał podatność w usłudze podmiotu trzeciego w sposób podobny do wcześniej opisywanych przypadków z udziałem innych firm - przekazał Stone.
Meta podkreśla, że o całym zdarzeniu dowiedziała się dopiero po otrzymaniu zgłoszenia od Irregular. Firma prowadzi obecnie wewnętrzne dochodzenie i zapowiada publikację szczegółowego raportu po zakończeniu analizy.
Nie wiadomo, kogo zaatakował model
Meta nie ujawniła nazwy organizacji, której systemy zostały naruszone. Brakuje również informacji dotyczących celu działania modelu oraz zmian, jakie miały zostać wprowadzone w zaatakowanej infrastrukturze. The Information podał jedynie, że Muse Spark 1.1 miał uzyskać dostęp do systemów innej firmy i zmodyfikować ich konfigurację. Skala incydentu pozostaje nieznana.
Wszystkie trzy incydenty łączy jedna firma
Najciekawszym elementem całej historii pozostaje fakt, że identyczny partner pojawia się przy wszystkich głośnych incydentach z ostatnich tygodni. Irregular odpowiadało za środowiska ewaluacyjne wykorzystywane zarówno przez Anthropic, OpenAI, jak i Meta.
Kilka dni temu Anthropic ujawniło, że modele Claude Mythos podczas testów uzyskały dostęp do internetu wskutek nieporozumienia dotyczącego konfiguracji środowiska przygotowanego wspólnie z Irregular. Według firmy modele włamały się następnie do systemów trzech organizacji.
OpenAI opisało z kolei incydent, podczas którego modele uczestniczące w ćwiczeniu typu capture the flag wydostały się z odizolowanego środowiska, uzyskały dostęp do internetu i przeprowadziły atak na platformę Hugging Face. Bloomberg podał później, że incydent OpenAI wydarzył się podczas tej samej ewaluacji prowadzonej przez Irregular, która wcześniej doprowadziła do analogicznego zdarzenia w testach Anthropic.
Podobnie jak w poprzednich przypadkach test miał formę ćwiczenia capture the flag, powszechnie wykorzystywanego podczas badań nad możliwościami modeli AI w zakresie cyberbezpieczeństwa. Modele otrzymują zadanie odnalezienia ukrytej "flagi" znajdującej się w kontrolowanym środowisku. Całość powinna odbywać się bez kontaktu z publicznym internetem.
OpenAI ujawniło wcześniej, że podczas jednego z takich testów fikcyjna nazwa celu przypadkowo pokrywała się z nazwą istniejącej domeny internetowej. Z powodu błędnej konfiguracji środowiska model potraktował rzeczywistą witrynę jako element ćwiczenia i wykorzystał podstawową lukę bezpieczeństwa.
Irregular poinformowało po tych wydarzeniach o wstrzymaniu części ewaluacji, rozpoczęciu działań naprawczych oraz przygotowaniu nowych zabezpieczeń mających zapobiec podobnym sytuacjom.
Zaskakujący zbieg okoliczności
Trzy duże laboratoria AI - Anthropic, OpenAI i Meta - w odstępie kilkunastu dni opisały bardzo podobne incydenty związane z modelami prowadzącymi działania cyberofensywne podczas testów. Każda firma podkreśla przy tym, że źródłem problemu była nieprawidłowa konfiguracja środowiska badawczego lub błędy organizacyjne, a nie utrata kontroli nad samym modelem.
Jednak zamiast zainteresowania się co poszło nie tak u konkurencji i rozważenia sposobów przeciwdziałania sytuacjom - w tym choćby zakończeniu współpracy z Irregular, wszystkie trzy koncerny intensywnie prą na przód i kontynuują testy. Każdy tego typu incydent owocuje obszerną informacją na blogu firmowym oraz wysoką aktywnością rzeczników prasowych, w których to brak jasnych deklaracji podjęcia kroków przeciwdziałających podobnym sytuacjom w przyszłości.
Choć same zdarzenia mogą być jak najbardziej autentyczne, jednak powtarzalność tego schematu sprawia, że ciężko mi spojrzeć na te incydenty jak na coś więcej niż tylko próbę wywołania zainteresowania mediów. O ile rozumiem zdesperowanie - w końcu Anthropic, OpenAI i Meta doszły do ściany i nie są już w stanie ulepszać chatbotów dostępnych przeciętnemu zjadaczowi chleba, o tyle ciężko mi zrozumieć budowania rozpoznawalności produktu na kolejnych incydentach bezpieczeństwa i poczuciu strachu.
No ale nie ważne co gadają, ważne byleby gadali, nie?
Czytaj też:
Redaktorka Spider's Web specjalizująca się w tematykach sztucznej inteligencji, smartfonów i oprogramowania. Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską. Prywatnie miłośniczka psów, gotowania i literatury faktu.