Zrobili AI tak dobre, że zablokował je rząd. Gigantyczna afera z Anthropic

W piątkowy wieczór Anthropic - jedna z najbardziej wpływowych firm w wyścigu o dominację w AI - musiała nacisnąć wielki czerwony przycisk OFF. Najnowsze modele Fable 5 i Mythos 5, ledwie co wprowadzone na rynek i reklamowane jako przełomowe, zostały globalnie wyłączone. Nie z powodu awarii, nie z powodu błędu, lecz na mocy amerykańskiej dyrektywy eksportowej, która w praktyce zakazuje dostępu do tych modeli wszystkim cudzoziemcom - również tym pracującym w samej firmie. To jedna z najbardziej dramatycznych interwencji rządu Stanów Zjednoczonych w rozwój sztucznej inteligencji.

Według Anthropic rząd Stanów Zjednoczonych pokazał firmie przykłady zachowań Mythosa 5, które miały dowodzić, że model da się „złamać” i skłonić do działań związanych z cyberbezpieczeństwem. Po przeanalizowaniu tych materiałów Anthropic uznał jednak, że nie przedstawiają one żadnego nowego, poważnego jailbreaku. Firma twierdzi, że były to jedynie drobne, wcześniej znane podatności - takie, które potrafią ujawnić również inne publicznie dostępne modele, włącznie z GPT‑5.5. W ocenie Anthropic nie stanowiły one podstawy do tak drastycznej interwencji.

Czytaj też:

To nie był więc żaden przełomowy exploit, a raczej coś, co specjaliści od bezpieczeństwa robią na co dzień: proszą model o przejrzenie kodu i wskazanie błędów. Anthropic podkreśla, że nie istnieje żaden „uniwersalny jailbreak”, który zdejmowałby wszystkie blokady.

Mimo to rząd Stanów Zjednoczonych uznał, że ryzyko jest wystarczająco duże, by natychmiast odciąć dostęp do modeli wszystkim osobom niebędącym obywatelami Stanów Zjednoczonych - nawet jeśli pracują w Anthropic. Firma otrzymała oficjalne pismo o 23:21 naszego czasu i w ciągu godzin musiała wyłączyć systemy globalnie.

To nie pierwszy raz, gdy Anthropic ściera się z administracją Trumpa. Wcześniej firma odmówiła współpracy przy projektach związanych z autonomicznymi systemami wojskowymi i masową inwigilacją, co doprowadziło do wpisania jej na listę ryzyka łańcucha dostaw Pentagonu - kategorię zwykle zarezerwowaną dla podmiotów z państw wrogich Stanom Zjednoczonym.

W ostatnich miesiącach Anthropic próbował łagodzić relacje, m.in. współpracując z rządem przy testach bezpieczeństwa Fable 5. Jednak napięcia nie zniknęły, a decyzja o blokadzie wygląda jak eskalacja wcześniejszych sporów.

Fable 5 był pierwszym tak zaawansowanym modelem Anthropic udostępnionym szerokiej publiczności. Firma chwaliła się jego możliwościami w inżynierii oprogramowania i analizie danych, a jednocześnie wprowadziła bardzo agresywne zabezpieczenia, które miały uniemożliwić wykorzystanie go do cyberataków. Wielu użytkowników narzekało wręcz, że są „zbyt szerokie”.

Mythos 5 to z kolei model o ograniczonym dostępie, rozwijany w ramach programu Project Glasswing. Wersja preview potrafiła znaleźć tysiące podatności w kodzie - co wywołało globalne poruszenie w środowisku cyberbezpieczeństwa.

To właśnie te możliwości - zdaniem rządu Stanów Zjednoczonych - mogą zostać wykorzystane przez wrogie państwa lub grupy cyberprzestępcze.

Wyłączenie Fable 5 i Mythos 5 to nie tylko problem dla firm, które zdążyły już zintegrować modele z własnymi systemami. To także sygnał, że Stany Zjednoczone zaczyna traktować zaawansowane modele AI jak technologię strategiczną - podobnie jak wcześniej traktowano półprzewodniki czy technologie rakietowe.

To również kolejny rozdział w narastającej rywalizacji USA-Chiny o dominację w AI. Restrykcje eksportowe mają zapobiec „wyciekowi” zdolności ofensywnych modeli do państw uznawanych za wrogie.

Dla branży to sygnał alarmowy: jeśli rząd może w jednej chwili wyłączyć model używany przez setki milionów ludzi, to przyszłość usług AI może być znacznie mniej stabilna, niż się wydawało.

Anthropic twierdzi, że cała sytuacja to „nieporozumienie” i że pracuje nad przywróceniem dostępu. Firma zapowiada, że w ciągu najbliższych dni przedstawi więcej szczegółów i liczy, że blokada zostanie zdjęta w ciągu tygodni. Jednocześnie podkreśla, że jeśli standard zastosowany wobec Fable 5 miałby obowiązywać całą branżę, to „zatrzymałby wdrażanie wszystkich nowych modeli frontierowych”. To mocna teza - ale trudno się z nią nie zgodzić. Modele AI są dziś tak złożone, że całkowita odporność na jailbreaki jest praktycznie niemożliwa.

Dla nas, entuzjastów technologii, to moment otrzeźwienia. Modele AI mogą być genialne, potężne i fascynujące, ale są też podatne na polityczne turbulencje. I wygląda na to, że takich turbulencji będzie tylko więcej.