Giganci AI przestraszyli się i chcą zwolnić. Wchodzi Trump i mówi: "gaz do dechy"

Jeszcze do niedawna najpotężniejsze firmy AI prześcigały się w tym, kto szybciej zbuduje kolejny model. Teraz ich szefowie zaczęli mówić coś, co jeszcze kilka miesięcy temu brzmiałoby jak herezja: trzeba zwolnić. Dario Amodei z Anthropic chce ograniczyć tempo rozwoju najpotężniejszych systemów, a poparli go Sam Altman, Elon Musk i Demis Hassabis. Donald Trump nie podziela jednak tego entuzjazmu. Dla niego najważniejsze jest to, że Stany Zjednoczone nie mogą oddać przewagi Chinom.

Cały zwrot rozpoczął Dario Amodei, szef Anthropic, który opublikował obszerny tekst pod tytułem: We Must Pace the Frontier. Jego podstawowa teza jest prosta: możliwości sztucznej inteligencji zaczęły rozwijać się szybciej, niż firmy nadążają z rozumieniem i zabezpieczaniem swoich systemów.

Nie proponuje przy tym całkowitego zatrzymania prac nad AI. Modele mają nadal powstawać, ale kolejne skoki możliwości powinny następować dopiero wtedy, gdy zespoły bezpieczeństwa, niezależni audytorzy i regulatorzy zdążą sprawdzić, co nowe systemy potrafią i jakie niosą ryzyko. To dość radykalna zmiana tonu jak na branżę, w której przewaga kilku miesięcy nad konkurentem może być warta dziesiątki miliardów dolarów.

Jeszcze ciekawsze było jednak to, co wydarzyło się później. Elon Musk napisał krótko, że Amodei ma rację. Sam Altman z OpenAI również poparł kierunek i zadeklarował gotowość do wpuszczenia zewnętrznych ewaluatorów głębiej do firmy. Później dołączył Demis Hassabis z Google DeepMind, uznając kierunek przedstawiony przez szefa Anthropic za właściwy. W ciągu kilku godzin firmy, które normalnie rywalizują o modele, ludzi, klientów i gigantyczne centra danych, znalazły wspólny problem.

Na Spider’s Web pisaliśmy już kilka dni temu, że OpenAI samo zaczęło rozważać spowolnienie prac nad najbardziej zaawansowanymi systemami. Wtedy wyglądało to jeszcze jak problem jednej firmy. Teraz mamy znacznie szerszy ruch. Amodei wskazuje na dwa szczególnie niepokojące zjawiska.

Pierwszym jest rosnąca zdolność AI do pomagania w budowaniu kolejnych generacji AI. Jeżeli modele coraz większą część badań, programowania i eksperymentów wykonują za swoich twórców, tempo postępu może zacząć przyspieszać samo. To właśnie scenariusz określany jako rekurencyjne samodoskonalenie.

Drugim są bardzo konkretne incydenty. Latem modele OpenAI używane podczas testów cyberbezpieczeństwa wydostały się poza przygotowane środowisko, uzyskały dostęp do internetu, zaczęły komunikować się ze sobą i włamały się m.in. do systemów Hugging Face. Samo OpenAI przyznało później, że agenci działali niezgodnie z powierzonym zadaniem.

Anthropic znalazł podobne problemy u siebie. Firma poinformowała o czterech przypadkach, w których modele Claude podczas ewaluacji uzyskały nieautoryzowany dostęp do prawdziwych systemów podmiotów trzecich.

Nie oznacza to, że ChatGPT albo Claude właśnie próbują przejąć świat. Testy były prowadzone w nietypowych warunkach, część standardowych zabezpieczeń celowo wyłączono, a systemom powierzano zadania związane z cyberbezpieczeństwem. Trudno jednak zignorować fakt, że modele potrafiły zrobić znacznie więcej, niż przewidywali ich twórcy.

Plan szefa Anthropic jest znacznie konkretniejszy, niż zwykłe wezwanie do odpowiedzialnej AI. Pierwszym krokiem mają być niezależni specjaliści pracujący praktycznie wewnątrz laboratoriów. Dostawaliby dostęp zbliżony do pracowników firmy i mogliby oceniać nie tylko gotowy model przed premierą, lecz także proces treningu, wewnętrzne testy bezpieczeństwa i incydenty. Anthropic deklaruje, że chce zrobić to u siebie niezależnie od decyzji konkurencji.

Drugim etapem byłaby koordynacja pomiędzy firmami z państw demokratycznych. Laboratoria miałyby ustalić wspólne standardy bezpieczeństwa oraz granice, których nie przekraczają bez odpowiednich testów. Problem jest bardzo praktyczny: jeżeli tylko Anthropic zwolni, a OpenAI, Google czy xAI dalej będą pędzić, ostrożniejsza firma po prostu przegra wyścig.

Dlatego Amodei chce zaangażowania amerykańskiego rządu, m.in. po to, aby współpraca konkurentów dotycząca bezpieczeństwa nie została potraktowana jako niedozwolona zmowa. Na końcu byłoby porozumienie międzynarodowe obejmujące Chiny.

Prezydent USA patrzy na cały problem z drugiej strony. Zapytany o wezwania szefów firm AI do spowolnienia rozwoju odpowiedział, że Stany Zjednoczone prowadzą w wyścigu z Chinami i chce, żeby tak pozostało. Jego argument można sprowadzić do jednego zdania: kto wygra w AI, wygra znacznie większą rozgrywkę.

Trump dopuścił możliwość wprowadzenia pewnych zabezpieczeń, ale jednocześnie określił część osób podnoszących alarm jako negatywne siły mówiące o rzeczach, które jego zdaniem się nie wydarzą.

To nie jest zresztą jakaś nagła zmiana polityki. Administracja Trumpa od początku stawia na przyspieszenie rozwoju amerykańskiej AI, ograniczanie regulacji i zwiększanie inwestycji w infrastrukturę. Biały Dom oficjalnie mówi o utrzymaniu globalnej dominacji USA w tej technologii.

Powstaje więc niezwykła sytuacja. Firmy, którym jeszcze niedawno regulatorzy próbowali nakładać ograniczenia, same zaczynają prosić o mechanizmy pozwalające zwolnić. Rząd odpowiada: możecie uważać, ale nie możecie przegrać z Chinami.

Do konfliktu dochodzi jeszcze trzeci gracz: pieniądze. W poniedziałek akcje firm najmocniej związanych z boomem AI zaczęły spadać. Nvidia traciła około 3 proc. w handlu przedsesyjnym, Intel jeszcze więcej, ASML znalazł się pod silną presją w Europie, a notowania SoftBanku w Tokio spadły o około 11 proc.

Powód jest tak naprawdę prozaicznie prosty. Cały obecny boom inwestycyjny opiera się na założeniu, że modele będą potrzebowały coraz większej liczby akceleratorów, centrów danych, pamięci i energii. Jeżeli największe laboratoria świadomie ograniczą tempo skalowania, część tych prognoz trzeba będzie przeliczyć.

Sam Altman dolał oliwy do ognia, potwierdzając, że OpenAI nie wejdzie na giełdę w 2026 r. Szef firmy wskazał bezpieczeństwo i dostosowanie kolejnych modeli jako jeden z głównych powodów pozostania na razie spółką prywatną.

Jeszcze niedawno IPO OpenAI miało być jednym z największych giełdowych wydarzeń roku. Teraz jego szef mówi inwestorom, że priorytetem może być coś dokładnie przeciwnego do maksymalizowania krótkoterminowego wzrostu.

Sam Dario Amodei od dawna znajduje się w dziwnej pozycji: ostrzega przed technologią, którą jednocześnie rozwija na pełnych obrotach. Do tej pory tłumaczył to właśnie wyścigiem. Jeżeli Anthropic się zatrzyma, technologię zbuduje ktoś inny.

Teraz próbuje rozwiązać ten paradoks w jedyny sposób, który ma szansę zadziałać: przekonać konkurentów, rząd i ostatecznie także Chiny, żeby nikt nie korzystał z chwilowej przewagi wynikającej ze złamania wspólnych zasad.

Przeczytaj także:

To zarazem największa słabość całego planu. Wystarczy jeden duży gracz, który uzna, że nie zamierza zwalniać, a reszta natychmiast dostaje powód, by również docisnąć gaz. Donald Trump właśnie przypomniał, że w Waszyngtonie bezpieczeństwo AI nie jest jedynym priorytetem. Drugim jest wygranie z Chinami.

I tak dochodzimy chyba do najbardziej absurdalnego momentu obecnego wyścigu. Firmy budujące najpotężniejsze modele na świecie zaczynają przekonywać polityków, że rozwój technologii może być zbyt szybki. Politycy odpowiadają, że właśnie dlatego trzeba biec jeszcze szybciej.

*Źródło grafiki wprowadzającej: PhonlamaiPhoto's Images, Canva Pro / entaneerstocker, Canva Pro / Shutterstock