Nawet Microsoft mówi dziś: zwolnijmy z AI. Panikuje, bo przegrywa?

Jeszcze kilka miesięcy temu największe firmy AI prześcigały się głównie w prezentowaniu coraz potężniejszych modeli, kolejnych rekordów benchmarków i wizji świata, w którym sztuczna inteligencja stanie się uniwersalnym asystentem ludzkości. Dziś ton dyskusji zmienił się diametralnie. Coraz częściej słychać nie o tym, jak szybko rozwijać AI, lecz o tym, czy przypadkiem nie rozwijamy jej zbyt szybko.

W ciągu ostatnich kilku dni szefowie największych firm budujących najbardziej zaawansowaną sztuczną inteligencję zaczęli publicznie mówić o konieczności spowolnienia wyścigu. Do chóru ostrzeżeń dołączył właśnie Satya Nadella z Microsoftu. Do debaty włączyły się Chiny, politycy w Waszyngtonie, eksperci od bezpieczeństwa oraz sami pracownicy laboratoriów AI.

Czytaj też:

W efekcie obserwujemy narodziny czegoś, co można nazwać pierwszym wielkim globalnym konfliktem wokół superinteligencji.

Iskrą zapalną ostatnich wydarzeń był głośny esej Dario Amodeiego, szefa Anthropic, który zaapelował o spowolnienie rozwoju najbardziej zaawansowanych modeli AI. W jego opinii zdolności modeli rosną szybciej niż metody kontrolowania ich działania. Na ten apel odpowiedzieli kolejni liderzy branży. Poparcie wyrazili Sam Altman z OpenAI, Elon Musk z xAI, a teraz również Satya Nadella.

Szef Microsoftu napisał, że wszelkie prace nad superinteligencją powinny opierać się na jednej fundamentalnej zasadzie: jeśli tworzona sztuczna inteligencja nie pomaga ludzkości albo nie znajduje się pod ludzką kontrolą, nie warto jej rozwijać. Według Nadelli celem nie może być samo osiągnięcie technicznego przełomu, lecz budowa systemów, nad którymi człowiek nadal zachowuje realną władzę.

To ważna deklaracja, bo pochodzi od człowieka kierującego firmą, która w ostatnich latach stała się jednym z największych beneficjentów boomu na AI. Microsoft zainwestował dziesiątki miliardów dolarów w OpenAI, buduje własne modele MAI i zarabia na rosnącym zapotrzebowaniu na infrastrukturę sztucznej inteligencji w Azure. Jeszcze ciekawsze jest jednak to, co Nadella powiedział między wierszami.

Microsoft nie nawołuje do zamrożenia prac nad AI. Zamiast tego proponuje coś w rodzaju „kontrolowanego przyspieszenia”. Zdaniem Nadelli należy jednocześnie spowolnić wyścig tam, gdzie chodzi o bezpieczeństwo, ale przyspieszyć rozpowszechnianie korzyści wynikających z AI na kolejne kraje, firmy i społeczności. Microsoft opowiada się również za światem, w którym współistnieją zarówno modele otwarte, jak i zamknięte. Brzmi rozsądnie, ale równocześnie pokazuje, jak bardzo zmieniła się atmosfera w branży. Jeszcze niedawno wielkie firmy mówiły głównie o możliwościach. Dziś coraz częściej mówią o hamulcach.

W normalnych warunkach apel Anthropica można byłoby potraktować jako element korporacyjnej gry. W końcu w Dolinie Krzemowej nie brakuje sytuacji, gdy firmy próbują wykorzystać regulacje do utrudnienia życia konkurentom. Tym razem sytuacja jest jednak nietypowa.

Sam Altman publicznie poparł pomysł przyznania niezależnym ekspertom dostępu do modeli na poziomie zbliżonym do pracowników laboratoriów AI. OpenAI zapowiedziało, że chce wdrożyć podobne rozwiązania. Elon Musk również stanął po stronie Amodeiego. To oznacza, że trzy największe amerykańskie ośrodki rozwijające najbardziej zaawansowane systemy sztucznej inteligencji zaczynają mówić podobnym głosem.

W tle znajdują się zresztą coraz bardziej niepokojące sygnały płynące od samych badaczy AI. W ostatnich dniach szerokim echem odbiły się wypowiedzi pracowników Anthropic i OpenAI dotyczące ryzyka utraty kontroli nad systemami rozwijającymi własne możliwości. Dyskusja dotyczy szczególnie tzw. rekurencyjnego samodoskonalenia, czyli sytuacji, w której AI pomaga budować coraz lepsze wersje kolejnych modeli. Niektórzy badacze alarmują, że proces ten postępuje szybciej, niż pierwotnie zakładano.

Dla przeciętnego użytkownika brzmi to jak scenariusz z science fiction. Problem polega na tym, że osoby wygłaszające te ostrzeżenia nie są scenarzystami Hollywood. To ludzie, którzy na co dzień siedzą przy terminalach i tworzą systemy, z których korzystają setki milionów użytkowników.

Chińskie MSZ uznało część tych narracji za „sianie strachu”. Rzecznik chińskiego ministerstwa spraw zagranicznych Guo Jiakun stwierdził, że rozwój sztucznej inteligencji powinien być otwarty, inkluzywny i korzystny dla wszystkich, natomiast „straszenie, konfrontacja i zaciekła rywalizacja” nie służą globalnemu zarządzaniu AI. To nie przypadek.

W swoim eseju Amodei argumentował nie tylko za wolniejszym rozwojem najbardziej zaawansowanych modeli. Wskazywał również na konieczność utrzymywania przewagi technologicznej demokracji nad Chinami oraz dalszego ograniczania dostępu Pekinu do zaawansowanych układów obliczeniowych.

Pekin może interpretować apele o „bezpieczne tempo rozwoju” jako próbę utrwalenia obecnego układu sił, w którym to Stany Zjednoczone pozostają liderem najbardziej zaawansowanych modeli i infrastruktury AI. Nic więc dziwnego, że chińskie media zaczęły przedstawiać część tych propozycji jako nową odsłonę technologicznej zimnej wojny. W praktyce oznacza to, że debata o bezpieczeństwie sztucznej inteligencji coraz mocniej miesza się z geopolityką. A gdy do gry wchodzi geopolityka, to osiągnięcie międzynarodowego konsensusu staje się znacznie trudniejsze.

Nerwowość da się zauważyć również w Waszyngtonie. Część kongresmenów domagała się nawet utrzymania Kongresu w pracy do czasu przyjęcia nowych zabezpieczeń dotyczących AI. Wśród omawianych propozycji pojawiały się projekty ustaw wymagających zachowania możliwości awaryjnego wyłączania systemów AI przez człowieka oraz stworzenia szerszych ram regulacyjnych dla zaawansowanych modeli.

Jednocześnie spiker Izby Reprezentantów Mike Johnson przyjął bardziej ostrożne stanowisko. Jego zdaniem nie należy wprowadzać gwałtownego moratorium na rozwój AI, ponieważ mogłoby to osłabić pozycję Stanów Zjednoczonych wobec Chin. Johnson argumentuje, że potrzebne są zabezpieczenia, ale nie kosztem utraty technologicznej przewagi. To właściwie streszczenie całego problemu. Wszyscy mówią o bezpieczeństwie. Jednocześnie nikt nie chce być pierwszym, który naprawdę naciśnie hamulec.

Przez lata słyszeliśmy ostrzeżenia przed sztuczną inteligencją głównie od filozofów, futurologów i osób stojących z boku branży. Dziś alarm biją ludzie, którzy sami budują najbardziej zaawansowane modele świata. Jednocześnie te same firmy nadal wydają miliardy dolarów na nowe centra danych kupują kolejne akceleratory Nvidii, rekrutują najlepszych badaczy i wypuszczają coraz potężniejsze modele.

Nadella próbuje znaleźć środek między tymi światami. Z jednej strony popiera „rozsądne tempo”, niezależnych ewaluatorów i większą kontrolę człowieka. Z drugiej nie mówi o zatrzymaniu AI. Wręcz przeciwnie. Microsoft chce nadal rozwijać własne modele, publikować kodeksy postępowania i rozszerzać dostęp do technologii. I być może właśnie w tym tkwi sedno obecnej debaty.

Jeszcze rok temu takie dyskusje wydawały się odległe. Dziś prowadzą je publicznie prezesi Microsoftu, OpenAI i Anthropic, chińskie ministerstwo spraw zagranicznych oraz amerykańscy kongresmeni. To chyba najlepszy dowód na to, że sztuczna inteligencja przestała być wyłącznie kolejną branżą technologiczną. Stała się jednym z najważniejszych tematów politycznych, gospodarczych i cywilizacyjnych naszych czasów.