Wiedzą, że wyjdziemy na ulice protestować. Już się na to szykują

Przez ostatnie dwa lata świat technologii żył niemal nieustanną promocją sztucznej inteligencji. Każda kolejna premiera modelu miała być przełomem, każda nowa funkcja zapowiedzią przyszłości. No i każdy kwartał przynosił kolejne rekordy inwestycji liczone w miliardach dolarów.

Tymczasem za kulisami największe firmy AI coraz więcej czasu poświęcają tematowi, który brzmi jak coś wyjętego z raportów służb kryzysowych, niezupełnie pasującego do prezentacji dla inwestorów. Według najnowszych doniesień, przedstawiciele OpenAI, Anthropic i innych czołowych firm prowadzą prywatne ćwiczenia dotyczące tego, jak zareagować po katastrofalnym incydencie związanym ze sztuczną inteligencją. Nie chodzi przy tym o sam atak, lecz o dzień po nim. O reakcję polityków, mediów, regulatorów i zwykłych ludzi.

Czytaj też:

Media głównego nurtu od dawna piszą o zagrożeniach związanych ze sztuczną inteligencją -  tyle że zwykle pojawiają się dobrze znane motywy. Samodzielnie myślące maszyny, utrata kontroli nad superinteligencją czy wizje znane z Terminatora. Są to obrazy chwytliwe, ale jednocześnie bardzo odległe od problemów, którymi faktycznie zajmują się dziś specjaliści od bezpieczeństwa.

Z informacji opublikowanych przez Axios wynika, że firmy rozważają znacznie bardziej przyziemny scenariusz. Obawiają się przede wszystkim dużego cyberataku, który mógłby zakłócić działanie sektora finansowego, dostępu do Internetu albo nawet infrastruktury energetycznej i wodociągowej.

Czyli nie że sztuczna inteligencja postanawia zniszczyć świat a sytuacja, w której ta staje się narzędziem pozwalającym ludziom robić to, co dotychczas robili znacznie wolniej i mniej skutecznie. Dla cyberprzestępców może to oznaczać szybsze wyszukiwanie luk bezpieczeństwa, łatwiejsze generowanie złośliwego kodu, bardziej przekonujące kampanie phishingowe oraz możliwość automatyzacji wielu etapów ataku, które wcześniej wymagały pracy całych zespołów specjalistów. Nie jest to wizja równie widowiskowa jak zbuntowane roboty, ale właśnie dlatego wydaje się o wiele bardziej prawdopodobna.

Część osób związanych z branżą zakłada, że poważny incydent związany ze sztuczną inteligencją może nastąpić w ciągu najbliższych sześciu do dwunastu miesięcy.Nie należy przy tym interpretować tego jako ostrzeżenia o konkretnym ataku, nikt nie twierdzi, że zna datę przyszłej katastrofy ani że posiada informacje wywiadowcze wskazujące na nadchodzące zagrożenie. Jest to raczej wniosek wynikający z obserwacji kierunku, w którym zmierza cała branża.

Jeszcze kilka lat temu zaawansowane modele AI były dostępne wyłącznie dla największych korporacji technologicznych. Dziś podobne narzędzia można pobrać za darmo, uruchomić lokalnie lub wykorzystać przez API za stosunkowo niewielkie pieniądze. Oznacza to, że te same rozwiązania trafiają zarówno do badaczy i firm bezpieczeństwa, jak i do grup przestępczych. Historia technologii pokazuje natomiast, że jeśli jakieś narzędzie potrafi zwiększyć produktywność uczciwych użytkowników to bardzo szybko znajdzie zastosowanie także po ciemniejszej stronie Internetu.

W całej dyskusji łatwo przeoczyć jeden ważny szczegół. Potencjalna katastrofa nie musi wynikać z tego, że modele AI są same w sobie niebezpieczne. Równie dobrze może być efektem uzależnienia gospodarki od systemów cyfrowych.

Wyobraźmy sobie sytuację, w której duża część usług bankowych przestaje działać przez kilkanaście godzin. Karty płatnicze są odrzucane, przelewy nie dochodzą, a aplikacje mobilne banków odmawiają współpracy. Taki scenariusz jeszcze kilkanaście lat temu byłby poważnym problemem, ale nie paraliżowałby całego życia gospodarczego. Dziś wygląda to zupełnie inaczej.

Coraz więcej osób nie nosi przy sobie gotówki. Firmy są uzależnione od chmury obliczeniowej, sklepy funkcjonują dzięki płatnościom elektronicznym, a logistyka opiera się na systemach informatycznych. Nawet chwilowe zakłócenie działania wybranych elementów infrastruktury cyfrowej może wywołać efekt domina. Jeżeli dodatkowo atak byłby wspierany lub przyspieszany przez zaawansowane narzędzia AI, to konsekwencje mogłyby być znacznie większe niż w przypadku tradycyjnych incydentów. Dlatego coraz częściej mówi się nie tylko o bezpieczeństwie sztucznej inteligencji, ale również o odporności całego nowoczesnego państwa.

Jest jeszcze jeden aspekt tej historii, który wydaje się szczególnie interesujący. Z doniesień wynika, że firmy nie analizują wyłącznie skutków technicznych potencjalnej katastrofy. Dużo uwagi poświęcają także politycznym konsekwencjom takiego wydarzenia.

To akurat bardzo łatwo zrozumieć. Branża AI rozwija się dziś w tempie, które jeszcze kilka lat temu wydawało się nierealne. Wiele firm zbudowało wyceny liczone w setkach miliardów dolarów właśnie na założeniu, że sztuczna inteligencja będzie stopniowo trafiać do kolejnych sektorów gospodarki. Wszystko działa jednak do czasu pierwszego naprawdę dużego kryzysu.

Jeżeli pewnego dnia media obiegłyby informacje o cyberataku przypisywanym zaawansowanym systemom AI, to reakcja polityków mogłaby być bardzo gwałtowna. Nagle pojawiłyby się projekty nowych regulacji, obowiązkowych zabezpieczeń, ograniczeń eksportowych, licencji i dodatkowych wymagań dla twórców modeli. Firmy technologiczne doskonale zdają sobie sprawę, że przepisy tworzone pod presją katastrofy rzadko są szczególnie subtelne.

Historia pełna jest przykładów sytuacji, w których przełomowe regulacje pojawiały się dopiero po głośnym kryzysie. Wystarczy spojrzeć na sektor finansowy, lotnictwo, energetykę czy ochronę danych osobowych. Branża AI najwyraźniej zakłada, że wcześniej czy później może spotkać ją dokładnie ten sam scenariusz.

Dodatkowym problemem jest fakt, że w ostatnim czasie wokół największych laboratoriów AI pojawiło się kilka głośnych kontrowersji dotyczących bezpieczeństwa testów. Opisywano sytuacje związane z błędami konfiguracji środowisk testowych, eksperymentami prowadzonymi z bardziej zaawansowanymi modelami oraz przypadkami, które miały pokazać, jak trudno jest przewidzieć zachowanie bardzo złożonych systemów.

Nie były to wydarzenia porównywalne z katastrofą, której obawia się branża. Pokazały jednak coś znacznie ważniejszego: największe firmy technologiczne nie są wszechwiedzące i nie posiadają pełnej kontroli nad każdym aspektem rozwijanych przez siebie systemów. To nie jest zresztą nic wyjątkowego, tak wygląda rzeczywistość każdej zaawansowanej technologii. Problem polega na tym, że sztuczna inteligencja coraz częściej przedstawiana jest jako fundament przyszłej gospodarki cyfrowej. Wraz ze wzrostem znaczenia rosną więc również oczekiwania dotyczące bezpieczeństwa.

Największe firmy zajmujące się sztuczną inteligencją coraz częściej zachowują się tak, jakby zarządzały technologią, od której za kilka lat może zależeć funkcjonowanie dużej części współczesnego świata. A jeżeli sami twórcy AI zaczynają myśleć w takich kategoriach, to prawdopodobnie reszta z nas również powinna.

*Zdjęcie otwierające wygenerowane za pomocą AI