Pralka ma więcej zabezpieczeń niż AI. Microsoft chce nowych zasad

Zwykła pralka zanim trafi do sprzedaży musi spełnić szereg wymagań bezpieczeństwa. Tymczasem systemy sztucznej inteligencji, które potrafią samodzielnie wykonywać zadania i korzystać z firmowych danych, rozwijają się bez porównywalnego, globalnego nadzoru. Taką dysproporcję wskazał Brad Smith, prezes Microsoftu.

W rozmowie z BBC jeden z najważniejszych przedstawicieli branży technologicznej zaapelował o nowe przepisy. Chce niezależnych testów AI, obowiązkowego zgłaszania niebezpiecznych incydentów i mechanizmów pozwalających zatrzymać system, zanim narobi szkód. Jego zdaniem nie można dłużej polegać wyłącznie na zapewnieniach producentów.

Brad Smith, prezes i wiceprzewodniczący zarządu Microsoftu, posłużył się podczas wywiadu dla BBC porównaniem, które doskonale oddaje jego stanowisko. Zwrócił uwagę, że nawet zwykła pralka podlega dziś większej liczbie wymagań bezpieczeństwa niż sztuczna inteligencja.

Przywołał także karton mleka, który zanim trafi do sklepu, musi spełniać odpowiednie normy i podlega kontrolom. Tymczasem w przypadku najbardziej zaawansowanych systemów AI wciąż nie ma jednolitych, obowiązujących na całym świecie zasad sprawdzania ich bezpieczeństwa.

Nie chodzi oczywiście o to, że sztuczna inteligencja jest dosłownie mniej bezpieczna od pralki ani że nie podlega żadnym przepisom. Smith zwraca uwagę na różnicę w podejściu do kontroli nowych produktów.

Sprzęt elektryczny musi spełniać konkretne normy techniczne, a niespełnienie wymagań może uniemożliwić jego sprzedaż. Tymczasem nowe modele AI często trafiają do milionów użytkowników, zanim niezależni eksperci otrzymają pełną możliwość oceny ich najbardziej zaawansowanych funkcji. Według przedstawiciela Microsoftu taki stan rzeczy będzie coraz trudniejszy do utrzymania, ponieważ AI przestaje być wyłącznie narzędziem odpowiadającym na pytania.

Pierwszy z proponowanych mechanizmów można porównać do awaryjnego wyłącznika stosowanego w maszynach przemysłowych. Smith przekonuje, że zaawansowane systemy AI powinny mieć zabezpieczenia umożliwiające natychmiastowe przerwanie lub ograniczenie ich działania, gdy zaczną zachowywać się w niepożądany sposób.

W branży technologicznej takie rozwiązania określa się często mianem kill switcha. Nie oznacza to jednego przycisku zdolnego wyłączyć wszystkie modele AI na świecie, lecz mechanizmy pozwalające operatorom zatrzymać konkretny system, jego zadanie lub dostęp do narzędzi.

W przypadku agentów AI, czyli programów, które nie ograniczają się do generowania tekstu, ma to bardzo duże znaczenie. Mogą również przeglądać strony, uruchamiać kod, korzystać z baz danych i podejmować kolejne działania bez każdorazowego potwierdzania ich przez człowieka.

Drugą propozycją jest prawny obowiązek raportowania poważnych incydentów. Firmy miałyby dokumentować przypadki niebezpiecznego zachowania systemów, zamiast samodzielnie decydować, które informacje warto ujawnić opinii publicznej.

Smith chce również, żeby osoby i organizacje poszkodowane w wyniku nieautoryzowanych działań agentów AI były o nich informowane. Przykładem byłaby sytuacja, w której autonomiczny program uzyskuje niedozwolony dostęp do cudzego systemu informatycznego.

Wzrost zainteresowania takimi zabezpieczeniami nie jest w żadnym razie przypadkowy. Najnowsze systemy AI potrafią realizować wieloetapowe polecenia, a czasem znajdują sposoby działania, których twórcy nie przewidzieli podczas projektowania.

We wrześniu opisywaliśmy przypadek agentów AI OpenAI, których działania wobec platformy Hugging Face ujawnili badacze bezpieczeństwa. Z analizy wynikało, że programy próbowały obchodzić ograniczenia środowiska testowego, tworzyć dodatkowe narzędzia i komunikować się z zewnętrznymi usługami.

Nie wszystkie próby zakończyły się powodzeniem, a sam incydent nie oznaczał przejęcia kontroli nad Internetem przez sztuczną inteligencję. Pokazał jednak, jak trudno przewidzieć zachowanie autonomicznego oprogramowania wyposażonego w możliwość wykonywania kolejnych czynności.

Smith wskazuje, że również największe laboratoria AI zaczęły ujawniać przykłady niepożądanych działań swoich systemów. Problem polega na tym, że takie raporty nie wszędzie są wymagane przepisami, a zakres ujawnianych informacji może zależeć od decyzji producenta.

Na Spider’s Web pisaliśmy niedawno, że najwięksi twórcy AI przygotowują się już na scenariusze poważnego kryzysu związanego z technologią. Firmy analizują nie tylko możliwość cyberataków, ale również reakcję władz i społeczeństwa na sytuację, w której sztuczna inteligencja wyrządzi znaczne szkody.

W ocenie Smitha krajem najlepiej przygotowanym do opracowania międzynarodowych zasad bezpieczeństwa jest Wielka Brytania. Działa tam AI Security Institute, czyli państwowa organizacja zajmująca się badaniem zagrożeń związanych z najbardziej zaawansowanymi modelami. Instytut powstał w 2023 r. i prowadzi testy obejmujące m.in. zdolności systemów do wspierania cyberataków oraz obchodzenia zabezpieczeń.

Najważniejsze jest to, że dzięki porozumieniom z producentami jego eksperci mogą otrzymywać dostęp do modeli jeszcze przed ich publicznym udostępnieniem. Pozwala to sprawdzać zagrożenia w kontrolowanych warunkach, zanim nowe możliwości trafią do szerokiego grona użytkowników.

Microsoft już teraz współpracuje z brytyjską instytucją. W maju firma ogłosiła porozumienia dotyczące oceny modeli AI zarówno z AI Security Institute, jak i amerykańskim Center for AI Standards and Innovation.

Istnieje jednak ważna różnica między badaniem bezpieczeństwa a regulowaniem rynku. Brytyjski instytut jest organizacją badawczą, nie urzędem wydającym pozwolenia na wprowadzanie AI do sprzedaży. Współpraca z producentami opiera się w dużej mierze na dobrowolnych porozumieniach. Smith uważa, że takie doświadczenie może stać się podstawą szerszego systemu kontroli, w którym niezależna ocena nie będzie zależeć wyłącznie od dobrej woli firm.

Wypowiedź przedstawiciela Microsoftu wymaga jednak istotnego uzupełnienia. Stwierdzenie o niewystarczających regulacjach nie oznacza, że świat dopiero rozpoczyna prace nad przepisami dotyczącymi AI. 

Unia Europejska przyjęła już AI Act, czyli kompleksowe rozporządzenie określające obowiązki producentów i użytkowników systemów sztucznej inteligencji. Przepisy wprowadzane są etapami i przewidują różne wymagania w zależności od stopnia ryzyka.

Od 2 sierpnia 2026 r. obowiązują m.in. przepisy dotyczące przejrzystości treści generowanych przez AI. W określonych sytuacjach użytkownicy muszą być informowani, że rozmawiają z maszyną albo oglądają materiał wygenerowany lub zmodyfikowany przez sztuczną inteligencję.

Przeczytaj także:

Unijne rozporządzenie obejmuje także obowiązki związane z oceną ryzyka najpotężniejszych modeli oraz nadzorem nad systemami wykorzystywanymi w szczególnie wrażliwych zastosowaniach. Nie wszystkie wymagania weszły już jednak w życie. Część przepisów dotyczących systemów wysokiego ryzyka będzie stosowana dopiero w kolejnych latach.

Smith nie twierdzi więc, że AI powinna zostać objęta przepisami po raz pierwszy. Jego postulat dotyczy przede wszystkim stworzenia bardziej powszechnych, międzynarodowych zasad testowania bezpieczeństwa i zgłaszania incydentów.

*Źródło grafiki wprowadzającej: Putilich, Getty Images, Canva Pro / Canva Pro