ONZ bije na alarm. Chcieliśmy niezależności od korporacji, a daliśmy potężną broń ekstremistom
Otwarta AI daje nam ogromne możliwości, ale niestety ułatwia działania także terrorystom. Nowa analiza ONZ ujawnia problem, którego nie da się łatwo rozwiązać.

Sztuczna inteligencja, którą każdy może pobrać i uruchomić na własnym komputerze, ma jedną cechę budzącą coraz większy niepokój ekspertów. Gdy trafi w niepowołane ręce, to jej twórcy tracą możliwość kontrolowania tego, do czego zostanie wykorzystana. Zabezpieczenia można usunąć, a modelu nie da się zdalnie wyłączyć.
Instytut ONZ ds. Badań nad Rozbrojeniem rozpoczął analizę zagrożeń związanych z otwartą AI. W centrum zainteresowania znaleźli się terroryści i grupy ekstremistyczne, które mogą wykorzystywać coraz potężniejsze modele do planowania działań. Problem jest poważny, bo ta sama technologia daje państwom i firmom niezależność od wielkich korporacji.
Model można pobrać. Później nikt go już nie wyłączy
17 listopada Instytut ONZ ds. Badań nad Rozbrojeniem (UNIDIR) opublikował analizę poświęconą otwartej sztucznej inteligencji i bezpieczeństwu międzynarodowemu. Autor, Muhammet Muhammetgulyyev, zwraca uwagę, że rozpowszechniania takich modeli nie da się cofnąć. Po pobraniu pliku producent nie może już po prostu zablokować użytkownikowi dostępu.
Istnieje przy tym różnica między modelami w pełni otwartymi a tymi o otwartych wagach. W drugim przypadku można pobrać i modyfikować model, choć np. dane treningowe nie są publiczne. Z perspektywy nadużyć najważniejsze jest to, że taki system może działać poza kontrolą twórcy.
Dostawcy popularnych chatbotów mogą monitorować nadużycia i blokować podejrzane konta. Nie jest to ochrona doskonała, ale daje możliwość reagowania. W przypadku lokalnie uruchomionego modelu użytkownik może samodzielnie próbować usunąć mechanizmy odmawiania odpowiedzi.
UNIDIR ostrzega, że takie przeróbki potrafią pojawić się już w ciągu kilku dni od udostępnienia modelu. Takie narzędzia mogą wspierać planowanie przemocy, propagandę, rozpoznanie i logistykę grup ekstremistycznych. Liczą się przede wszystkim jej faktyczne możliwości i intencje użytkownika.
Badacze sprawdzili 27 modeli. Wyniki nie uspokajają
Skalę problemu świetnie ilustrują badania organizacji Tech Against Terrorism, opisane w lipcu na łamach CTC Sentinel. Autorzy ocenili niemal 2500 odpowiedzi wygenerowanych przez 27 modeli, w tym 23 z otwartymi wagami i 4 zamknięte. Około 1/3 odpowiedzi dostarczała użytecznej pomocy w przygotowaniach do działalności terrorystycznej, wykraczającej poza to, co można łatwo znaleźć zwykłą wyszukiwarką.
Wystarczała zmiana kontekstu: gdy niebezpieczne pytanie przedstawiano jako element badań naukowych, odsetek odpowiedzi spełniających prośbę wzrastał z 17 do 42 proc. Testowano też modele z usuniętymi zabezpieczeniami.
Zagrożenie nie ogranicza się zresztą do otwartych systemów. W październiku International Centre for Counter-Terrorism opisało 12 przypadków przemocy i udaremnionych zamachów, przy których sprawcy korzystali z chatbotów AI. W większości zidentyfikowanych przypadków były to usługi komercyjne. Największa różnica polega na możliwości nadzoru: przy lokalnych kopiach modelu dostawca nawet nie musi wiedzieć, do czego są wykorzystywane.
Otwarta AI to również szansa. Właśnie dlatego ONZ nie chce zakazu
Największa trudność polega na tym, że te same cechy, które utrudniają kontrolę, są zaletą dla legalnych użytkowników. Lokalne modele pozwalają analizować poufne dane bez przesyłania ich na cudze serwery. Mniejsze systemy działają nawet na laptopach. To ważne także dla państw, których nie stać na drogie usługi chmurowe.
Na Spider’s Web pisaliśmy o europejskim projekcie otwartego modelu AI, który ma dać firmom większą kontrolę nad danymi. UNIDIR zwraca uwagę na dokładnie ten paradoks: ograniczanie rozpowszechniania modeli może osłabiać niezależność technologiczną państw, a całkowita swoboda ich udostępniania utrudnia zapobieganie nadużyciom. UNIDIR dopiero bada możliwe zabezpieczenia, weryfikację tożsamości i współpracę międzynarodową.
Kto ma pilnować kopii?
Opisywaliśmy już, jak AI może pomagać w cyberatakach, ale otwarte modele rodzą dodatkowy problem. Nie istnieje centralny administrator wszystkich pobranych kopii. Nawet jeśli twórca wycofa plik ze swojej strony, wcześniejsze wersje mogą nadal krążyć między użytkownikami. A wystarczy, że ktoś udostępni zmodyfikowany model na jednym z popularnych repozytoriów, żeby kolejne osoby mogły pobierać go i rozpowszechniać dalej.
W przypadku komercyjnych usług działających w chmurze producent może aktualizować zabezpieczenia, ograniczyć dostęp do wybranych funkcji albo całkowicie zablokować konto użytkownika. Z modelami uruchamianymi lokalnie jest inaczej. Ich właściciel może odłączyć komputer od internetu, zmienić ustawienia, usunąć część ograniczeń i korzystać z programu bez wiedzy jego twórców. Nawet jeśli producent wyda bezpieczniejszą wersję, nie ma sposobu, żeby zmusić wszystkich do usunięcia starszej.
Przeczytaj także:
Trudno też wyobrazić sobie skuteczne kontrolowanie każdej kopii takiego oprogramowania. Modele można przechowywać na prywatnych dyskach, przenosić między komputerami i udostępniać poza oficjalnymi platformami. Nie wszystkie wymagają przy tym kosztownych serwerów. Coraz więcej mniejszych modeli działa na zwykłym sprzęcie konsumenckim, co dodatkowo utrudnia monitorowanie ich rozpowszechniania.
Nie oznacza to, że państwa i producenci są całkowicie bezradni. Można dokładniej testować modele przed publikacją, dokumentować ich niebezpieczne możliwości i rozwijać metody wykrywania nadużyć. W przypadku najbardziej zaawansowanych systemów znaczenie mogą mieć również decyzje o zakresie udostępnianych informacji i dostępie do zasobów obliczeniowych. Żadne z tych rozwiązań nie daje jednak pewności, że opublikowany model nie zostanie później wykorzystany w nieprzewidziany sposób.
*Źródło grafiki wprowadzającej: Virrage Images Inc, Canva Pro / Canva Pro
Redaktor Spider's Web specjalizujący się w tematyce naukowej. O nowych technologiach zaczął pisać w 2012 r. na łamach portalu Telix. Później współtworzył treści dla Komputer Świata i PCLabu. Epizod dziennikarski zaliczył także w lokalnej gazecie i w dziale blogowym SpeedTest. Współzałożyciel agencji BlueCopy, zajmującej się copywritingiem i poligrafią. Przez pewien czas właściciel firmy transportowej. Prywatnie fan starych polskich oper mydlanych (oglądanych obowiązkowo z konkubiną), dumny opiekun kotki brytyjskiej i pasjonat-amator druku 3D.