OpenAI prosi Polaków o pomoc. Pomożemy kontrolować sztuczną inteligencję

Polscy eksperci będą pomagać OpenAI w sprawdzaniu, czy coraz bardziej zaawansowane systemy sztucznej inteligencji są bezpieczne. Amerykański gigant podpisał właśnie porozumienie z NASK, które otwiera drogę do wspólnych badań nad podatnościami modeli, ich potencjalnymi nadużyciami oraz metodami ograniczania zagrożeń. Według NASK jest to jedyna umowa tego rodzaju zawarta przez OpenAI z instytucją badawczą w Unii Europejskiej.

Porozumienie ogłoszono dokładnie 23 października. Po stronie NASK za jego realizację będzie odpowiadał Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji, pełniący funkcję polskiego instytutu AI Safety Institute. To jednostka zajmująca się m.in. oceną zagrożeń wynikających z rozwoju zaawansowanych modeli.

Badacze zamierzają wspólnie z OpenAI analizować możliwości nowych systemów, szukać ich słabych punktów i rozwijać metody zabezpieczania przed niepożądanym działaniem. Nie chodzi jednak wyłącznie o błędy techniczne, ale również o sytuacje, w których sztuczna inteligencja może zostać wykorzystana do oszustw, manipulowania informacjami lub działań wymierzonych w systemy komputerowe.

Radosław Nielek, dyrektor NASK, zwraca uwagę, że badacze analizują także różnice w zachowaniu AI zależnie od języka rozmowy. Model może bowiem inaczej reagować na podobne polecenia sformułowane po polsku i po angielsku. Umowa nie oznacza oczywiście natomiast, że NASK otrzyma uprawnienia do regulowania działalności OpenAI lub zatwierdzania premier kolejnych modeli. Mówimy o współpracy badawczej i technicznej.

Nowe porozumienie rozwija tak naprawdę współpracę, która rozpoczęła się już kilka miesięcy wcześniej. Jak pisaliśmy w lipcu, NASK i CERT Polska otrzymały dostęp do wyspecjalizowanego modelu GPT-5.5 Cyber, udostępnianego wybranym organizacjom zajmującym się cyberbezpieczeństwem.

Narzędzie pomaga analizować kod oprogramowania, identyfikować potencjalne podatności i sprawdzać sposoby ich wykorzystania. Nie zastępuje przy tym ekspertów, którzy muszą potwierdzić wyniki i ocenić, czy wykryty problem rzeczywiście zagraża użytkownikom.

NASK ujawnił teraz konkretne efekty tych prac. Zespół CERT Polska wykorzystał modele OpenAI do zidentyfikowania sześciu podatności w systemie MikroTik RouterOS, stosowanym w urządzeniach sieciowych. Połączenie części błędów pozwalało na przejęcie kontroli nad urządzeniem bez konieczności wcześniejszego logowania.

Producent otrzymał informacje o problemach i udostępnił poprawki. Polscy specjaliści sprawdzili następnie, że usuwają one wykryte możliwości ataku. To przykład praktycznego zastosowania AI, w którym zamiast tworzyć nowe treści, pomaga ona chronić istniejącą infrastrukturę.

Dlaczego twórca ChatGPT potrzebuje zewnętrznych ekspertów? Wraz z rozwojem modeli rośnie liczba zadań, które potrafią wykonywać bez szczegółowego prowadzenia przez człowieka. Dotyczy to szczególnie agentów AI, mogących samodzielnie korzystać z narzędzi, analizować informacje i podejmować kolejne działania.

Takie możliwości mogą ułatwiać pracę programistów i analityków, ale stwarzają także nowe zagrożenia. Opisywaliśmy już przypadki wykorzystywania autonomicznych agentów AI podczas cyberataków, które pokazują, jak szybko automatyzacja zmienia charakter działalności cyberprzestępczej.

Dodatkowym problemem są próby nakłonienia modeli do ignorowania instrukcji bezpieczeństwa, ujawniania informacji lub wykonywania działań, do których nie powinny mieć dostępu. Właśnie takie zachowania trzeba wykrywać podczas kontrolowanych testów, zanim odpowiednie rozwiązania trafią do milionów użytkowników.

OpenAI współpracuje już w podobnym zakresie z publicznymi instytucjami w Wielkiej Brytanii i Stanach Zjednoczonych. Polska dołącza więc do międzynarodowych prac, w których niezależni od producenta badacze pomagają identyfikować zagrożenia.

Amerykańska firma przekonuje, że same wewnętrzne testy nie wystarczą, aby zapewnić bezpieczeństwo przyszłych systemów AI. Potrzebne są także wspólne standardy oceny modeli, analizowania ryzyka i zgłaszania incydentów, które pozwolą porównywać wyniki badań prowadzonych w różnych krajach.

Tom Duff Gordon, odpowiedzialny w OpenAI za politykę publiczną w regionie EMEA, podkreślił, że spojrzenie badaczy spoza firmy pomaga kwestionować przyjęte założenia i udoskonalać zabezpieczenia. Polscy naukowcy mają wnieść do tych prac własne doświadczenie związane m.in. z cyberbezpieczeństwem i wykrywaniem treści generowanych przez AI.

Przeczytaj także:

Znaczenie takich badań rośnie również wraz z upowszechnianiem autonomicznych asystentów. Pisaliśmy już o ostrzeżeniach dotyczących agentów AI, którym użytkownicy powierzają dostęp do swoich kont, dokumentów i usług. W takim środowisku błędna decyzja modelu może wywołać rzeczywiste skutki poza oknem rozmowy.

Na razie nie ujawniono budżetu partnerstwa, szczegółowego harmonogramu badań ani zasad dostępu polskich specjalistów do przyszłych modeli. Samo porozumienie nie jest również oczywiście gwarancją, że wszystkie zagrożenia zostaną wyeliminowane, ale na pewno jest dużym krokiem do tego, by było ich mniej.

*Źródło grafiki wprowadzającej: Billion Photos, Canva Pro / photo_Pawel, Getty Images, Canva Pro