Wpuścili AI do tajnych danych armii. Ma działać nawet pod ostrzałem
Ta AI właśnie dostała dostęp do tajnych danych armii USA. Ma działać nawet wtedy, gdy internet przestaje istnieć.
Sztuczna inteligencja coraz śmielej wchodzi do wojska i przestaje być tylko elementem prezentacji o przyszłości pola walki. US Navy dopuściła platformę EdgeRunner OS do pracy z danymi niejawnymi do poziomu Secret. Najciekawsze jest jednak nie samo wykorzystanie AI, ale sposób jej działania. System ma pracować lokalnie, bez stałego dostępu do internetu, bez wysyłania danych do publicznej chmury i nawet wtedy, gdy łączność jest ograniczona albo całkowicie niedostępna.
To nie jest tylko chatbot dla żołnierzy
EdgeRunner AI otrzymał właśnie od US Navy akredytację Impact Level 6 Authority to Operate. W amerykańskim systemie bezpieczeństwa informacyjnego IL6 oznacza środowisko przeznaczone do przetwarzania informacji niejawnych do poziomu Secret. To już nie są zwykłe dokumenty administracyjne, publiczne raporty czy ogólne dane szkoleniowe. To kategoria, w której pojawiają się informacje operacyjne, wrażliwe systemy i materiały wymagające bardzo ścisłej kontroli dostępu.
Authority to Operate, w skrócie ATO, to formalna zgoda na uruchomienie systemu w określonym środowisku po przejściu procedur bezpieczeństwa. Dla firmy technologicznej oznacza to wejście przez jedną z najtrudniejszych bram w amerykańskiej obronności. Dla marynarki oznacza możliwość wpinania takiego narzędzia w bardziej wrażliwe procesy.
EdgeRunner OS został też wpisany do DADMS, czyli rejestru aplikacji, systemów i technologii zatwierdzonych dla Departamentu Marynarki. Bez takiego formalnego dopuszczenia nawet ciekawa technologia pozostaje jedynie demonstratorem albo rozwiązaniem do testów na mniej wrażliwych danych. Mówimy tu więc o przejściu do kategorii, w której AI może zacząć pracować na materiałach, których nie wolno po prostu wkleić do zwykłego narzędzia w chmurze.
To właśnie lokalne działanie robi największą różnicę
Cała idea EdgeRunnera opiera się na sztucznej inteligencji działającej na urządzeniu albo w lokalnej infrastrukturze, a nie na stałym połączeniu z dużym centrum danych. W cywilnym świecie przyzwyczailiśmy się do tego, że chatboty i modele AI działają na zewnętrznych serwerach, często w dużych centrach danych rozsianych po świecie. Użytkownik wpisuje pytanie, dane lecą do chmury, model generuje odpowiedź, wynik wraca na ekran.
W warunkach wojskowych taki model działania ma jednak bardzo istotne ograniczenia. Łączność nie zawsze jest dostępna, a w czasie konfliktu może być zakłócana, przechwytywana lub celowo ograniczana przez przeciwnika. Dodatkowo dane operacyjne i informacje niejawne nie mogą być swobodnie przesyłane przez komercyjną infrastrukturę. Znaczenie mają również opóźnienia – w sytuacjach operacyjnych dostęp do informacji musi być natychmiastowy, niezależnie od stanu połączenia z zewnętrznymi systemami.
Właśnie dlatego wojskowa AI coraz mocniej przesuwa się na tzw. tactical edge, czyli możliwie blisko użytkownika i miejsca działania. To może być okręt, stanowisko dowodzenia, baza wysunięta, pojazd, laptop w zabezpieczonej sieci albo lokalny serwer. Model ma działać tam, gdzie są dane i żołnierze, a nie tam, gdzie akurat stoi cywilne centrum danych.
DDIL, czyli wojna bez luksusu dobrego internetu
W komunikatach firmy pojawia się skrót DDIL (Denied, Disrupted, Intermittent and Limited). Termin ten opisuje środowiska operacyjne, w których łączność jest niedostępna, zakłócana, okresowo przerywana lub znacząco ograniczona.Oznacza to warunki, w których nie można zakładać stałego dostępu do sieci ani niezawodnej wymiany danych z systemami zewnętrznymi.
Dla marynarki to niestety codzienny problem. Okręt operujący daleko od brzegu nie może zakładać, że zawsze będzie miał szerokopasmową, stabilną i bezpieczną łączność. W warunkach konfliktu przeciwnik będzie próbował zakłócać satelity, łącza radiowe, GPS, przesył danych i systemy dowodzenia. Im bardziej armia uzależnia się od danych, tym bardziej przeciwnik będzie uderzał w kanały ich przesyłu.
AI działająca lokalnie ma ograniczać tę zależność od zewnętrznej infrastruktury. Gdy model, dokumentacja, procedury, mapy, instrukcje i bazy wiedzy są dostępne bezpośrednio w miejscu prowadzenia działań, system może funkcjonować również przy zerwanej lub ograniczonej łączności. Pozwala to uniknąć konieczności przesyłania danych do odległych centrów przetwarzania, zmniejsza opóźnienia i ogranicza ryzyko związane z opuszczaniem przez wrażliwe informacje zabezpieczonego środowiska.
Zwykła chmura tu po prostu nie wystarczy
Cywilna sztuczna inteligencja bardzo często działa w oparciu o wielkie centra danych. To logiczne: duże modele wymagają ogromnych zasobów obliczeniowych, a użytkownik końcowy nie musi mieć potężnego sprzętu. Dla firm, szkół, redakcji czy konsumentów to wygodne. Dla wojska bywa niewystarczające.
Wrażliwe dane nie mogą być wysyłane do dowolnej infrastruktury. Systemy niejawne muszą działać w środowiskach o określonym poziomie zabezpieczeń. Do tego dochodzi problem suwerenności, łączności, kosztów, opóźnień i odporności na zakłócenia. W czasie pokoju chmura jest wygodna. W czasie wojny może stać się wąskim gardłem albo punktem zależności.
EdgeRunner stawia na mniejsze, wyspecjalizowane modele działające lokalnie. Firma chwaliła się modelem EdgeRunner 20B, szkolonym na danych wojskowych i dokumentacji specjalistycznej. Zamiast ogromnego uniwersalnego modelu, który wie po trochu o wszystkim, wojsko może potrzebować modelu mniejszego, ale lepiej dopasowanego do własnego języka, procedur i zadań.
To trochę jak różnica między ogólną encyklopedią a doświadczonym oficerem sztabowym. Encyklopedia zawiera mnóstwo informacji na różne tematy, ale specjalista zna realia działania organizacji, rozumie używane skróty, orientuje się w dokumentach i procedurach oraz wie, z jakimi problemami ludzie mierzą się na co dzień.
Tajne dane są paliwem i jednocześnie największym ryzykiem
Wejście AI do danych Secret jest przełomowe właśnie dlatego, że dane są paliwem takich systemów. Model bez dostępu do dokumentów, raportów i baz wiedzy jest tylko ogólnym narzędziem. Model dopuszczony do pracy w zabezpieczonym środowisku może odpowiadać na pytania dotyczące realnych procedur, planów, zdolności i ograniczeń.
To jednak jednocześnie największe ryzyko. AI może pomóc szybciej znaleźć informację, ale może też błędnie ją streścić, pomieszać źródła, wygenerować zbyt pewną odpowiedź albo ukryć niepewność za gładkim językiem. W cywilnym zastosowaniu taki błąd bywa po prostu irytujący. W środowisku wojskowym może prowadzić do złej decyzji operacyjnej.
Przeczytaj także:
Najważniejsze nie będzie więc to, czy EdgeRunner potrafi rozmawiać jak człowiek. Ważniejsze będzie, czy potrafi wskazywać źródła, działać przewidywalnie, respektować uprawnienia dostępu, nie mieszać poziomów klasyfikacji i pozostawiać ślad audytowy. W wojsku odpowiedź bez możliwości sprawdzenia jest mało warta, nawet jeśli brzmi świetnie.
*Źródło grafiki wprowadzającej: Canva Pro
Dziennikarz działu Technologie. O smartfonach i nowych technologiach zaczął pisać jeszcze w 2012 r. na łamach portalu Telix. Później przez pewien czas pisał dla KomputerŚwiat i dla nieistniejącego już PCLabu. Epizod dziennikarski zaliczył także w lokalnej gazecie i w dziale blogowym SpeedTest. Copywriter techniczny, motoryzacyjny i technologiczny. Współzałożyciel agencji marketingowej BlueCopy, zajmującej się copywritingiem i poligrafią. Przez pewien czas właściciel firmy transportowej. Prywatnie fan starych polskich oper mydlanych (oglądanych obowiązkowo z konkubiną), dumny opiekun kotki brytyjskiej i pasjonat-amator druku 3D.