Maszyna sama zdecyduje, kogo zabić. Mocarstwa nie chcą zakazu przerażającej broni
ONZ domaga się uregulowania broni, która sama wybiera i atakuje cele. USA proponują inne rozwiązanie, a Rosja nie chce wiążących ograniczeń.

Sztuczna inteligencja potrafi już rozpoznawać cele na polu walki, śledzić je i pomagać w naprowadzaniu uzbrojenia. Kolejny krok budzi znacznie większe kontrowersje: broń, która po uruchomieniu sama wybiera obiekt i przeprowadza atak, bez kolejnej zgody człowieka.
16 listopada w Genewie rozpoczyna się konferencja, podczas której państwa mają zdecydować, czy rozpocząć negocjacje prawnie wiążących ograniczeń dla autonomicznej broni. Stany Zjednoczone i Rosja nie chcą jednak takiego rozwiązania. A bez ich zgody może nie udać się nawet rozpocząć właściwych rozmów.
128 państw ma zdecydować, co wolno maszynie na wojnie
Od 16 do 20 listopada w Genewie odbywa się VII konferencja przeglądowa Konwencji o niektórych rodzajach broni konwencjonalnej (CCW). Jej uczestnicy zajmą się m.in. systemami LAWS, czyli śmiercionośną bronią autonomiczną. Chodzi o urządzenia zdolne po aktywacji samodzielnie wybierać i atakować cele, bez dalszej interwencji operatora.
Nie oznacza to oczywiście, że na pewno powstanie międzynarodowy zakaz takiej broni. Najpierw 128 państw-stron konwencji musi ustalić, czy w ogóle rozpocząć formalne negocjacje oraz jak długo powinny one potrwać. Przewodniczący rozmów zaproponował dwuletni mandat, którego celem byłoby przygotowanie prawnie wiążącego protokołu.
Największy problem polega na tym, że decyzje w ramach CCW wymagają konsensusu. Nawet jeśli zdecydowana większość państw chce ustanowienia nowych zasad, sprzeciw jednego uczestnika może zablokować wspólne stanowisko. Właśnie dlatego tegoroczna konferencja zapowiada się wyjątkowo trudno.
USA chcą 5 lat rozmów. Rosja również nie spieszy się do zakazów
Waszyngton przekonuje, że już istniejące międzynarodowe prawo humanitarne wyznacza zasady prowadzenia działań wojennych, także z użyciem autonomicznych systemów. Amerykanie proponują więc 5 lat rozmów nad niewiążącymi wytycznymi zamiast negocjacji traktatu wprowadzającego nowe zobowiązania prawne.
Rosja nie przedstawiła przed konferencją szczegółowego publicznego stanowiska, ale wcześniej sprzeciwiała się wiążącym ograniczeniom. Podobne zastrzeżenia zgłasza Izrael. Wielka Brytania, Niemcy i Francja proponują natomiast rozpoczęcie negocjacji bez przesądzania, czy ich końcowym rezultatem będzie prawnie wiążący dokument.
We wrześniu pisaliśmy już o sporze między USA, Rosją a pozostałymi państwami dotyczącym wojskowej AI. Wówczas oba mocarstwa przyczyniły się do osłabienia projektu wspólnego dokumentu. Teraz stawką jest decyzja, czy po latach dyskusji w ogóle rozpocząć tworzenie konkretnych międzynarodowych ograniczeń.
Autonomiczny dron to niekoniecznie dron, który sam zabija
Co ważne, bezzałogowiec, który automatycznie utrzymuje kurs albo śledzi obiekt wskazany wcześniej przez operatora, nie musi jeszcze być autonomiczną bronią w rozumieniu negocjowanych przepisów. Istotne jest to, czy system sam wybiera cel i podejmuje działania prowadzące do jego rażenia.
Granice autonomii na współczesnym polu walki analizowaliśmy już wcześniej na łamach portalu Spider’s Web. Nie każda taka broń wykorzystuje przy tym sztuczną inteligencję. Część działa według wcześniej zaprogramowanych reguł, ale coraz bardziej zaawansowane modele mogą umożliwiać wykonywanie zadań, których przebieg trudno dokładnie przewidzieć.
Międzynarodowy Komitet Czerwonego Krzyża domaga się przede wszystkim zakazania systemów nieprzewidywalnych oraz broni zaprojektowanej do samodzielnego atakowania ludzi. W przypadku pozostałych systemów proponuje ograniczenia dotyczące czasu działania, obszaru operacji i rodzaju celów. Nie chodzi zatem o całkowity zakaz wojskowej AI, lecz o ustalenie, jak daleko może sięgać samodzielność uzbrojenia.
Kto odpowiada, gdy algorytm zaatakuje niewłaściwy cel?
Największe obawy dotyczą błędów, których konsekwencji nie można już cofnąć. System może błędnie zaklasyfikować pojazd, nie rozpoznać cywila albo zareagować na sytuację inaczej, niż przewidzieli jego twórcy. Im mniej czasu i informacji ma operator, tym trudniej zapobiec takim pomyłkom.
Prawo konfliktów zbrojnych wymaga odróżniania celów wojskowych od cywilnych oraz oceny możliwych szkód ubocznych. Pojawia się więc pytanie, kto poniesie odpowiedzialność, jeśli maszyna przeprowadzi niedozwolony atak. Konstruktor, dowódca, operator, a może osoba zatwierdzająca użycie systemu? Odpowiedzialności prawnej nie można po prostu przenieść na algorytm.
Problem jest coraz bardziej aktualny. Na Ukrainie wykorzystuje się drony wyposażone w systemy automatycznego rozpoznawania i śledzenia celów. Utrudnienia w komunikacji radiowej zwiększają zainteresowanie ich samodzielnością, choć niezależne potwierdzenie przypadków całkowicie autonomicznego wyboru i zaatakowania celu pozostaje trudne.
W materiale Spider’s Web o robotach wojskowych eksperci zwracają uwagę, że samo zapewnienie operatorowi możliwości przerwania ataku nie oznacza jeszcze rzeczywistej kontroli nad działaniem maszyny. Człowiek musi również dysponować informacjami pozwalającymi ocenić, co robi system i dlaczego.
Polska też będzie musiała określić granice autonomii
Sprawa dotyczy również polskiego wojska, które inwestuje w bezzałogowce i systemy wykorzystujące AI. Jak wskazywał cytowany przez nas we wspomnianym wyżej tekście dr Szymon Zaręba z Polskiego Instytutu Spraw Międzynarodowych, Polska opowiada się za niewiążącymi zasadami doprecyzowującymi stosowanie obowiązującego prawa.
Konferencja zakończy się 20 listopada. Do tego czasu państwa mogą uzgodnić kompromis obejmujący wiążące i niewiążące rozwiązania albo ponownie zakończyć rozmowy bez przełomu. Na razie nie wiadomo, który scenariusz zwycięży.
Przeczytaj także:
Niezależnie jednak od wyniku spotkania rozwój autonomicznych systemów uzbrojenia nie zostanie zatrzymany. Brak międzynarodowego porozumienia oznaczałby, że szczegółowe granice ich stosowania nadal będą w dużej mierze ustalane przez poszczególne państwa. A od tego, jakie zasady przyjmą, może zależeć, kto w przyszłości będzie podejmował ostateczną decyzję o ataku.
*Grafika wprowadzająca wygenerowana przez AI
Redaktor Spider's Web specjalizujący się w tematyce naukowej. O nowych technologiach zaczął pisać w 2012 r. na łamach portalu Telix. Później współtworzył treści dla Komputer Świata i PCLabu. Epizod dziennikarski zaliczył także w lokalnej gazecie i w dziale blogowym SpeedTest. Współzałożyciel agencji BlueCopy, zajmującej się copywritingiem i poligrafią. Przez pewien czas właściciel firmy transportowej. Prywatnie fan starych polskich oper mydlanych (oglądanych obowiązkowo z konkubiną), dumny opiekun kotki brytyjskiej i pasjonat-amator druku 3D.