Robot-żołnierz nie musi nienawidzić. Wystarczy, że prawidłowo wykona rozkaz

Wojna w Ukrainie jest prawdziwym poligonem doświadczalnym dla technologii wojskowych. Drony stały się już symbolem tego konfliktu, ale pradziwa rewolucja militarna nadchodzi. To kroczące, humanoidalne roboty, zaawansowane systemy analizy pola walki. Przyszła wojna rozegra się przed ekranami.

Robot-żołnierz nie musi nienawidzić. Wystarczy, że prawidłowo wykona rozkaz

W czarno-białym odcinku "Metalhead" z serialu "Black Mirror" kobieta ucieka przed mechanicznym psem. Maszyna nie wygłasza manifestu, nie obiecuje zemsty i nie wyjaśnia, dlaczego ściga akurat ją. Słychać kroki, widać sylwetkę napastnika i wysiłek człowieka, który próbuje zniknąć z pola jego widzenia. Groza bierze się również z nieobecności kogoś, do kogo można by się zwrócić. Gdyby bohaterka stanęła przed żołnierzem, mogłaby przynajmniej podnieść ręce. Psu nie ma jak wytłumaczyć, że się poddaje.

To, co w serialu jest niemal abstrakcyjnym koszmarem, na nagraniach z chińskich ćwiczeń wojskowych otrzymuje rozpoznawalny kształt: czworonożna maszyna biegnie obok żołnierzy, czasem ma na grzbiecie broń. Łatwo połączyć oba obrazy i ogłosić nadejście robotycznego łowcy. Byłby to jednak skrót myślowy. Pokazy nie dowodzą, że uzbrojone roboty samodzielnie wybierają ludzi, do których strzelą. Pozwalają za to zapytać, co właściwie zostaje przekazane urządzeniu, kiedy człowiek każe mu wykonać zadanie.

Kino przyzwyczaiło nas do innej odpowiedzi. W "Terminatorze” zagrożenie ma źródło w systemie, który obraca się przeciw swoim twórcom. Ludzie uruchamiają technologię, a następnie tracą nad nią władzę. Rzeczywista automatyzacja przemocy może być trudniejsza do sfotografowania. Program może zgodnie z poleceniem przetworzyć nieaktualne dane, błędnie oznaczyć obiekt i podsunąć człowiekowi rozwiązanie prowadzące do katastrofy. W takim scenariuszu maszyna nie musi się buntować. Problem zaczyna się od tego, jakie informacje i zasady działania otrzymała.

Pies w kadrze

"Metalhead" działa właśnie dlatego, że oszczędza wyjaśnień. Czerni i bieli nie należy traktować wyłącznie jako efektownej stylizacji: obraz wydobywa sylwetkę, ruch, odległość między ścigającym a ściganą. Robotyczny pies odnajduje trop, wraca, kontynuuje. Możemy odczytać ten pościg jako skrajny obraz procedury, której nikt nie zatrzymuje, choć człowiek na jej końcu ma własną historię. Nie wiemy, kto ustanowił reguły tej procedury. I właśnie ta luka zostaje z widzem po seansie.

Filmowa prostota może jednak zwodzić, gdy zaczynamy opisywać prawdziwe roboty. Kształt czworonoga ułatwia poruszanie się tam, gdzie koła mają kłopot, ale sam nie mówi nic o sposobie podejmowania decyzji. Maszyna może być prowadzona przez operatora, iść wyznaczoną trasą, rozpoznawać teren, przenosić zapasy albo mieć zamontowany karabin, którego użycie pozostaje w rękach człowieka. Każdy z tych przypadków wymaga innych pytań. Broń widoczna na grzbiecie robota nie jest dowodem, że jego oprogramowanie dostało prawo wyboru celu.

W artykule naukowym "Military robots should not look like humans" Kamil Mamak i Kaja Kowalczewska analizują konsekwencje nadawania robotom wojskowym ludzkiej postaci. Taka sylwetka przyciąga spojrzenie, bo można w niej zobaczyć nowego żołnierza. Skupienie na jego twarzy i chodzie łatwo jednak odwraca uwagę od decyzji konstruktorów i dowódców. Pies z "Metalhead" uruchamia podobny odruch, choć nie ma ludzkiej twarzy: nadajemy mu rolę drapieżnika. Przy prawdziwym sprzęcie warto spojrzeć także na ekran operatora, warunki testów i instrukcję użycia.

Chiny w trybie przyszłym

We wrześniu 2026 roku Reuters przeanalizował ponad sto chińskich dokumentów: ogłoszeń zakupowych, prac badawczych, patentów i materiałów instytucji związanych z wojskiem. Wyłania się z nich zainteresowanie humanoidami, które mogłyby rozpoznawać teren, przenosić wyposażenie i pomagać żołnierzom w niebezpiecznych miejscach. Jedna z prac modeluje szturm na budynek z udziałem ludzi i różnych robotów. Model dotyczy sprzętu przewidywanego na następne pięć do dziesięciu lat. Autorzy nie wyjaśniają w nim, jak maszyny miałyby postępować z cywilami ani kto decydowałby o strzale.

To różnica między projektem a wydarzeniem. Reuters nie znalazł dowodu, że uzbrojony humanoid służy już w operacyjnej jednostce chińskiej armii. Poza pokazami pozostają trudności z energią, niezawodnością i poruszaniem się w nieprzewidywalnym otoczeniu. Można zaprojektować scenariusz wejścia do pokoju; trudniej sprawić, by robot rozpoznał gruz pod stopami, nie zgubił orientacji w dymie i prawidłowo ocenił człowieka, który pojawi się w drzwiach. Papierowa wizja operacji nie jest opisem przeprowadzonej operacji.

W przypadku czworonogów materiał jest bardziej namacalny. Chińskie media państwowe pokazywały uzbrojone maszyny Unitree podczas ćwiczeń. Reuters opisał też wojskowe zainteresowanie robotami, które miałyby wspólnie prowadzić rozpoznanie i wykrywać zagrożenia. Nie ustalił, czy opisane zamówienie zrealizowano, ani czy pies z pokazu samodzielnie decydował o strzale. 

"To pokaz siły technologii, a także oddziaływanie wręcz w ramach operacji psychologicznych (PSYOPS)" – pisze w odpowiedzi na pytania dr Jacek Raubo, badacz bezpieczeństwa z UAM i szef działu analiz Defence24. Skrót PSYOPS oznacza działania służące oddziaływaniu na sposób myślenia i zachowanie odbiorców. Obraz z ćwiczeń pokazuje ambicje armii, lecz nie ujawnia kodu i reguł użycia siły.

Gry wojenne

Żeby zobaczyć, jak automatyzacja wchodzi w wojnę, lepiej zejść z sali pokazowej na ukraiński front. Tam bohaterem nie jest dwunożny żołnierz z metalu. Jest nim często mały dron używany do rozpoznania albo ataku. Krzysztof Nieczypor i Sławomir Matuszak z Ośrodka Studiów Wschodnich opisują bezzałogowce jako masowe narzędzie walki w analizie "Gra o dron. Produkcja i zastosowanie ukraińskich bezzałogowych statków powietrznych pola walki".

Raubo podkreśla, że armie potrzebują zarazem droższych systemów do złożonych misji i wielu tanich urządzeń na szczeblu taktycznym. Jak zauważa, "wojna generuje potrzeby na szybką modyfikację środków już zastosowanych". O przewadze decyduje więc także zdolność produkcji, wymiany sprzętu i uczenia się po każdym starciu.

Dron nie jest z definicji bronią autonomiczną. Może prowadzić go operator, a oprogramowanie może pomagać tylko w nawigacji. Reuters opisał w lipcu 2026 roku finansowanie przez Niemcy 50 tysięcy ukraińskich dronów uderzeniowych Shrike wyposażanych w program, który ma sam śledzić i trafić poruszający się cel w końcowej fazie lotu. Ta informacja mówi coś konkretnego o ostatnich sekundach lotu; nie dowodzi, że taki dron sam wybrał, kogo zaatakować. Wcześniejsze wskazanie celu mogło należeć do człowieka. Według Raubo presja na automatyzację rośnie między innymi z powodu zakłócania łączności i coraz głębszych stref zagrożenia.

Przyjmijmy prosty scenariusz, bez przypisywania go jakiemukolwiek opisanemu atakowi. Operator wskazuje pojazd na ekranie. Dron przejmuje jego śledzenie. Pojazd skręca, a w pobliżu pojawia się osoba cywilna. Operator nie wie, czy program nadal rozpoznaje właściwy obiekt. Czy może odwołać atak? Co maszyna zrobi po utracie sygnału? Odpowiedź zależy od projektu i warunków misji. Dr Kaja Kowalczewska z Uniwersytetu Wrocławskiego podkreśla, że automatyczne śledzenie celu wcześniej rozpoznanego i zatwierdzonego przez człowieka jest jakościowo inną sytuacją niż samodzielny wybór celu przez system. Granica przebiega wcześniej, przy identyfikacji i zatwierdzeniu ataku.

Ekran nad frontem

Na ukraińskim froncie ważniejszy od humanoida okazuje się mały dron. Krzysztof Nieczypor i Sławomir Matuszak z Ośrodka Studiów Wschodnich opisują bezzałogowce jako masowe narzędzie walki. Ich dostępność zmieniła rozpoznanie: obserwację można szybko przekazać operatorowi i powiązać z działaniem innych jednostek.

Dr hab. inż. Paweł Wawrzyński, prof. Instytutu Badawczego IDEAS, opisuje tempo pracy operatorów dronów FPV, którzy widzą obraz z kamery w goglach. Według jego relacji po rozpoznaniu celu atak może nastąpić od razu; czasem dron uderzeniowy dociera w ciągu około kwadransa. Nie jest to uniwersalny czas dla całego frontu. Pokazuje jednak, jak krótki bywa odstęp między obserwacją a decyzją.

Raubo zwraca uwagę na drugi wymiar tej wojny. Armie potrzebują drogich systemów do złożonych misji, ale też wielu tanich urządzeń używanych na szczeblu taktycznym. "Wojna generuje potrzeby na szybką modyfikację środków już zastosowanych" – zauważa. Liczą się produkcja, wymiana utraconego sprzętu i poprawki wprowadzane po starciu.

Wawrzyński studzi wyobrażenia o powszechnej samodzielności dronów: „Ale na razie standardem jest zdalne sterowanie przez operatora”. Autonomia może dotyczyć nawigacji lub utrzymywania wskazanego obiektu w obrazie, bez prawa wyboru, kogo zaatakować.

Reuters opisał w lipcu 2026 roku niemieckie finansowanie 50 tysięcy ukraińskich dronów Shrike z oprogramowaniem firmy Auterion, zaprojektowanym do śledzenia i trafiania poruszającego się celu w ostatniej fazie lotu. To doniesienie o określonej funkcji i dostawach, nie dowód samodzielnego wyboru celu przez urządzenie. Ocena skali bojowego użycia takich funkcji wymaga odrębnych danych.

Dla Wawrzyńskiego ważna jest też różnica techniczna. „Śledzenie nie wymaga dokładnego modelu śledzonego obiektu” – wyjaśnia. Program szuka na kolejnych klatkach tego, co człowiek już wskazał. Wybór celu wymaga przejrzenia całego obrazu i znalezienia obiektu pasującego do wzorca. W obu przypadkach może pracować ten sam rodzaj algorytmu widzenia maszynowego, ale człowiek powierza mu inne zadanie.

Wyobraźmy sobie sytuację, której nie przypisujemy żadnemu opisanemu atakowi. Operator wskazuje pojazd. Dron przejmuje śledzenie; pojazd skręca, a obok pojawia się cywil. Czy program nadal utrzymuje właściwy obiekt? Czy operator widzi zmianę i może odwołać atak? Odpowiedź zależy od konstrukcji systemu oraz warunków misji. Dr Kaja Kowalczewska z Uniwersytetu Wrocławskiego podkreśla, że automatyczne śledzenie celu wcześniej rozpoznanego i zatwierdzonego przez człowieka jest jakościowo inną sytuacją niż samodzielny wybór celu przez maszynę. Najważniejsza granica przebiega przy identyfikacji i zatwierdzeniu ataku.

Dane przed startem

Robot może pojawić się w procesie wcześniej niż dron. Ukraiński system DELTA gromadzi obraz sytuacji, a jego moduł Mission Control pomaga koordynować misje bezzałogowców i analizować dane o ich przebiegu. Program może uporządkować obrazy, mapy i meldunki, zanim dowódca zobaczy propozycję działania. Wykrycie obiektu na ekranie nie rozstrzyga jednak, czy jest on legalnym celem ataku.

CyberDefence24 opisał nagranie ze stanowiska dowodzenia ukraińskimi dronami dalekiego zasięgu. Według redakcji widać na nim system PRISMA firmy Palantir, trasy i współrzędne potrzebne do koordynowania działań. Obraz ekranu nie pozwala stwierdzić, czy program rekomenduje cele ani kto je zatwierdza. Lepiej udokumentowana jest inna współpraca: ukraińskie ministerstwo obrony podało, że Brave1 Dataroom, zbudowany przy udziale Palantira, udostępnia zbiory obrazów i danych termicznych do trenowania oraz sprawdzania modeli wykrywających zagrożenia powietrzne, w tym drony typu Shahed. Komunikat opisuje zaplecze rozwoju AI, nie przebieg konkretnego ataku.

Dane mogą być stare, źle opisane albo zbyt ubogie, by pokazać to, co znajduje się poza kadrem. Kto sprawdził datę zdjęcia? Kto uznał, że oznaczenie w bazie nadal jest prawdziwe? Kto zdecydował, które ostrzeżenia program pokaże operatorowi? Błąd na tym etapie może przejść przez wszystkie następne, choć sama maszyna w locie działa dokładnie tak, jak ją zaprogramowano.

Ukraińska armia rozwija także własny ekosystem DELTA. Gromadzi on dane z wielu źródeł, pomaga tworzyć obraz sytuacji i wymieniać informacje między jednostkami. Jego moduł Mission Control służy do planowania i analizowania misji dronów; platforma Avengers wspiera wykrywanie sprzętu na obrazach. To odrębne funkcje. Znalezienie na nagraniu obiektu podobnego do czołgu nie rozstrzyga jeszcze, czy jest to właściwy cel i czy wolno go zaatakować.

Takie systemy zależą od jakości danych: obrazu wykonanego o określonej godzinie, poprawnie opisanej lokalizacji, wiarygodnego meldunku. Informacja może być stara albo wyjęta z kontekstu; model może dobrze rozpoznawać sprzęt na zbiorze testowym i pomylić się w innych warunkach. Analizy Międzynarodowego Komitetu Czerwonego Krzyża oraz SIPRI opisują, jak błąd potrafi przejść od rozpoznania do rekomendacji, a po ataku wrócić do kolejnego zbioru danych. Istotne jest więc pytanie, czy dowódca widzi źródła, ograniczenia i poziom niepewności wyniku oraz ma czas, by sprawdzić inną wersję zdarzeń.

Samodzielność, ale jaka

Dla porządku rozróżnijmy trzy przykładowe sytuacje; nie jest to formalna klasyfikacja każdego drona. W pierwszej człowiek prowadzi maszynę zdalnie i sam decyduje o użyciu broni. W drugiej wskazuje konkretny obiekt, a oprogramowanie pomaga go śledzić. W trzeciej uruchamia system w określonym obszarze i czasie, po czym urządzenie bez dalszej interwencji wybiera cele i je atakuje. Międzynarodowy Komitet Czerwonego Krzyża określa systemy autonomiczne przez tę zdolność do wyboru i rażenia celu po uruchomieniu. O samodzielności mówią więc przekazane funkcje, a nie kształt obudowy.

Wawrzyński zauważa, że operator zwykle podlatuje bliżej domniemanego celu, bo nie chce stracić drona bez efektu. Obraz z kamery pomaga w rozpoznaniu, lecz nie zawiera całego kontekstu. Osoba może być ranna albo się poddawać; pojazd może zatrzymać się przy cywilach. Zawartość kadru nie wystarczy wtedy do oceny dopuszczalności ataku. Pod presją czasu człowiek potrzebuje także innych informacji, a nie tylko wyraźniejszego obrazu.

Prawo konfliktów zbrojnych wymaga odróżniania celów wojskowych od cywilów, oceny przewidywanych szkód ubocznych w stosunku do konkretnej korzyści wojskowej i podjęcia wykonalnych środków ostrożności. Kowalczewska przypomina, że proporcjonalność "nie jest przecież prostym działaniem matematycznym". Jeśli system po uruchomieniu sam identyfikuje cel i doprowadza do ataku, prawniczka nie widzi dziś sposobu, by wiarygodnie zagwarantować przestrzeganie tych zasad. To jej ocena obecnych możliwości AI; obowiązki prawne nadal obciążają ludzi.

Nie trzeba jednak ręcznie sterować każdym ruchem. "To identyfikacja i zatwierdzenie celu jako legalnego celu ataku powinny, moim zdaniem, pozostać po stronie człowieka" – mówi Kowalczewska. Taka kontrola wymaga czasu, odpowiednich informacji oraz możliwości odrzucenia podpowiedzi programu. Gdy operator nadzoruje wiele ekranów, techniczny przycisk przerwania działania może nie wystarczyć. "Przycisk «abort» sam w sobie nie tworzy meaningful human control" – zauważa badaczka. Znaczenie ma również szkolenie w rozpoznawaniu błędów i własnej skłonności do nadmiernego zaufania maszynie.

Kto znajduje się poza kadrem

W "RoboCopie" przemoc ma innego gospodarza. Detroit Paula Verhoevena oddaje policję w ręce korporacji Omni Consumer Products. Alex Murphy, zabity funkcjonariusz przywrócony do służby w mechanicznym ciele, pozostaje bohaterem. Film każe jednak patrzeć także na firmę, dla której bezpieczeństwo jest interesem, a człowiek częścią produktu. Zbroja nie wyjaśnia, kto ustalił zasady jej działania.

Za robotem stoją budżet, kontrakt, specyfikacja i hierarchia. Kowalczewska proponuje cofnąć się dalej: do analizy danych oraz listy potencjalnych celów. Jak pisze w komentarzu przekazanym autorowi, maszyna wykonująca kinetyczny atak jest "w pewnym sensie tylko wisienką na torcie". AI może wcześniej klasyfikować obiekty, ustalać priorytety i rekomendować broń. Człowiek formalnie zatwierdzi atak, lecz jego osąd będzie zależał od informacji, które dostał, i czasu na ich sprawdzenie.

Dr Dominika Iwan-Sojka z Uniwersytetu Śląskiego poświęciła książkę odpowiedzialności przemysłu zbrojeniowego za śmiercionośne systemy autonomiczne. W projekcie oprogramowania i doborze danych do testów zapadają decyzje, które mogą później wpłynąć na działanie sprzętu. Państwo określa wymagania i warunki użycia; dowódca wydaje rozkazy; operator działa na podstawie dostępnych informacji. Raubo akcentuje odpowiedzialność wojskowego łańcucha dowodzenia za użycie systemu. Kowalczewska przypomina, że tragiczny skutek sam nie dowodzi indywidualnej odpowiedzialności karnej: trzeba ustalić, co konkretna osoba wiedziała, co mogła sprawdzić i czy spełnione są przesłanki danego przestępstwa.

Bezprawnego rozkazu nie uzdrowi poprawne działanie maszyny. Gdy rozkaz był zgodny z prawem, ale sprzęt zawiódł w warunkach, o których producent nie uprzedził wojska, pytania będą inne. Kowalczewska obawia się pogłębienia istniejącej luki odpowiedzialności: krzywda będzie oczywista, lecz trudno okaże się wykazać, kto rozpoznał wadliwe dane i kto powinien był je zakwestionować. Do pytania o osobę wydającą rozkaz dochodzi pytanie o projekt, testy i informacje o ograniczeniach systemu.

Reguły bez wspólnego finału

Dr Szymon Zaręba z Polskiego Instytutu Spraw Międzynarodowych wyjaśnia, że państwa rozmawiają o broni autonomicznej przede wszystkim w ramach konwencji CCW. W negocjacjach przyjęto roboczy opis oparty na zdolności systemu do samodzielnego wyboru i zaatakowania celu bez interwencji człowieka. Nie uznano, że musiałby dodatkowo uczyć się podczas działania. Sporne pozostają obowiązki przy projektowaniu broni, wymagania dotyczące przewidywalności i możliwość przerwania ataku. Polska, podobnie jak część sojuszników NATO, opowiada się za niewiążącymi zasadami wyjaśniającymi stosowanie istniejącego prawa.

"Generalnie w razie nieprzyjęcia wspólnych zasad granice autonomii systemów będą wyznaczały przede wszystkim państwa" – mówi Zaręba.

Raubo przypomina, że dron nie zastępuje artylerii; przeciwnik szuka sposobów jego zwalczania. Odpowiedzią na rozwój autonomii są więc także testy, szkolenie i współpraca wojska z producentem. Wawrzyński opisuje dziś pole walki, na którym "standardem jest zdalne sterowanie przez operatora", lecz tempo zmian może być duże. Przepisy i wojskowe procedury muszą odnosić się do rzeczywistych funkcji systemu, również wtedy, gdy ta sama platforma po aktualizacji oprogramowania potrafi więcej niż wcześniej.

"Metalhead" zostawia nas z obrazem mechanicznego psa. "RoboCop" prowadzi do ludzi, którzy określili jego zadanie. Dziś robot może nie mieć sylwetki: może być programem, który porządkuje dane i podsuwa człowiekowi cel jeszcze przed startem drona. Jeśli po ataku nie da się ustalić, skąd pochodziły informacje, kto znał ograniczenia narzędzia i kto mógł zmienić decyzję, problem zaczął się przed uderzeniem. Maszyna mogła prawidłowo wykonać rozkaz. Człowiek musi umieć wyjaśnić, dlaczego właśnie taki rozkaz wydał.