Maszyna sama wybrała cel i zabiła. Ten dzień zapisze się w historii

Wojna w Ukrainie właśnie trafia do światowej historii, z kolejnego już powodu. Po raz pierwszy potwierdzono śmierć cywilów z rąk rosyjskiego drona, który sam wybrał cel i sam podjął decyzję o ataku. Bez operatora i ostatniego potwierdzenia. W środku - moduł Nvidia Jetson Orin, czyli sprzęt, który normalnie służy do robotów przemysłowych, pojazdów autonomicznych czy studenckich projektów z widzeniem maszynowym.

To wydarzyło się 6 lipca w Zaporożu.

Czytaj też:

Jak opisują ukraińscy śledczy, dron przypominający niewielki samolot zniżył lot, próbując dostać się do wnętrza stacji benzynowej. Nie udało mu się ominąć budynku, więc eksplodował na ścianie. Zginęły trzy osoby: 19-letnia studentka Tetiana Bubyniec oraz dwaj mężczyźni, Ołeksij Swirin i Roman Karpii.

Wszystko wskazuje na to, że dron nie tylko leciał w kierunku stacji jako punktu nawigacyjnego- maszyna rozpoznawała obiekty, szukała propanu, analizowała obraz i podejmowała decyzję na podstawie priorytetów, które wcześniej wgrano do jego komputera pokładowego.

Nvidia Jetson Orin to niewielki komputer o mocy wystarczającej do uruchamiania modeli rozpoznawania obrazu. To sprzęt, który Nvidia reklamuje jako „najpotężniejszy komputer AI dla rozwiązań wbudowanych na świecie”. Zazwyczaj służy jako komponent robotów magazynowych, kontroli jakości w fabrykach czy autonomicznych pojazdów.

W dronach znalezionych w Zaporożu moduły były nieuszkodzone na tyle, że śledczy mogli odczytać dane: zdjęcia terenu, algorytmy nawigacji, a nawet zestaw obiektów, które system miał rozpoznawać. Wśród nich - stacje benzynowe i zbiorniki z propanem.

Nvidia zapewnia, że nie sprzedaje Jetsonów do Rosji, a sprzęt musiał trafić tam przez rynek wtórny. Firma podkreśla, że to urządzenia konsumenckie, dostępne dla studentów i startupów, i że nie są projektowane z myślą o zastosowaniach wojskowych.

Problem w tym, że w praktyce nie da się kontrolować, gdzie trafiają po odsprzedaży.

Według ukraińskich służb Rosja zaczęła testować autonomiczne drony Molniya już w maju. Wcześniej eksperymentowała z modelem V2U, który początkowo wykorzystywał AI tylko w finalnym podejściu do celu.

Teraz testy obejmują pełną autonomię - od startu, przez nawigację, aż po wybór celu.

Ukraińskie służby twierdzą, że moduł Jetson Orin znaleziono również w nowym typie rosyjskiego pocisku S-71M Monochrome, który również ma wykorzystywać AI do naprowadzania na cel.

Warto dodać, że Ukraina również testowała autonomiczne systemy AI - były używane w okupowanym Krymie, gdzie miały atakować składy paliw i sprzęt wojskowy. Według byłego ministra obrony Mychajła Fedorowa nie zginęli tam cywile. W Zaporożu natomiast mieszkańcy próbują bronić się przed AI w sposób, który brzmi jak scenariusz z cyberpunkowego filmu:

To wojna, w której nie tylko żołnierze, ale i cywile muszą myśleć o tym, jak wygląda ich miasto w oczach algorytmu.

To moment, który wejdzie do podręczników historii technologii. Nie dlatego, że w dronie był Jetson Orin. Nie dlatego, że Nvidia nie była w stanie kontrolować rynku wtórnego. Dlatego, że po raz pierwszy maszyna - nie człowiek - podjęła decyzję o zabiciu cywilów. I zrobiła to na podstawie danych, obrazów i algorytmów, które ktoś wcześniej wgrał do jej pamięci. To nie jest przyszłość. To jest teraźniejszość.

*Zdjecia na The New York Times