Maszyny nauczą się bólu. To dla ich "własnego dobra"

Uszkodzona łopata śmigła, niewielka asymetria, zużyty element albo trudniejsze warunki lotu mogą przez chwilę nie dawać oczywistych objawów. Dron nadal utrzymuje się w powietrzu, wykonuje polecenia i sprawia wrażenie sprawnego. Problem w tym, że jego układ sterowania pracuje już coraz bliżej granicy.

Właśnie tę granicę próbowali uchwycić badacze z Holandii. Zamiast budować dokładny model fizyczny każdego drona i każdej możliwej awarii, sięgnęli po pomysł z zupełnie innej dziedziny: ekologii. Tam od lat bada się zjawisko krytycznego spowolnienia. Oznacza ono sytuację, w której system po zaburzeniu wraca do równowagi coraz wolniej. Las po suszy odradza się dłużej. Jezioro po zanieczyszczeniu wolniej wraca do poprzedniego stanu. Ekosystem z zewnątrz może wyglądać jeszcze dobrze, ale jego odporność już słabnie.

Ten sam mechanizm można przełożyć na maszynę. Jeżeli dron po drobnym zaburzeniu potrzebuje coraz więcej czasu, by wrócić do stabilnego lotu, to znaczy, że coś zaczyna być nie tak. Nie trzeba jeszcze znać dokładnej przyczyny. Wystarczy wiedzieć, że system przestaje reagować tak sprężyście jak wcześniej.

Jak pisaliśmy w tekście: Airbus wyrzuca pilota ze śmigłowca. H145 będzie latał bez załogi, bezzałogowe maszyny coraz częściej wychodzą poza kategorię małych latających zabawek. Jeśli autonomiczny śmigłowiec ma przewozić ładunki albo wykonywać zadania w miejscach niebezpiecznych dla człowieka, musi nie tylko latać, ale też rozumieć, kiedy przestaje latać bezpiecznie.

Metafora bólu działa na wyobraźnię, ale łatwo ją potraktować zbyt dosłownie. Ten ból nie ma nic wspólnego z emocjami ani świadomością. Dron nie cierpi, nie panikuje i nie zastanawia się nad swoim losem. Zamiast tego ma zestaw czujników, silników i kontroler lotu, które bez przerwy produkują strumień danych. To właśnie w tych liczbach kryje się sygnał ostrzegawczy – subtelny, ale wystarczający, by powiedzieć: coś zaczyna iść nie tak.

W badaniu chodziło o wychwycenie subtelnych zmian w zachowaniu całego układu. Naukowcy analizowali m.in. prędkości rotorów, czyli wirujących elementów odpowiedzialnych za ciąg. Jeżeli dron musi coraz mocniej i bardziej nerwowo korygować pracę silników, by utrzymać tę samą stabilność, to jest to informacja podobna do bólu w organizmie. Coś nadal działa, ale ciało lub maszyna zaczyna ostrzegać: nie rób tego tak jak wcześniej.

Najważniejsze jest to, że metoda nie wymaga perfekcyjnego modelu danego drona. To duża zaleta, bo klasyczne podejście inżynierskie często zakłada, że znamy maszynę, jej masę, aerodynamikę, stan elementów i przewidywalne reakcje na sterowanie. Tyle że prawdziwy świat bywa mniej elegancki. Śmigło może być nadłamane. Wiatr może się zmienić. Masa ładunku może być rozłożona nierówno. Części mogą się starzeć inaczej, niż zakładał producent.

Tu system patrzy na zachowanie maszyny, a nie tylko na jej projekt. To trochę tak, jak lekarz nie musi od razu znać pełnej przyczyny bólu kolana, żeby powiedzieć: przestań biegać, bo pogorszysz sprawę.

Żeby sprawdzić pomysł, naukowcy testowali quadrotory, czyli drony z czterema wirnikami. Jeden z nich był autonomiczną platformą DragonFly, drugi maszyną pilotowaną przez człowieka z kontrolerem Betaflight. W eksperymentach stopniowo uszkadzano końcówki łopat śmigieł i obserwowano, jak system zachowuje się przy różnych poziomach uszkodzenia.

Zakres był bardzo szeroki: od zdrowego śmigła po ubytek sięgający 55 proc. końcówki łopaty. Oznacza to coraz większą asymetrię, drgania i konieczność mocniejszej pracy kontrolera. Przy części scenariuszy dron mógł jeszcze sprawiać wrażenie, że radzi sobie poprawnie. Dopiero analiza danych pokazywała, że stabilność zaczyna znikać.

Szczególnie ciekawy jest przypadek DragonFly. Przy 10 proc. uszkodzenia maszyna potrafiła nadal lecieć w sposób bardzo podobny do lotu zdrowego drona. Przy 15 proc. uszkodzenia w bardziej wymagających warunkach pojawiały się już przypadki utraty kontroli. Oko człowieka mogłoby uznać wcześniejszy etap za w miarę bezpieczny, ale wskaźniki pokazywały, że system przesuwa się w złą stronę. Dron nie musi czekać, aż zacznie spadać. Może dostać sygnał wcześniej: jesteś bliżej granicy, niż pokazuje sama trajektoria lotu.

Im więcej zadań oddajemy maszynom, tym ważniejsze staje się pytanie, czy potrafią rozpoznać własne ograniczenia. Dron, który wykonuje zdjęcia, dostarcza małą paczkę albo patroluje teren, może być zdalnie obserwowany przez operatora. Jednak roje dronów, bezzałogowe śmigłowce, maszyny wojskowe i autonomiczne platformy transportowe nie zawsze będą miały człowieka patrzącego na każdy parametr lotu.

Jak pisaliśmy w tekście: Amerykanie chcą budować w Polsce drony. To ma być bezzałogowy F-35, nowa generacja systemów bezzałogowych ma coraz częściej działać w skomplikowanym środowisku, bez stałego prowadzenia za rękę. Taki sprzęt musi sam omijać przeszkody, reagować na zakłócenia i wykonywać misję mimo braku idealnych warunków.

Ale autonomia bez samokontroli jest po prostu bardzo ryzykowna. Maszyna, która potrafi sama wybrać trasę, ale nie umie stwierdzić, że jej własny układ napędowy traci margines bezpieczeństwa, staje się problemem. Techniczny ból może być brakującym elementem: nie decyduje za całą misję, ale mówi systemowi, że trzeba zmienić zachowanie.

Taka zmiana może oznaczać wolniejszy lot, rezygnację z ostrego manewru, powrót do bazy, lądowanie awaryjne albo przełączenie na bezpieczniejszy tryb sterowania. To odpowiednik ludzkiego kulenia po urazie. Nie naprawia kostki, ale pozwala dotrzeć do domu, zamiast pogłębiać kontuzję.

Badacze podkreślają, że drony są tu poligonem doświadczalnym, a nie jedynym możliwym zastosowaniem. Jeżeli wskaźniki krytycznego spowolnienia da się odczytywać z danych tanich czujników, to podobne podejście może przydać się w innych systemach sterowanych. W grę wchodzą samoloty, roboty, autonomiczne samochody, infrastruktura krytyczna, linie produkcyjne czy urządzenia pracujące w trudnych warunkach.

Wiele awarii narasta powoli. Maszyna nie psuje się nagle w sensie fizycznym. Najpierw traci odporność, później zaczyna częściej kompensować odchylenia, a dopiero na końcu pojawia się widoczna awaria. Jeżeli uda się uchwycić ten środkowy etap, można przesunąć bezpieczeństwo z reakcji po fakcie na ostrzeżenie przed faktem.

Przeczytaj także:

Jak pisaliśmy w tekście: Czy dron może sam wybrać cel? Sprawdzamy granice nowej technologii na wojnie, autonomia to nie jeden przełącznik opisany słowami człowiek i maszyna. To całe spektrum funkcji: od stabilizacji lotu, przez analizę danych z sensorów, po decyzje operacyjne. Własny system ostrzegania przed utratą kontroli mieści się właśnie w tej mniej widowiskowej, ale bardzo ważnej części autonomii.

Najbardziej praktyczny scenariusz nie polega więc na tym, że dron zaczyna myśleć jak człowiek. Raczej na tym, że dostaje jasny sygnał: coś jest nie tak, lepiej zmienić sposób działania. Czasem to wystarczy, żeby nie skończyło się upadkiem.

*Źródło grafiki wprowadzającej: Canva Pro