Którego poszkodowanego ratować najpierw? Tę decyzję podejmie aplikacja
Dziesiątki, a nawet setki rannych, a ty musisz podjąć w ciągu sekund decyzję o tym kogo ratować najpierw. Złe decyzje, albo zbyt długi czas oczekiwania na pomoc oznaczają śmierć wielu osób. Tak zapewne wygląda koszmar wojskowych lekarzy. Z pomocą armii ma przyjść sztuczna inteligencja. Tylko jak stworzyć taki godny zaufania algorytm, któremu będzie można powierzyć ludzkie życie?
Amerykańskie wojsko chce, by sztuczna inteligencja podejmowała trudne decyzje. Trudne decyzje w tym przypadku to takie, dla których nie istnieje jedna poprawna odpowiedź, a niepewność i presja czasu stwarzają dodatkowe wyzwanie.
Najlepszym przykładem mogą być operacje wojskowe - od walki, przez segregację medyczną, po pomoc w przypadku katastrof. Wymagają one złożonego i szybkiego podejmowania decyzji w dynamicznych sytuacjach, w których często nie ma jednej właściwej odpowiedzi. Na przykład dwóch doświadczonych dowódców wojskowych, którzy mają do czynienia z tym samym scenariuszem na polu bitwy, może podejmować różne decyzje taktyczne.
Sztuczna inteligencja jest coraz częściej wykorzystywana do wspomagania ludzi w różnych dziedzinach życia. Jednak nie zawsze wiemy, czy możemy jej zaufać, nie mówiąc już o decyzjach dotyczących zdrowia i życia ludzi. Jak więc zapewnić, że AI będzie działać w sposób zgodny z naszymi oczekiwaniami, podejmując trudne decyzje?
Sztuczna inteligencja zdecyduje, kto bardziej potrzebuje pomocy.
Tym pytaniem zajmuje się program In the Moment (ITM), który realizuje amerykańska agencja DARPA (Defense Advanced Research Projects Agency). Celem programu jest stworzenie zaufanego algorytmu podejmowania decyzji, takich jak triaż medyczny. Triaż to proces oceny stanu pacjentów i ustalania priorytetów udzielania im pomocy.
Brak jednej właściwej odpowiedzi w trudnych scenariuszach uniemożliwia nam stosowanie konwencjonalnych metod szkolenia sztucznej inteligencji. Na przykład algorytmy autonomicznych samochodów mogą być szkolone w podejmowaniu właściwych i złych reakcji podczas jazdy w oparciu o znaki drogowe i zasady ruchu drogowego, które się nie zmieniają. Tymczasem wojsko potrzebuje budowania systemów do podejmowania trudnych decyzji, w których obiektywna prawda jest niedostępna
- powiedział Matt Turek, kierownik programu ITM.
Program ITM czerpie inspirację z dziedziny analizy obrazowania medycznego, gdzie opracowano techniki oceny nawet wtedy, gdy wykwalifikowani eksperci mogą nie zgadzać się co do podstawowych faktów. Obrazowanie medyczne to przedstawianie w formie obrazów zmian fizjologicznych i patologicznych zachodzących w ciele ludzkim. Jeśli granica algorytmu leży w rozkładzie granic wytyczonych przez ludzkich ekspertów w wielu próbach, mówi się, że algorytm jest porównywalny z wydajnością człowieka.
Program ITM ma dwie fazy, które dotyczą podejmowania decyzji o różnym stopniu złożoności. Pierwsza faza skupia się na triażu dla małych jednostek wojskowych w polowych warunkach, a druga faza zwiększa złożoność decyzji poprzez analizę triażu dla masowych zdarzeń z ofiarami.
Program ITM rozpoczął się w czerwcu 2023 roku i potrwa cztery lata. Jego wyniki mogą mieć zastosowanie nie tylko w dziedzinie medycyny, ale także w innych obszarach, gdzie ważne są szybkie i trafne decyzje, takich jak bezpieczeństwo narodowe, transport czy zarządzanie kryzysowe.
Opracowanie sztucznej inteligencji do triażu pozwala nam dotrzeć do podstawowych kwestii dotyczących zaufania i delegowania podejmowania decyzji
- powiedział Turek.
Triaż to procedura stosowana na polu walki lub w strefach konfliktu zbrojnego, która pozwala na ocenę stanu zdrowia rannych żołnierzy i cywilów oraz ustalenie priorytetów udzielania im pomocy medycznej. Triaż ma na celu zmaksymalizować szanse przeżycia i ograniczyć cierpienie poszkodowanych, a także optymalnie wykorzystać dostępne zasoby i personel. Triaż w wojsku może być wykonywany przez lekarzy, pielęgniarki, sanitariuszy lub nawet samych żołnierzy.
