Algorytm zdecyduje, czy zasługujesz na leczenie. Co może pójść nie tak?
Administracja Donalda Trumpa chce przetestować w sześciu stanach Stanów Zjednoczonych system, w którym sztuczna inteligencja decyduje o zasadności refundacji świadczeń w programie Medicare Advantage. Jeśli projekt się powiedzie, algorytmy przejmą część zadań Narodowego Funduszu Zdrowia… tylko że za Oceanem.
The Centers for Medicare & Medicaid Services (CMS) ogłosiły uruchomienie pilotażowego programu Wasteful and Inappropriate Service Reduction (WISeR), który już w przyszłym roku ma ruszyć w wybranych regionach Stanów Zjednoczonych. Jak głosi rządowy komunikat celem projektu jest zapewnienie świadczeń bezpiecznych, skutecznych i niezbędnych, a wszystko to w imię ochrony pieniędzy podatników.
W praktyce oznacza to, że pacjenci korzystający z programu Medicare Advantage (odpowiednika komercyjnych ubezpieczeń zdrowotnych opłacanych częściowo z budżetu federalnego) będą musieli przed każdym zabiegiem lub badaniem uzyskać tzw. prior authorization - czyli zgodę systemu. Zamiast urzędnika z NFZ tę zgodę wystawi algorytm AI, który oceni, czy planowany zabieg to uzasadniony wydatek federalnych dolarów. Miło brzmi obietnica przyspieszenia procedur - ale czy na pewno chodzi o pacjenta, czy głównie o cięcie kosztów?
Czytaj też:
Między literą a duchem prawa
Przeciwnicy projektu już ochrzcili go AI death panels. Inspiracją jest kontrowersyjny termin z poprzednich dekad, kiedy to niektórzy w Stanach Zjednoczonych spekulowali o komisjach decydujących o życiu i śmierci pacjentów. Teraz jednak to algorytm - a jeszcze lepiej: firmy rozwijające technologię - będą rozstrzygać, czy refundować dany zabieg, czy go odrzucić.
Krytycy zwracają uwagę, że firmy technologiczne zaangażowane w WISeR mają potężny bodziec: im więcej odrzuconych wniosków, tym większe oszczędności dla rządu i… więcej szans na kontrakty w kolejnych latach. Przypomina to niebezpieczną pętlę, w której motywacja finansowa może z góry predestynować algorytm do odmawiania świadczeń.
Polska kontra Ameryka. Chociaż NFZ nie jest ideałem, to jednak…
Możemy się poczuć lepsi od Amerykanów - w końcu niska poprzeczka dla służby zdrowia po tamtej stronie to już klasyka. U nas wprawdzie kolejki, papierologia i bóle głowy personelu medycznego bywają uciążliwe, ale przynajmniej decyzja o twojej tomografii czy rehabilitacji nie zapada w biurze pełnym serwerów i kawałków kodu.
Jednym z największych problemów AI w medycynie jest czarna skrzynka - nie zawsze wiemy, dlaczego algorytm podjął daną decyzję. Jeśli na przykład pacjent z rzadką chorobą genetyczną dostanie negatywną odpowiedź na prior authorization przed kosztownym badaniem to może stracić szansę na diagnozę.
W przypadku Medicare Advantage odrzucenie wniosku oznacza opóźnienie lub całkowite zablokowanie leczenia. Apel organizacji pacjenckich i części kongresmenów: należy wprowadzić mechanizm odwoławczy i kontrolę jakości algorytmów, zanim AI przejmie tak kluczowe zadanie.
Co dalej? Obserwować, kontrolować, krytykować
Program WISeR to dopiero pilotaż. Jeśli administracja Stanów Zjednoczonych uzna, że AI znacząco ogranicza koszty i szybko akceptuje wnioski o refundację, możemy spodziewać się rozszerzenia modelu na cały kraj. Przygotujmy się więc na dyskusję o etyce, przejrzystości algorytmów i prawach pacjenta.
Polska scena IT i medycyna mogą śledzić rozwój wydarzeń za Oceanem, by unikać najgorszych pułapek. I choć czasami warto postawić na automatyzację, warto pamiętać, że za każdym wnioskiem o refundację stoi człowiek, a nie linia kodu.
