Boty nie zastąpią lekarzy. Nowe badania są miażdżące dla algorytmów w białych kitlach
Sztuczna inteligencja w szpitalach jeszcze długo pozostanie za drzwiami. Nie tylko ze względu na niedoskonałość systemów, ale i brak odpowiedzialności samych placówek medycznych.
Sztucznej inteligencji w roli lekarzy karierę wróżą nie tylko z lekka leniwi internauci, ale i najmożniejsi bywalcy Doliny Krzemowej. Sam Elon Musk zachęcał do dzielenia się z czatbotem Grok swoją dokumentacją medyczną, by uzyskać diagnozę - albo po prostu sprawdzić umiejętności AI.
Tego entuzjazmu nie podzielą jednak dwie grupy amerykańskich naukowców, które przeanalizowały wykorzystanie AI przez amerykańskie szpitale. Wyniki dwóch nie napawają optymizmem ani ich, ani potencjalnych pacjentów "klinik przyszłości".
AI zastąpi lekarzy? Póki co tylko w książkach Sci-Fi
Naukowcy z University of Minnesota School of Public Health przeanalizowali odpowiedzi z 2425 szpitali ostrej opieki, które wzięły udział w corocznej ankiecie American Hospital Association (AHA) w 2023 r. W swojej pracy badacze pochylili się nad różnicami w adopcji, wykorzystaniu i zdolności oceny predyktywnych modeli sztucznej inteligencji w szpitalach.
Zgodnie z wynikami analizy opublikowanymi na łamach czasopisma Health Affairs, około 65 proc. amerykańskich szpitali zadeklarowało użycie predyktywnych modeli AI. Ich najczęstszymi zadaniami były przewidywanie przebiegu choroby i rekonwalescencji pacjentów hospitalizowanych (92 proc.), identyfikacji pacjentów ambulatoryjnych wysokiego ryzyka (79 proc.) i ułatwiania planowania (51 proc.).
Jednocześnie szpitale nie zawsze dokonywały ewaluacji modeli - nie tylko pod względem dokładności, ale i uprzedzeń. Podczas gdy 61 proc. szpitali oceniło swoje modele predykcyjne pod kątem dokładności, lecz tylko 44 proc. przeprowadziło podobne ewaluacje pod kątem potencjalnych uprzedzeń względem choćby płci czy rasy. Lepiej finansowane szpitale, które opracowały własne modele, częściej przeprowadzały ocenę zarówno pod kątem dokładności, jak i stronniczości w porównaniu z tymi, które korzystały z modeli od zewnętrznych deweloperów.
Równolegle badacze z Virginia Tech przeprowadzili analizę samych modeli sztucznej inteligencji, które zostały zaprojektowane z myślą o diagnozowaniu pacjentów w szpitalach.
Na potrzeby badania zespół podawał sztucznej inteligencji dane z dokumentacji medycznej pacjentów, którzy w ocenie lekarzy byli w stanie bezpośredniego zagrożenia życia. AI do dyspozycji miała jedynie dokumentacje i na jej podstawie miała ocenić czy pacjent umrze w szpitalu, czy nie. Sztuczna inteligencja prawidłowo oceniła stan pacjenta jedynie w 34 proc. przypadków.
Może zainteresować cię także:
