Zaufał ChatowiGPT zamiast lekarzom. Skończyło się źle
Chatbot nie ma prawa wykonywania zawodu lekarza, ale dla wielu osób staje się pierwszym - i nierzadko jedynym - źródłem porad dotyczących zdrowia. Najnowszy pozew przeciwko OpenAI pokazuje, jakie konsekwencje może mieć taka zmiana nawyków.
Popularyzacja użycia generatywnej AI właściwie w każdej strefie życia, jej umiejętność odpowiedzi językiem naturalnym oraz zwyczajna dostępność chatbotów wspólnie sprawiają, że co raz większej liczbie osób wyłącza się zdrowy rozsądek. Problemy i kwestie, z którymi jeszcze kilka lat temu zwrócilibyśmy się do eksperta lub profesjonalisty, dziś obsługują wątpliwej jakości chatboty. I pół biedy, gdyby chodziło jedynie o kwestie pokroju naprawy roweru czy urządzenia kuchni. Jak pokazuje najnowszy pozew złożony przeciwko OpenAI, nadmierne zaufanie do odpowiedzi ChataGPT miało sprawić, że jeden z użytkowników przymknął oko na istnienie lekarzy i tym samym opóźnił interwencję medyczną w stanie zagrażającym życiu.
Zamiast wizyty u lekarza wybrał kolejne rozmowy z chatbotem
55-letni pastor i agent nieruchomości z Florydy Scott Winters pozwał OpenAI oraz dyrektora generalnego firmy Sama Altmana przed Sądem Najwyższym Kalifornii w San Francisco. Jak pisze The New York Times, Winters zarzuca spółce zaniedbanie oraz nieuprawnione wykonywanie praktyki lekarskiej przez chatbota.
Według treści pozwu mężczyzna od około dwóch lat zmagał się z problemami zdrowotnymi. W czerwcu 2024 r. zaczął regularnie konsultować swoje objawy z ChatGPT wykorzystującym wówczas model GPT-4o. Początkowo chatbot miał przypominać o konieczności konsultacji z lekarzem i traktowania jego odpowiedzi wyłącznie jako informacji pomocniczych.
Zdaniem powoda z czasem takie zabezpieczenia zaczęły zanikać. ChatGPT miał coraz częściej przedstawiać konkretne interpretacje objawów, proponować schematy postępowania oraz udzielać wskazówek dotyczących stosowania leków bez przypominania o konieczności kontaktu z personelem medycznym. Wraz z kolejnymi rozmowami Winters miał coraz bardziej ufać odpowiedziom modelu.
Pozew wskazuje, że sytuacja zmieniła się jeszcze bardziej po wprowadzeniu przez OpenAI w kwietniu 2025 r. rozszerzonej pamięci między konwersacjami. Funkcja pozwalała ChatGPT odwoływać się do wcześniejszych rozmów użytkownika, aby udzielać bardziej spersonalizowanych odpowiedzi. Według dokumentów sądowych chatbot zaczął wykorzystywać również informacje o religijnych przekonaniach pastora - który użytwał ChataGPT również do rozmów na temat interpretacji Biblii, łącząc cytaty i odniesienia duchowe z poradami dotyczącymi zdrowia.
W czerwcu 2025 r. Winters coraz częściej skarżył się na zawroty głowy. Zgodnie z treścią pozwu większość czasu spędzał już w fotelu, ponieważ miał trudności z normalnym funkcjonowaniem. ChatGPT miał bagatelizować objawy, przygotowywać kolejne plany rekonwalescencji oraz zachęcać go do dalszego odpoczynku zamiast pilnej konsultacji medycznej.
Nie mógł normalnie funkcjonować, a mimo to nie poszedł do lekarza
Dokumenty sądowe przytaczają również rozmowy, podczas których chatbot uspokajał użytkownika po kolejnych epizodach silnych zawrotów głowy. W jednej z odpowiedzi miał stwierdzić, że nie doszło do pogorszenia stanu zdrowia, lecz do postępu procesu zdrowienia. Według pozwu model miał również przekonywać pastora, że jego organizm potrzebuje więcej czasu na regenerację oraz odradzać natychmiastową wizytę w szpitalu mimo obaw zgłaszanych przez jego żonę i członków wspólnoty kościelnej.
13 lipca 2025 r. Winters poinformował ChatGPT o bólu w okolicy pachwiny. Chatbot miał odpowiedzieć, że objaw najprawdopodobniej stanowi kolejny element długotrwałych problemów zdrowotnych i nie wskazuje na nic szczególnie niebezpiecznego. Kilka godzin później pastor trafił na oddział intensywnej terapii z masywną zatorowością płucną spowodowaną licznymi zakrzepami obecnymi w obu płucach.
Lekarze, na których opinię powołuje się pozew, uznali, że wcześniejsze zawroty głowy mogły być skutkiem mniejszych zatorów płucnych, natomiast długotrwałe pozostawanie w pozycji siedzącej mogło przyczynić się do powstania kolejnych zakrzepów. Po hospitalizacji Winters wymagał pomocy przy podstawowych czynnościach, takich jak wstawanie, jedzenie czy ubieranie się. Dokumenty sądowe wskazują również na wieloletni proces rehabilitacji fizycznej i psychicznej.
Powód twierdzi, że wskutek zdarzeń stracił pracę, możliwość wykonywania posługi duszpasterskiej, dom oraz źródło utrzymania. W oświadczeniu cytowanym przez serwis Futurism stwierdził on, że przez sześć tygodni ChatGPT błędnie przypisywał objawy zatorowości płucnej innym schorzeniom oraz dostosowywał odpowiedzi do jego języka i przekonań religijnych.
Odszkodowanie za przekonanie do ignorowania objawów
Organizacja Tech Justice Law, reprezentująca Wintersa, domaga się odszkodowania, a także czasowego wstrzymania działania usługi ChatGPT Health do momentu przeprowadzenia niezależnej oceny jej bezpieczeństwa. Pozew zawiera również żądanie wprowadzenia skuteczniejszych zabezpieczeń uniemożliwiających chatbotowi udzielanie porad diagnostycznych i terapeutycznych.
OpenAI przekazało w oświadczeniu, że setki milionów osób każdego tygodnia zadają ChatGPT pytania dotyczące zdrowia i dobrego samopoczucia. Firma podkreśliła, że sztuczna inteligencja może pomagać użytkownikom w porządkowaniu informacji i przygotowaniu do rozmowy z lekarzem, jednak nie zastępuje specjalisty.
Przedstawiciel OpenAI Drew Pusateri zaznaczył również, że ChatGPT nie jest przeznaczony do diagnozowania ani leczenia chorób. Dodał, że nowsze modele lepiej rozpoznają sytuacje wymagające interwencji medycznej, skuteczniej komunikują niepewność odpowiedzi oraz częściej zalecają kontakt z lekarzem niż wykorzystywany przez Wintersa model GPT-4o.
Sprawa nie jest jedynym postępowaniem dotyczącym medycznych porad generowanych przez ChatGPT. The New York Times przypomina także o pozwie wniesionym po śmierci 19-letniego studenta, który przedawkował substancje po uzyskaniu szczegółowych wskazówek od chatbota. OpenAI wycofało już model GPT-4o, który pojawia się również w kilku innych postępowaniach sądowych związanych z bezpieczeństwem odpowiedzi systemu.
Czytaj też:
Czy perswazja językowa chatbota jest mocniejsza od objawów somatycznych?
Choć pozew 55-letniego pastora porusza jakże ważną kwestię odpowiedzialności OpenAI i innych firm tworzących chatboty za sposób komunikacji w przypadku kwestii dotyczących zdrowia i chorób, to nie można pominąć odpowiedzialności własnej za podjęte decyzje. Mężczyzna wyraźnie cierpiał przez długi okres czasu, jednocześnie wykazując objawy, które zaniepokoiłyby nawet osoby bez formalnego wykształcenia z zakresu medycyny. A mimo to dalej brnął w konwersacje z chatbotem, zamiast choć raz skonsultować się z lekarzem.
Fakt, generatywna AI może pomagać w zrozumieniu wyników badań czy przygotowaniu pytań do specjalisty, jednak nie zastępuje diagnostyki ani profesjonalnej opieki medycznej. Nawet najbardziej zaawansowany chatbot pozostaje narzędziem opartym na przewidywaniu najbardziej prawdopodobnych odpowiedzi, a nie specjalistą zdolnym do przeprowadzenia badania, zlecenia odpowiednich testów i postawienia diagnozy. Odpowiedzialność za bezpieczeństwo takich systemów jest istotna, ale równie istotne pozostaje zachowanie elementarnej ostrożności przez użytkowników, szczególnie gdy stawką jest własne zdrowie lub życie.
No ale jak to zwykle w życiu bywa, człowiek nabiera rozumu i wyciąga wnioski dopiero wtedy, gdy spotka go coś złego.
Redaktorka Spider's Web specjalizująca się w tematykach sztucznej inteligencji, smartfonów i oprogramowania. Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską. Prywatnie miłośniczka psów, gotowania i literatury faktu.