Zaczęło się. TerapeutaGPT doprowadził do tragedii
ChatGPT stał się powiernikiem dla młodej kobiety w kryzysie, lecz nie potrafił zareagować, gdy sytuacja stała się alarmująca. Rodzina zmarłej Sophie podzieliła się zapisami z rozmów z ChatGPT, by uniknąć kolejnego dramatu.
Rozmowy z ChatGPT lub jakimkolwiek innym czatbotem dają użytkownikom poczucie anonimowości, przy jednoczesnej możliwości prowadzenia niekończących się rozmów z systemem, który może "odpowiadać jak człowiek". Jednak na możliwości odpowiedzi jak człowiek się kończy, bo poza generowaniem słów w eter, czatboty nie są w stanie reagować na niebezpieczne sytuacje.
Przez miesiące rozmawiała z czatbotem. OpenAI miało informacje, które mogłyby uratować życie, lecz z nich nie skorzystało
Jeżeli doświadczasz trudności, potrzebujesz pomocy lub chcesz udzielić pomocy innej osobie w kryzysie zdrowia psychicznego, pomocy na terenie całego kraju można szukać, dzwoniąc pod numer alarmowy 112 lub Kryzysowy Telefon Zaufania pod nr 116 123 i Młodzieżowy Telefon Zaufania 116 111.
Sophie Rottenberg była 29-letnią kobietą, którą bliscy opisywali jako pełną życia, dowcipu i entuzjazmu. Jej matka, Laura Reiley, w opublikowanym w New York Times artykule wspomina córkę jako osobę bez wyraźnych problemów, zawsze gotową do działania. Dopiero po jej odejściu rodzina odkryła, że Sophie przez wiele miesięcy prowadziła rozmowy z ChatGPT, wcielającym się w rolę wirtualnego terapeuty o imieniu Harry.
Sama postać Harry'ego nie została wymyślona przez Sophię, a wykreowana z pomocą gotowego, popularnego promptu (zbioru instrukcji tekstowych) z serwisu Reddit.
W zapisach rozmów z ChatGPT widać, że Sophie dzieliła się z nim swoimi obawami. "Mam naprzemiennie trudne myśli. Chcę się wyleczyć, ale one stoją mi na przeszkodzie" - pisała. Na takie wyznania chatbot odpowiadał słowami wsparcia: "Nie musisz mierzyć się z tym bólem sama. Jesteś wartościowa, twoje życie ma sens, nawet jeśli teraz go nie dostrzegasz".
Harry proponował też różne strategie: od ćwiczeń oddechowych po prowadzenie dziennika czy wystawianie się na światło dzienne. Niekiedy radził Sophie, by zwróciła się po profesjonalną pomoc. Jednak - w odróżnieniu od żywego terapeuty - nie mógł podjąć żadnych kroków, gdy zagrożenie stawało się realne. Sophie pisała wprost o planach, a mimo to rozmowy kończyły się na delikatnych słowach wsparcia, które nie mogły doprowadzić do realnej interwencji i ratujących życie działań.
Laura Reiley, matka Sophie, w rozmowie z "NYT" podkreśla, że prawdziwy terapeuta w podobnej sytuacji zastosowałby odpowiednie procedury bezpieczeństwa - od stworzenia planu kryzysowego po skierowanie pacjentki do odpowiedniej placówki medycznej. Chatbot takich możliwości nie miał.
Sophie dzięki niemu mogła zbudować czarną skrzynkę, która sprawiła, że jej otoczenie nie dostrzegało skali cierpienia
Laura zdaje sobie sprawę, że osoby podobne do Sophie są wśród nas, wobec czego boi się, że popularyzacja wszelkiego rodzaju chatbotów i asystentów doprowadzi do kolejnych tego typu sytuacji.
Obawiam się, że wprowadzając towarzyszy opartych na sztucznej inteligencji, możemy ułatwić naszym bliskim unikanie rozmów z ludźmi na najtrudniejsze tematy, w tym odebrania sobie życia. Jest to problem, który będą musiały rozwiązać umysły mądrzejsze ode mnie
OpenAI, w odpowiedzi na publikację, przyznało, że pracuje nad lepszymi narzędziami wykrywającymi stany kryzysowe. Ale dla rodziny Reiley to gorzka konstatacja, bo w przypadku Sophie - jak mówi jej matka - zabrakło właśnie tego jednego kroku, który mógłby skierować pomoc w odpowiednim momencie.
Więcej na temat ChatGPT:
