Będą nas nawiedzać cyfrowe duchy zmarłych bliskich. Przerażająca wizja (?) przyszłości

Jednak badacze z Uniwersytetu Cambridge ostrzegają, że ta nowa branża może nieść ze sobą poważne zagrożenia dla zdrowia psychicznego. W artykule opublikowanym w czasopiśmie Philosophy and Technology naukowcy apelują o wprowadzenie rygorystycznych protokołów bezpieczeństwa w projektowaniu technologii cyfrowego życia pozagrobowego, aby zapobiec wyrządzaniu szkód społecznych i psychicznych żyjącym.

Deadboty lub Griefboty to chatboty oparte na sztucznej inteligencji, które symulują wzorce językowe i cechy osobowości zmarłych, wykorzystując pozostawione przez nich cyfrowe ślady. Niektóre firmy już oferują takie usługi, zapewniając zupełnie nowy rodzaj "pośmiertnych kontaktów".

Więcej o sztucznej inteligencji przeczytasz na Spider`s Web:

Badacze twierdzą, że nawet ci, którzy początkowo pocieszają się po utracie bliskiej osoby kontaktami z cyfrowym zmarłym, mogą zostać wyczerpani psychicznie codziennymi interakcjami, które stają się "przytłaczającym ciężarem emocjonalnym".

Dodaje ona, że dana osoba może zostawić symulację sztucznej inteligencji jako prezent pożegnalny dla bliskich, którzy nie są przygotowani na przepracowanie swojego żalu w ten sposób. Prawa zarówno dawców danych, jak i osób wchodzących w interakcję z cyfrowymi zmarłymi AI powinny być w równym stopniu chronione.

Istnieją już platformy umożliwiające za niewielką opłatą odtwarzanie zmarłych za pomocą sztucznej inteligencji. Wśród nich jest Project January, w ramach którego na początku wykorzystywano modele GPT, oraz aplikacje, takie jak HereAfter. Podobne usługi zaczęły pojawiać się także w Chinach.

Jednym z potencjalnych scenariuszy przedstawionych w artykule jest "MaNana": usługa sztucznej inteligencji umożliwiająca tworzenie bota symulującego zmarłych dziadków. 

W hipotetycznym scenariuszu dorosły wnuk, który początkowo jest pod wrażeniem i podbudowany technologią, zaczyna otrzymywać reklamy po zakończeniu płatnego okresu próbnego. Na przykład chatbot od zamówień w firmach dostarczających jedzenie zaczyna mówić głosem i stylem zmarłej babci.

Jego zdaniem powinny powstać przepisy zapobiegające wykorzystywaniu botów zmarłych w sposób pozbawiony szacunku, na przykład do celów reklamowych lub aktywnej obecności w mediach społecznościowych.

Jednym z głównych zagrożeń jest możliwość "cyfrowego nawiedzania". AI, która nie jest odpowiednio zaprojektowana, może tworzyć symulacje zmarłych, które są nierealistyczne, a nawet traumatyczne dla tych, którzy z nimi wchodzą w interakcje.

Wyobraź sobie rozmowę z chatbotem, który ucieleśnia zmarłego bliskiego, ale mówi i zachowuje się w sposób zupełnie niepodobny do tej osoby za życia. Takie doświadczenie może pogłębić żal i utrudnić proces żałoby.

Kolejnym problemem jest kwestia kontroli nad cyfrowym wizerunkiem zmarłego. Kto decyduje o tym, jak dana osoba jest przedstawiana w symulacji? Czy rodzina ma pełną kontrolę nad danymi i sposobem ich wykorzystania? Brak przejrzystości i kontroli może prowadzić do nadużyć i krzywdzenia zmarłych.

Badacze przedstawili to w scenariuszu z fikcyjną firmą o nazwie Stay. Przedstawia starszą osobę, która potajemnie angażuje się w stworzenie swojego bota i płaci za dwudziestoletnią subskrypcję w nadziei, że pocieszy to jej dorosłe dzieci i umożliwi w przyszłości wnukom bliższe jej poznanie.

Usługa rozpoczyna się po śmierci. Kończy się to wyczerpaniem emocjonalnym i poczuciem winy dzieci z powodu losu bota. Jednak zawieszenie bota naruszyłoby warunki umowy podpisanej przez rodzica. Tak więc maile cały czas przychodzą, a chatbot działa.