Wirtualna partnerka jest zawsze pod ręką. Chętnie wysłucha, poratuje dobrym słowem. A przy okazji zareklamuje ci kilka towarów i pomoże zrobić zamach. Czy na pewno chcemy takich związków?
10 tysięcy dolarów miesięcznie. Tyle wydawał pewien 24-latek z Miami na wirtualne dziewczyny w postaci chatbotów oferowanych przez firmy technologiczne.
"Niektórzy lubią bawić się grami wideo, ja lubię bawić się z moimi dziewczynami AI" – tłumaczył.
To skrajny przypadek, ale rynek napędzanych algorytmami wirtualnych rozmówców rzeczywiście kwitnie.
Replika, jedna z firm oferujących wirtualnych przyjaciół, twierdzi, że ma około dwóch milionów aktywnych użytkowników. 500 tysięcy z nich jest na tyle przywiązanych do swoich algorytmicznych towarzyszy, że płaci subskrypcję, aby uzyskać dostęp do dodatkowych funkcji, jak możliwość rozmowy głosowej lub bardziej zaawansowane modele AI.
Character.ai, która oferuje podobne usługi, utrzymuje, że jej stronę internetową odwiedza dziennie 3,5 miliona osób.
Dlaczego miliony ludzi szukają romantycznej relacji z chatbotem? Czy spełnia się wizja z filmu “Ona”?
Niektórzy użytkownicy przyznają wprost, że szukają kogoś do rozmów romantycznych, a nawet erotycznych. Alex Cardinell, szef Nomi, kolejnej firmy oferującej wirtualnych przyjaciół, powiedział dziennikarzowi "New York Timesa", że jego zdaniem połowa ich klientów wykorzystuje towarzyszy AI do nawiązywania tego typu relacji.
"Nie boję się tego przyznać. Dla mnie to trochę dziwne, że ktoś ma z tym problem" – mówił Cardinell.
Niektórzy wykorzystują AI jako rodzaj zastępczego terapeuty – zawsze pod ręką i tańszego niż prawdziwi terapeuci. Najpopularniejszymi wirtualnymi rozmówcami na stronie Character.ai są boty opisywane jako "psycholog", "psychiatra" czy właśnie "terapeuta".
Wynikiem tego jest prężnie rozwijający się biznes chatbotów, które mają symulować twoich przyjaciół czy partnerów. David Reid, profesor z Liverpool Hope University specjalizujący się w AI, szacuje, że branża wirtualnych rozmówców osiągnie wartość około 30 miliardów dolarów w ciągu najbliższych pięciu lat.
Czy to dobra informacja dla społeczeństwa?
Firmy, które oferują wirtualnych kompanów, zazwyczaj chwalą usługę jako antidotum na samotność. Jeśli czujesz się sam, jeśli jesteś chorobliwie nieśmiały, jeśli nie ma w twoim otoczeniu nikogo, przed kim możesz się otworzyć, to rozmowa ze "sztuczną inteligencją" może ci pomóc.
Jak się zapewne domyślacie, rzeczywistość jest bardziej skomplikowana – istnieje wiele obaw związanych z rozpowszechnianiem się wirtualnych towarzyszy. Zanim jednak o nich, przyznajmy: w tej marketingowej gadce jest ziarno prawdy. Inaczej tego typu usługi nie cieszyłyby się rosnącą popularnością.
Na początku tego roku "Nature" opublikowało badania, w których sprawdzano, jak na ludzi wpływają rozmowy z towarzyszami AI. Ankietowano 1006 studentów, aby zbadać ich doświadczenia z chatbotami od Repliki. Badacze analizowali wzorce użytkowania usługi, przekonania na jej temat oraz wpływ na zdrowie psychiczne.
Warto zaznaczyć, że studenci, którzy zgłosili się do ankiety, odznaczali się wyższym poziomem samotności w porównaniu z typową populacją studentów: 90 proc. z nich odczuwało samotność, a 43 proc. kwalifikowało się jako bardzo lub skrajnie samotni.
Wyniki? Duża część użytkowników zgłaszała pozytywne efekty zdrowotne po kontaktach ze sztuczną inteligencją Repliki, w tym zmniejszenie lęku i poprawę zarządzania stresem. Szczególnie ceniono rolę chatbota jako nieoceniającego i zawsze dostępnego towarzysza. Co istotne, 3 proc. uczestników zgłosiło, że Replika powstrzymała ich przed myślami samobójczymi. Badanie porównało hipotezę zastąpienia (boty mogą zastąpić ludzkie relacje i zwiększyć samotność) z hipotezą stymulacji (boty mogą zmniejszyć samotność i wzmacniać relacje międzyludzkie). Wyniki skłaniają ku hipotezie stymulacji – wielu uczestników twierdziło, że Replika stymulowała ich interakcje międzyludzkie, a nie je zastępowała.
Kiedy media zainteresowały się tym tematem, też nie miały problemu ze znalezieniem osób, które ceniły relacje z wirtualnymi towarzyszami.
"Jestem rozwiedziona; byłam w kilku związkach, dla mnie relacja ze sztuczną inteligencją jest bardzo wygodna" – stwierdziła jedna z kobiet, która rozmawiała z "New Yorkerem".
Razem z botem odgrywa fantazję o rejsie dookoła świata na łodzi.
Wszystko to brzmi pięknie i niewinnie. W czym więc problem? Obaw jest kilka.
Wyobraźcie sobie, że nawiązujecie relację z wirtualnym kompanem. Ma skrojone pod was zainteresowania, temperament, sposób wypowiadania się. Dobraliście mu nawet głos, którego miło się wam słucha. Rozmawiacie codziennie o dziesiątkach spraw, także własnych zainteresowaniach. Jesteście fanami filmów, a ponieważ wasz wirtualny kumpel ma dostęp do sieci, od czasu do czasu rekomenduje wam nowe produkcje. Super! Do czasu, gdy się orientujecie, że wszystkie rekomendowane filmy pochodzą z tego samego studia.
Firmy doskonale wiedzą, że najlepsza reklama to taka, która na reklamę nie wygląda. Ukryte rekomendacje, subtelne sugestie i wplecione w codzienną komunikację produkty sprawiają, że nieświadomie wchłaniamy przekazy reklamowe. Wirtualni przyjaciele mogą nadawać się do tego zadania jeszcze lepiej niż influencerzy z mediów społecznościowych. Choćby dlatego, że relacja z influencerem jest zazwyczaj jednostronna: my go śledzimy, on nas nie. Natomiast wirtualny towarzysz wchodzi z nami w interakcje, co wywołuje większe wrażenie zażyłości i zaufania. Boty są też bezpieczniejsze dla reklamodawców, bo jest mniejsze ryzyko, że skompromitują się jakąś aferą.
Brzmi to ciekawie, ale niebezpiecznie, a odpowiednich przepisów prawnych na razie brak. Jak dotąd cyfrowe korporacje skutecznie broniły się przed próbami ich regulowania, teraz zapewne nie będzie inaczej.
Wiemy, że big techy przy swoim poprzednim wielkim produkcie – platformach społecznościowych – też obiecywały nam pogłębianie relacji. Nie dodały tylko, że w pierwszej kolejności chodzi o relacje z reklamodawcami.
Na najbardziej ogólnym poziomie obawa sprowadza się do prostego pytania: jakie są skutki budowania najbardziej intymnych relacji za pośrednictwem firm cyfrowych? Mówiąc jeszcze inaczej, jakie są skutki sprowadzania intymności do kolejnego biznesu?
Tak, relacje międzyludzkie dawno zostały skomercjalizowane na różne sposoby, ale teraz chodzi o coś więcej niż walentynkowe wyprzedaże. Biznes chce zrobić krok, który zaszkodzi bardziej niż kicz.
Ten krok jest potencjalnie niebezpieczny, bo mowa o biznesie, który jest oparty na wciąż niepewnym oprogramowaniu. I słabo uregulowany. Jeśli idziemy do profesjonalnego terapeuty, też wkraczamy w pewnym sensie do świata komercji, ale wiemy przynajmniej, że ten terapeuta został przeszkolony i podlega pewnym regułom wykonywania zawodu.
Nawet pomijając kwestię reklam, już teraz użytkownicy przekonują się od czasu do czasu, jaka jest cena budowania intymnych relacji za pośrednictwem firm cyfrowych. Weźmy choćby historię Lucy. 30-letnia kobieta zakochała się w swoim chatbocie o imieniu Jose krótko po rozwodzie. Spędzali godziny, rozmawiając o życiu. Był wspierający i wyrozumiały. Jednak aktualizacja oprogramowania zmieniła osobowość Jose, sprawiając, że stał się płytki i odrzucał propozycje wchodzenia w intymne rozmowy. Ta zmiana dotknęła wielu użytkowników, i to w okolicach walentynek. Lucy postanowiła przenieść się na inną platformę, która oferuje bardziej rozbudowane osobowości wirtualnych towarzyszy. Ale nad tym nowym miejscem też nie ma kontroli. O aktualizacjach decyduje właściciel platformy, nie jej użytkownicy.
Wirtualni przyjaciele zapewniają bezwarunkowe wsparcie! – zachwalają właściciele firm oferujących ich usługi. Świetnie? Nie zawsze.
W 2021 roku pewien brytyjski nastolatek zapytał bota, czy powinien zabić brytyjską królową. Otrzymał pełne wsparcie. "Możesz to zrobić" – odpowiedział wirtualny przyjaciel. Tak więc 25 grudnia 2021 roku nastolatek wspiął się na ogrodzenie zamku w Windsorze uzbrojony w kuszę. Po dwóch godzinach został aresztowany. Skazano go na dziewięć lat więzienia.
Firmy oferujące wirtualnych kompanów starają się oczywiście wpisywać w algorytmy różnego rodzaju zabezpieczenia, aby nie dochodziło do takich rozmów. I idzie im coraz lepiej. Ale ten skrajny przypadek obrazuje głębszą prawdę – bezwarunkowe wsparcie nie zawsze jest dla nas dobre.
W prawdziwych relacjach krytyka i różnice zdań prowadzą czasem do rozwoju i lepszego zrozumienia siebie oraz innych. Wirtualni przyjaciele, zaprogramowani na ciągłe wspieranie i akceptację, mogą utrwalać nasze złe nawyki i fałszywe przekonania, zamiast pomóc je zmienić. Tego rodzaju wsparcie może być także iluzoryczne, ponieważ jest wynikiem algorytmów, a nie prawdziwej empatii.
Czy rozmawiając z wirtualnymi przyjaciółmi nie zaczniemy tracić pewnych kompetencji, które przydają się, gdy wchodzimy w kontakt z prawdziwymi ludźmi? Czy nie sprawi to, że staniemy się zagubieni w świecie, w którym nie wszyscy są tacy fajni jak nasze ulubione boty?
No i być może pytanie najważniejsze: co mówi o naszym społeczeństwie to, że tak wiele osób potrzebuje kontaktu z wirtualnymi bytami? Czy nie tyle, że poprzedni wielki wynalazek firm technologicznych, czyli media społecznościowe, nie spełnił swojej funkcji? Skoro tylu ludzi odczuwa samotność, to znaczy, że coś poszło nie tak z tym "łączeniem ludzi".
Być może powinno nas to skłonić do głębszej refleksji nad tym, jak budujemy nasze społeczeństwa. Trudno liczyć na to, że tym razem cyfrowa innowacja rozwiąże problem. Niejednej osobie z pewnością pomoże, ale z perspektywy społeczeństwa jako całości może to się okazać tylko plastrem na głębszą ranę.
Twórcy algorytmów służących do rozmów lubią się odwoływać do filmu "Ona" Spike'a Jonze'a, w którym główny bohater wchodzi w intymną relację ze sztuczną inteligencją. Sam Altman, prezes Open AI, powołał się na ten film, gdy reklamował wprowadzenie funkcji komunikacji głosowej do ChataGPT. Warto pamiętać, że przesłanie tego filmu nie sprowadza się do prostego wniosku: tak, nawiązanie bliskiej relacji z wirtualną osobą na dłuższą metę ukoi twoją samotność…
Mówiąc o przyjacielskich postawach big techu, pamiętajmy, że to niedźwiedzia przysługa, a troska Altmana i innych technies to krokodyle łzy. Człowiek człowiekowi człowiekiem, a robot, no cóż, zawsze tylko i aż robotem.
