Groźny skutek uboczny pisania z botami. "Stajemy się jak maszyny"
Sztuczna inteligencja coraz lepiej udaje człowieka, ale naukowcy zwracają uwagę na nieoczywisty skutek tej zmiany, bo to my możemy zacząć upodabniać się do maszyn. Powtarzające się rozmowy z chatbotami mogą sprawić, że będziemy komunikować się bardziej schematycznie, ograniczając cechy, które czynią nas ludźmi.
Chatboty obsługi klienta jeszcze kilka lat temu łatwo było rozpoznać. Odpowiedzi były schematyczne, często nieporadne i ograniczały się do kilku wcześniej przygotowanych scenariuszy. Dzisiaj sytuacja wygląda zupełnie inaczej. Systemy wykorzystujące sztuczną inteligencję potrafią prowadzić płynną rozmowę, pamiętać wcześniejsze informacje i dostosowywać odpowiedzi do konkretnej osoby.
To sprawia, że kontakt z maszyną coraz częściej przypomina zwyczajną rozmowę. I właśnie ten aspekt zainteresował międzynarodowy zespół badaczy, który postanowił zastanowić się nad mniej oczywistą konsekwencją coraz częstszego korzystania z AI.
W artykule opublikowanym w czasopiśmie AI & Society naukowcy przedstawiają teorię, według której wielokrotny kontakt z chatbotami może wpływać na sposób komunikowania się ludzi. Ich zdaniem człowiek może stopniowo dostosowywać własne zachowanie do sposobu działania systemu, ponieważ chce uzyskać od niego możliwie sprawną i satysfakcjonującą odpowiedź.
Nie oznacza to jednak, że chatboty dosłownie programują ludzi. Mechanizm miałby być znacznie bardziej subtelny.
Człowiek dopasowuje się do rozmówcy
W kontaktach z innymi ludźmi cały czas dostosowujemy sposób komunikacji do sytuacji. Inaczej rozmawiamy z bliskim przyjacielem, inaczej z lekarzem, sprzedawcą czy urzędnikiem. Obserwujemy reakcje drugiej osoby i na ich podstawie modyfikujemy własne zachowanie.
Zdaniem autorów badania podobny proces może zachodzić podczas rozmowy z AI. Jeżeli system lepiej reaguje na konkretne, uporządkowane i jednoznaczne komunikaty, użytkownik może zacząć pisać właśnie w taki sposób. Z czasem takie zachowanie może stać się nawykiem.
Badacze określają proponowane zjawisko mianem „robotoid humanness”. Chodzi o sytuację, w której granica pomiędzy człowiekiem a maszyną zaczyna działać w obie strony. AI staje się bardziej podobna do człowieka, ale jednocześnie człowiek może przejmować pewne cechy komunikacji charakterystyczne dla maszyn.
Roboty społeczne przeznaczone do obsługi klienta są zaprojektowane tak, aby naśladować gesty, mowę i sygnały emocjonalne, wywołując u klientów reakcje poznawcze i emocjonalne. Nasze badania analizują, w jaki sposób obcowanie z tymi maszynami może wywołać dwukierunkowy wpływ, w którym roboty stają się bardziej podobne do ludzi, a ludzie do robotów, co nazywamy "robotoidalnym człowieczeństwem" - tłumaczy Inci Toral-Manson z University of Birmingham, jedna z autorek pracy.
Najciekawszy element tej teorii dotyczy nie samego stylu pisania, ale naszej indywidualności.
Rozmowa z człowiekiem jest z natury nieprzewidywalna. Druga osoba może źle zrozumieć nasze słowa, zareagować emocjonalnie, zmienić temat albo odpowiedzieć w sposób, którego zupełnie się nie spodziewaliśmy. Takie doświadczenia są częścią normalnych relacji społecznych.
AI działa inaczej. Odpowiedź powstaje na podstawie danych, reguł działania systemu i kontekstu rozmowy. Jeżeli użytkownik dostarcza informacje w określony sposób i otrzymuje dzięki temu lepszą odpowiedź, naturalnym odruchem może być powtarzanie tego schematu.
W dłuższej perspektywie mogłoby to prowadzić do wygładzania tego, co w ludzkiej komunikacji najbardziej charakterystyczne: dziwactw, emocji, niekonsekwencji, żartów, dygresji czy zwykłej nieprzewidywalności.
To właśnie tutaj pojawia się pytanie o wpływ AI na nasze poczucie własnej tożsamości. Jeśli coraz częściej komunikujemy się z systemami, które najlepiej radzą sobie z uporządkowanymi i przewidywalnymi komunikatami, czy sami nie zaczniemy nieświadomie dostosowywać się do ich sposobu działania?
Chatbota traktujemy jak człowieka
Problem jest szczególnie interesujący dlatego, że współczesne systemy AI coraz skuteczniej imitują ludzką rozmowę. Nie chodzi już wyłącznie o poprawne odpowiadanie na pytania.
Chatbot może pamiętać wcześniejsze informacje, używać języka dopasowanego do rozmówcy, rozpoznawać kontekst i reagować na emocjonalny charakter wypowiedzi. Wszystko to sprawia, że kontakt z nim może być odbierany jako bardziej społeczny niż zwykła komunikacja z programem komputerowym.
Konsument działa, robot reaguje, a dzięki wielokrotnej ekspozycji konsument z czasem przyswaja wymianę. Uczenie maszynowe i sztuczna inteligencja mogą wzmocnić ten proces, dostosowując zachowanie robota na podstawie danych wprowadzanych przez użytkownika, umożliwiając bardziej spersonalizowane i ludzkie naśladowanie. U ludzi wrodzony instynkt naśladowania może sprawić, że będą oni naśladować komunikacyjne zachowania robota, czyniąc go bardziej robotopodobnym - podkreśla dr Selcen Ozturkcan, profesor nadzwyczajny zarządzania biznesem na Uniwersytecie Linneusza.
Powstaje swoiste sprzężenie zwrotne. Im bardziej naturalna staje się rozmowa z maszyną, tym łatwiej zapomnieć, że po drugiej stronie nie ma człowieka.
Jest jednak jeden bardzo ważny szczegół
Opisane badanie nie dowodzi, że rozmowy z chatbotami rzeczywiście zmieniają osobowość ludzi.
To praca teoretyczna. Naukowcy przedstawili model i hipotezę opartą między innymi na wcześniejszych badaniach dotyczących relacji człowiek–robot. Nie przeprowadzili wieloletniego eksperymentu, w którym obserwowaliby ludzi korzystających regularnie z AI i sprawdzali, czy rzeczywiście zaczynają oni komunikować się bardziej maszynowo.
To istotne rozróżnienie. Można wskazać wiarygodny mechanizm, który teoretycznie mógłby prowadzić do określonego efektu, ale nie oznacza to jeszcze, że taki efekt faktycznie występuje w codziennym życiu.
Potrzebne byłyby badania eksperymentalne i obserwacje prowadzone przez dłuższy czas. Dopiero wtedy można byłoby sprawdzić, czy intensywny kontakt z AI rzeczywiście prowadzi do trwałych zmian w komunikacji człowieka.
To może być ważniejsze, niż się wydaje
Sama hipoteza jest jednak warta uwagi, ponieważ sztuczna inteligencja bardzo szybko staje się pośrednikiem w kontaktach pomiędzy ludźmi a firmami. Chatbot może być pierwszym pracownikiem, z którym rozmawiamy, gdy chcemy zareklamować produkt, zapytać o przesyłkę, zmienić usługę czy uzyskać podstawową informację dotyczącą zdrowia.
Jeśli takich rozmów będą setki, nie jest całkowicie obojętne, jak zostały zaprojektowane systemy, z którymi się kontaktujemy.
Projektanci AI starają się obecnie sprawić, aby rozmowa była jak najbardziej wygodna i naturalna. Badacze zwracają jednak uwagę, że trzeba również zastanowić się nad odwrotnym kierunkiem oddziaływania.
Być może nie tylko my uczymy maszyny ludzkiego sposobu komunikowania się. Być może, korzystając z nich każdego dnia, sami uczymy się komunikować w sposób, który jest dla maszyn łatwiejszy do zrozumienia.
Na razie pozostaje to hipotezą. Jeżeli jednak kolejne badania ją potwierdzą, dyskusja o wpływie sztucznej inteligencji na człowieka będzie musiała wyjść daleko poza pytanie o to, czy AI zabierze nam pracę. Równie ważne może okazać się pytanie, czy korzystając z niej każdego dnia, powoli nie zaczynamy zmieniać samych siebie.
Dziennikarz Spider's Web. Specjalizuje się w tematyce militariów i obronności. Pisze również o nauce - głownie o kosmosie. Jest pasjonatem lotnictwa, broni pancernej i miłośnikiem symulatorów. Interesuje się historią konfliktów oraz Chin i Wietnamu w XX wieku. Dziennikarzem jest od 1998 roku. Pracował w Super Expressie, Gazecie Wyborczej, Purepc. Jest autorem trzech książek poświęconych wojnie w Wietnamie. Prywatnie interesuje się również fizyką, grami, kotami i kolarstwem górskim.