Wystarczyła kobieca twarz i imię. Ludzie przenieśli swoje uprzedzenia na maszyny

Technologia była ta sama, zadania takie same, a różnica pojawiła się dopiero w sposobie, w jaki sztuczną inteligencję pokazano człowiekowi. W eksperymencie z udziałem 189 pracowników humanoidalna Johanna została wynagrodzona gorzej niż Johan. Badanie pokazuje przede wszystkim, że wyposażenie sztucznej inteligencji w twarz, imię i ludzką postać nie musi być tylko decyzją projektową. Wraz z wyglądem możemy przenieść do cyfrowego świata także stereotypy, które od dawna wpływają na relacje między ludźmi.

Naukowcy z Uniwersytetu w Zurychu, University of Limerick i SKEMA Business School umieścili 189 pracowników wiedzy w wirtualnym biurze. Uczestnicy wykonywali zadania zawodowe przy wsparciu różnych przedstawień asystenta wykorzystującego sztuczną inteligencję.

Wśród nich znalazły się humanoidalne wersje przedstawione jako Johan i Johanna. Obie opierały się na tym samym modelu GPT-4-1106-preview i miały te same możliwości. Różnił je przede wszystkim sposób przedstawienia użytkownikowi, w tym cechy sugerujące płeć.

Po wykonaniu zadania uczestnicy nie odpowiadali jedynie na ankietę dotyczącą swoich odczuć. Dostawali prawdziwe pieniądze i mieli zdecydować, jaką część zachowają dla siebie, a jaką przeznaczą jako nagrodę dla pomagającego im agenta. To właśnie wtedy pojawiła się różnica. Johanna otrzymała przeciętnie o 10,25 proc. mniej niż Johan. Pieniądze były narzędziem eksperymentalnym mającym zmusić uczestników do podjęcia decyzji posiadającej realną wartość, zamiast ograniczać badanie do deklaracji.

Różnica finansowa robi się jeszcze ciekawsza w zestawieniu z ocenami uczestników. Johan i Johanna wykonywali tę samą pracę i byli oceniani pod względem swojej użyteczności bardzo podobnie. Męski agent wzbudzał nieco większe zaufanie, ale ta różnica nie była statystycznie istotna. Jednocześnie Johan był postrzegany jako bardziej podobny do człowieka niż Johanna.

Po eksperymencie badacze przeprowadzili również pogłębione rozmowy z 34 uczestnikami. Wiele osób twierdziło, że płeć agenta AI nie ma dla nich znaczenia. Deklaracje nie pokrywały się więc z wcześniejszym zachowaniem przy podziale pieniędzy.

To jeden z ważniejszych elementów badania. Nie pokazuje ono mechanizmu, w którym uczestnik świadomie stwierdza, że żeński agent zasługuje na mniej. Wręcz przeciwnie, ludzie deklarowali, że cecha ta jest dla nich nieistotna, a mimo to w decyzjach finansowych pojawiła się wyraźna różnica.

Człowiek bardzo szybko wyciąga wnioski z wyglądu innych osób. Twarz, głos, ubiór czy sposób zachowania potrafią wpływać na ocenę kompetencji i wiarygodności jeszcze zanim pojawią się informacje pozwalające taką ocenę sensownie uzasadnić.

Ten mechanizm nie zanika tylko dlatego, że po drugiej stronie znajduje się program komputerowy. Kiedy nadajemy AI ludzką twarz i imię, dostarczamy mózgowi zestaw sygnałów społecznych, które zna od całego życia. Już wcześniejsze eksperymenty pokazywały, że sam wygląd twarzy stworzonej przez AI może silnie wpływać na zaufanie. Ludzie potrafili uznawać syntetyczne portrety za bardziej wiarygodne niż zdjęcia prawdziwych osób, mimo że często nie byli nawet w stanie poprawnie określić, które twarze zostały wygenerowane. Tu wygląd nie zmieniał wyłącznie odpowiedzi w kwestionariuszu. Różnica pojawiła się przy decyzji dotyczącej rzeczywistych pieniędzy.

Eksperyment nie ograniczał się do porównania Johana z Johanną. Naukowcy sprawdzali również, jak uczestnicy reagują na bardziej i mniej ludzkie sposoby przedstawienia sztucznej inteligencji. Okazało się, że bardziej humanoidalne wersje otrzymywały większe nagrody i więcej uznania za swój wkład w pracę niż bardziej mechaniczne przedstawienie asystenta.

Co ciekawe, później część uczestników twierdziła, że wolałaby system wyraźnie nieprzypominający człowieka. Powstaje więc paradoks, bo ludzie mogą deklarować, że nie potrzebują humanoidalnego współpracownika, a jednocześnie reagować na takiego agenta w bardziej społeczny sposób.

To może mieć znaczenie znacznie większe niż wybór ładnego awatara. Agenci AI zaczynają już samodzielnie wykonywać zadania, które jeszcze niedawno wymagały działania człowieka. Im częściej będą odgrywać rolę współpracowników, konsultantów czy pośredników, tym częściej ich projektanci będą musieli zdecydować, czy nadać im imię, głos, twarz i inne ludzkie cechy.

Z wyniku 10,25 proc. nie należy jednak wyciągać wniosku, że kobiece agentki AI zawsze będą otrzymywały dokładnie o tyle mniejsze wynagrodzenie. Badanie objęło 189 osób i odbywało się w kontrolowanym środowisku VR. Nie jest więc odpowiednikiem wieloletniej analizy prawdziwego rynku pracy.

Nie można też na jego podstawie stwierdzić, że różnicę powodowała wyłącznie jedna cecha twarzy. Eksperyment dotyczył szerszego sposobu prezentowania płci humanoidalnego agenta, a Johan był dodatkowo odbierany jako bardziej ludzki. Autorzy nie pokazali jednego prostego mechanizmu psychologicznego odpowiadającego za całą różnicę.

Przeczytaj także:

Wniosek jest znacznie węższy, ale przez to i ciekawszy. Dwa systemy o tych samych możliwościach mogą być traktowane inaczej tylko dlatego, że użytkownikom przedstawiono je w inny sposób. Jeżeli AI rzeczywiście zacznie wchodzić do firm jako cyfrowy współpracownik, projektowanie jej wyglądu przestanie być wyłącznie kwestią estetyki. Wraz z twarzą i imieniem możemy bowiem nieświadomie nadać maszynie nie tylko osobowość, lecz również miejsce w całym zestawie ludzkich stereotypów.

*Grafika wprowadzająca wygenerowana przez AI