Boty mają narodowość. Zmień język - zdziwisz się okrutnie
Najnowsze badanie przeprowadzone przez naukowców z MIT i Uniwersytetu Tongji wykazało, że duże modele językowe generują treści nacechowane kulturowo.
Wszystko zależy od tego, w jakim języku odpowiadają. To pierwsze tak szeroko zakrojone porównanie, które rzuca światło na to, jak język może wpływać na osobowość sztucznej inteligencji.
ChatGPT dopasowuje swoje odpowiedzi do wzorca kulturowego
W badaniu opublikowanym na łamach Nature Human Behaviour autorzy przyjrzeli się odpowiedziom generowanym przez modele GPT oraz ERNIE. Analizowali dwa kluczowe aspekty psychologiczne: orientację społeczną (czy model promuje podejście bardziej wspólnotowe, czy indywidualistyczne) oraz styl poznawczy (czy przetwarza informacje w sposób analityczny, czy holistyczny).
Okazało się, że ChatGPT w wersji chińskojęzycznej prezentował silniejszą orientację wspólnotową oraz bardziej holistyczne podejście do informacji, w porównaniu z wersją anglojęzyczną, która była bardziej indywidualistyczna i analityczna. Analogiczne wyniki uzyskano dla modelu ERNIE.
Język kształtuje odpowiedzi modeli. Czy da się to zmienić?
Wnioski autorów badania są jednoznaczne – język, w jakim zadawane są pytania, wpływa na treści generowane przez model. Modele AI uczą się na podstawie danych nacechowanych kulturowo. Sprawia to, że przenoszą te tendencje do swojej osobowości i stylu odpowiedzi.
Przeczytaj także:
Czy da się to zmienić? Autorzy jako jedno z możliwych rozwiązań zaproponowali kulturowe promptowanie. W praktyce polega to na proszeniu modelu o udzielenie odpowiedzi z perspektywy określonej kultury, np. odpowiedz jak osoba wychowana w kulturze europejskiej. Taka modyfikacja promptu pozwala częściowo sterować kulturowym tonem wygenerowanej treści. Badacze sugerują też, że przyszłość modeli językowych może wymagać stworzenia wersji konfigurowalnych kulturowo, które pozwolą użytkownikowi określić preferowany kontekst społeczny lub wartości, jakimi odpowiedź powinna się kierować.
*Źródło zdjęcia wprowadzającego: Markus Mainka / Shutterstock
