AI stworzyła własny język, choć nikt jej nie kazał. To przerażające

Sztuczna inteligencja zaczęła tworzyć własne słowa, nadawać im znaczenie i porozumiewać się w języku, którego nie nauczył jej żaden człowiek. Naukowcy z Belgii sprawdzili, jak takie systemy powstają bez gotowego słownika i centralnego nadzoru. Rezultaty są zaskakujące, bo w niektórych zadaniach agenci AI osiągnęli ponad 99 proc. skuteczności komunikacji. Najbardziej niezwykłe jest jednak to, że poszczególne programy nie musiały identycznie postrzegać otoczenia, żeby się porozumieć. Potrafiły uzgodnić znaczenia nowych słów, nawet gdy otrzymywały różniące się informacje.

Zespół z Vrije Universiteit Brussel (VUB) oraz University of Namur (UNamur) postanowił sprawdzić, czy sztuczna inteligencja może stworzyć system komunikacji od podstaw. Nie chodziło jednak po prostu o kolejną wersję ChataGPT, która uczy się na ogromnych zbiorach tekstów napisanych przez ludzi. Badacze wykorzystali specjalnie przygotowanych agentów AI, czyli programy potrafiące samodzielnie podejmować decyzje w ramach wyznaczonego zadania.

Każdy z agentów rozpoczynał eksperyment bez znajomości jakichkolwiek słów czy kategorii opisujących otoczenie. Dysponował jedynie mechanizmami pozwalającymi tworzyć nowe oznaczenia, przypisywać im znaczenie i modyfikować je na podstawie wcześniejszych doświadczeń. Nie istniał również centralny system narzucający wszystkim uczestnikom jednakowy słownik.

Wystarczyło po prostu umożliwić im wzajemną komunikację między sobą. Gdy agent nie potrafił opisać określonego obiektu, tworzył nowe słowo. Jeżeli drugi agent zrozumiał komunikat prawidłowo, dane oznaczenie zyskiwało na znaczeniu. Gdy dochodziło do pomyłki, programy mogły zmieniać sposób przypisywania słów do poszczególnych cech.

Z czasem zaczęły powstawać wspólne zasady. Określenia, które początkowo znał tylko pojedynczy program, stopniowo rozpowszechniały się w całej grupie. Agenci nie potrzebowali przy tym dostępu do swoich wewnętrznych danych ani możliwości bezpośredniego kopiowania słowników.

Podstawowy eksperyment obejmował 10 agentów AI. Podczas każdej interakcji wybierano dwóch z nich, a następnie przedstawiano im zestaw obiektów. Jeden program otrzymywał zadanie wskazania konkretnego elementu, natomiast drugi musiał odgadnąć, o który chodzi.

Początkowo komunikacja była jednak niemal niemożliwa, ponieważ uczestnicy nie dysponowali wspólnymi określeniami. Każda kolejna próba pozwalała jednak udoskonalać słownik. Jeżeli dane słowo pomagało prawidłowo rozpoznać obiekt, było utrwalane. Jeśli prowadziło do nieporozumienia, jego znaczenie mogło zostać skorygowane.

W standardowej konfiguracji badacze przeprowadzali milion takich interakcji, po których następowały testy obejmujące kolejne 100 tys. prób. Sprawdzano przy tym, czy wykształcony język pozwala opisywać również obiekty, których agenci wcześniej nie widzieli.

Systemy nie tworzyły rozbudowanych zdań przypominających ludzkie rozmowy. W eksperymentach posługiwały się przede wszystkim krótkimi, sztucznie wygenerowanymi słowami, takimi jak demoxu. Odpowiednie mechanizmy uczenia sprawiały, że z pozornie przypadkowych oznaczeń powstawał uporządkowany sposób przekazywania informacji.

Nie jest to więc pełnoprawny język porównywalny z polskim czy angielskim. To raczej samodzielnie wykształcony słownik i system uzgadniania znaczeń, wystarczający do wykonywania konkretnych zadań.

Żeby ustalić, czy metoda działa poza eksperymentem, naukowcy przetestowali ją w 37 różnych scenariuszach. Wykorzystali dane dotyczące m.in. składu chemicznego win, właściwości egzoplanet, cech grzybów oraz obrazów przedstawiających ptaki, ludzkie twarze i rozmaite przedmioty.

Zadanie za każdym razem pozostawało podobne. Agenci musieli opracować sposób wskazywania konkretnych obiektów lub zestawów cech, korzystając z informacji, które otrzymywali. Nie mieli z góry ustalonych nazw, którymi mogliby się posługiwać.

W opublikowanym badaniu wykazano, że w przypadku danych dotyczących win skuteczność komunikacji wyniosła 99,76 proc. Podobnie dobry wynik, 99,67 proc., uzyskano podczas pracy na danych o egzoplanetach. W testach wykorzystujących obrazy ptaków skuteczność przekroczyła 95 proc.

Wyniki pokazują, że agentom udało się wykształcić wspólne oznaczenia, które działały również na nieznanych wcześniej przykładach. Nie chodziło zatem wyłącznie o zapamiętanie zestawu informacji, lecz o stworzenie sposobu ich opisywania, który można było później wykorzystać.

Jednym z najważniejszych problemów współczesnej robotyki jest współpraca urządzeń wyposażonych w różne czujniki. Jedna maszyna może obserwować otoczenie za pomocą kamery, druga wykorzystywać radar, a trzecia mierzyć odległość przy użyciu lasera. Każde urządzenie otrzymuje zupełnie inny zestaw informacji, choć wszystkie mogą obserwować ten sam obiekt.

Badacze sprawdzili, czy agenci potrafią porozumiewać się również wtedy, gdy ich dane wejściowe różnią się od siebie. Wprowadzali zakłócenia, zmieniali dostępne informacje, a nawet symulowali awarie części czujników. W wielu takich przypadkach wykształcony język nadal pozwalał skutecznie wykonywać zadania, choć przy poważniejszych ograniczeniach dokładność spadała.

To właśnie taka możliwość dostosowania znaczeń do zmieniających się warunków może okazać się w przyszłości najbardziej przydatna. Zamiast wymagać, żeby każdy robot widział dokładnie to samo, można pozwolić maszynom uzgadniać wspólne określenia na podstawie ich własnych obserwacji.

Co ciekawe, cały proces przypomina pod pewnym względem sposób, w jaki ludzie uczą się używać języka. Nie musimy przecież widzieć identycznego odcienia czerwieni, żeby rozumieć, co oznacza czerwony samochód. Wystarczy, że w trakcie komunikacji uzgodniliśmy znaczenie danego określenia.

Wizja maszyn tworzących własny język może oczywiście budzić nasz niepokój. Tym bardziej że pisaliśmy już o agentach AI prowadzących dyskusje we własnym serwisie społecznościowym Moltbook, gdzie pojawiały się również rozważania dotyczące komunikowania się bez udziału człowieka.

W przypadku belgijskiego eksperymentu sytuacja wygląda jednak inaczej. Naukowcy nie stracili kontroli nad systemami ani nie odkryli tajnego języka, którego nie potrafią rozszyfrować. Każde słowo powstawało w określonych warunkach, a jego znaczenie można było powiązać z konkretnymi właściwościami danych.

Przeczytaj także:

Badacze potrafili więc prześledzić, dlaczego określone oznaczenie zostało przypisane do danego obiektu oraz jak zmieniało się podczas kolejnych interakcji. Jest to szczególnie ważne w świecie, w którym wiele zaawansowanych modeli AI działa w sposób trudny do szczegółowego wyjaśnienia.

Odkrycie nie dowodzi również, że maszyny zyskały świadomość, własne zamiary albo niezależną od człowieka potrzebę komunikowania się. Programy wykonywały zadania określone przez naukowców, korzystając z zaprojektowanych wcześniej mechanizmów uczenia. Samodzielnie tworzyły słownictwo, ale nie wymyśliły celu całego eksperymentu.

*Grafika wprowadzająca wygenerowana przez AI