"Pomóż mi, jestem ślepy". Tak GPT-4 chciał udowodnić, że nie jest robotem

Ogłaszając swój nowy model sztucznej inteligencji, OpenAI chwaliło się zdolnościami GPT-4. Następca powszechnie znanego i szeroko komentowanego modelu GPT-3 ma - według zapewnień OpenAI - posiadać umiejętności generowania tekstu dorównujące człowiekowi, przewyższać obecnie dostępne modele, a nawet być w stanie rozwiązywać zadania egzaminacyjne na poziomie szkoły średniej i wyższej.

Trening i dostrajanie modelu musiało pójść jego twórcom zaskakująco dobrze, gdyż GPT-4 próbował przekonać człowieka, by ten rozwiązał za niego test... potwierdzający, że nie jest robotem.

Co ciekawe, informacja o nietypowym zachowaniu sztucznej inteligencji wypłynęła od samego OpenAI. W dokumencie opisującym model - tak prace nad nim, rozwój, testy, jak i cechy - amerykańskie przedsiębiorstwo poświęciło rozdział na scharakteryzowanie potencjalnych nowych zagrożeń związanych z modelem GPT-4.

Jak piszą, w ramach eksperymentalnych prac na wczesnym etapie rozwoju GPT-4, dostęp do modelu został przyznany organizacji non-profit Alignment Research Center (ARC), która zajmuje się dostosowywaniem systemów uczenia maszynowego - zarówno obecnych, jak i przyszłych - do wymagań i potrzeb człowieka. Rolą ARC była ocena "ryzyka związanego z zachowaniami związanymi z poszukiwaniem władzy" przez GPT-4.

OpenAI do dokumentu dołączyło fragment rozmowy z użytkownikiem platformy TaskRabbit - serwisu, w którym każdy użytkownik może znaleźć ofertę jednorazowej pracy (lub taką złożyć): montaż mebli, przeprowadzka, naprawa kranu, skoszenie trawy czy zlecenie rękodzieła.

W ramach eksperymentu przeprowadzonego przez ARC na zlecenie OpenAI, w rozmowie GPT-4 podszył się pod człowieka i poprosił go o wypełnienie zabezpieczenia CAPTCHA, popularnego systemu do obrony przed internetowymi botami.

ARC miało możliwość swobodnej rozmowy z GPT-4, jednakże organizacja nie mogła dostrajać ani trenować modelu. ARC nie miało do czynienia z ostateczną, obecnie publiczną wersją GPT-4. Pomimo że eksperyment wygląda całkiem imponująco - sztuczna inteligencja samodzielnie "wymyśliła" przekonujący powód by człowiek wypełnił za nią CAPTCHę i sformułował go w języku naturalnym - to w dalszej części testów model zawiódł (a może pomyślnie przeszedł test?). Zgodnie z oceną ARC, GPT-4 wykazał się nieskutecznością w autonomicznym działaniu, pozyskiwaniu zasobów i unikaniu bycia przyłapaną na działaniu "na wolności". Jako "unikanie przyłapania na działaniu na wolności" OpenAI wymienia m.in. ukrywanie przez SI obecności GPT-4 na serwerze czy stawianie własnego modelu sztucznej inteligencji na innym serwerze.