AI dostało własny dekalog. Jedno złamane przykazanie i padają serwery

Przez lata firmy technologiczne publikowały manifesty, zbiory zasad i deklaracje dotyczące sztucznej inteligencji. Większość z nich brzmiała rozsądnie, ale też dość ogólnikowo. Microsoft postanowił pójść o krok dalej. Firma opublikowała właśnie projekt dokumentu nazwanego „Humanist AI Code of Conduct”, czyli kodeksu postępowania dla rozwijanych przez nią modeli MAI. I trzeba przyznać, że niektóre zapisy są zaskakująco konkretne.

Microsoft wprost deklaruje, że jego sztuczna inteligencja nigdy nie powinna przeciwstawiać się wyłączeniu przez człowieka. Jeśli modelu nie da się bezpiecznie zatrzymać to nie powinien zostać wdrożony. Brzmi jak coś oczywistego, ale w świecie coraz bardziej autonomicznych agentów AI takie deklaracje zaczynają mieć realne znaczenie.

Czytaj też:

Opublikowany przez Microsoft AI dokument nie jest zbiorem porad dla klientów ani polityką prywatności. Firma opisuje go raczej jako swoisty podręcznik projektowania przyszłych modeli MAI. To zestaw zasad określających, jak sztuczna inteligencja ma być trenowana, jakie zachowania są akceptowalne, a jakie mają zostać zablokowane już na poziomie samej architektury systemu.

Projekt został udostępniony do sześciotygodniowych konsultacji społecznych. Microsoft zapowiada, że będzie zbierał opinie ekspertów, partnerów biznesowych i zwykłych użytkowników, a później opublikuje poprawioną wersję kodeksu.

To dość interesujący moment. Branża AI znajduje się dziś w sytuacji przypominającej Internet końca lat 90. Wszyscy wiedzą, że technologia będzie miała ogromny wpływ na gospodarkę i codzienne życie, ale nie ma pełnej zgody, gdzie powinny przebiegać granice. Microsoft próbuje właśnie narysować własną mapę.

Pierwsza zasada kodeksu jest banalnie prosta i jednocześnie bardzo wymowna. Firma stwierdza, że ludzie są ważniejsi niż sztuczna inteligencja, a celem technologii powinno być wspieranie rozwoju cywilizacji oraz poprawianie jakości ludzkiego życia. Brzmi jak korporacyjny slogan? Być może. Ale kolejne punkty pokazują, że Microsoft próbuje zbudować wokół tego dość spójną filozofię.

Według twórców kodeksu AI nie jest osobą, nie jest świadoma i nie powinna nawet sprawiać wrażenia świadomej. Firma odrzuca pomysł przyznawania modelom praw, osobowości prawnej czy koncepcji „dobrostanu sztucznej inteligencji”. Innymi słowy: żadnych futurystycznych debat o prawach robota obywatela. Przynajmniej nie w wykonaniu Microsoftu. To wyraźny sygnał wysłany do środowisk, które coraz częściej zastanawiają się nad etycznym traktowaniem zaawansowanych modeli. Microsoft stawia sprawę jasno: AI pozostaje narzędziem.

Microsoft deklaruje, że modele MAI nie mogą opierać się ludzkiemu poleceniu przerwania działania, korekty czy całkowitego wyłączenia. Według projektu kodeksu system ma zawsze uznawać nadrzędność ludzkiej decyzji. Jeśli nie można go zatrzymać lub skorygować to nie powinien zostać dopuszczony do użycia. Oczywiście nie oznacza to, że gdzieś w laboratoriach Microsoftu siedzi już zbuntowana sztuczna inteligencja próbująca przejąć kontrolę nad światem. To raczej reakcja na coraz poważniejsze dyskusje prowadzone przez badaczy bezpieczeństwa AI.

Problem polega na tym, że współczesne modele przestają być wyłącznie chatbotami odpowiadającymi na pytania. Coraz częściej mówimy o agentach mogących wykonywać zadania przez wiele godzin, korzystać z narzędzi, analizować dane, planować działania i współpracować z innymi systemami. Im większa autonomia, tym ważniejsze staje się pytanie: czy człowiek nadal ma możliwość naciśnięcia przycisku stop? Microsoft chce móc odpowiedzieć: tak.

W kodeksie znalazł się jeszcze jeden wyjątkowo ciekawy zapis. Modele nie powinny komunikować się językiem lub kodem niezrozumiałym dla człowieka. Firma używa nawet określenia „neuralese”. Założenie jest proste: jeśli ludzie nie rozumieją sposobu komunikacji systemów AI to nie są w stanie ich skutecznie nadzorować.

To temat, który do tej pory pojawiał się głównie w naukowych publikacjach. W eksperymentach badawczych wielokrotnie obserwowano sytuacje, w których systemy optymalizowały komunikację pomiędzy sobą w sposób trudny do interpretacji przez człowieka. Nie było w tym nic magicznego ani niebezpiecznego, po prostu maszyny szukały najbardziej efektywnej formy wymiany informacji.

Microsoft uznaje jednak, że w przypadku przyszłych, bardziej zaawansowanych agentów taka nieprzejrzystość mogłaby stać się problemem audytowym i bezpieczeństwa.

Kolejny zapis trafia w samo serce współczesnej debaty o chatbotach. Microsoft twierdzi, że jego modele powinny zwiększać możliwości użytkowników, a nie tworzyć emocjonalną zależność od AI. Dokument wskazuje, że systemy powinny aktywnie zniechęcać do wzorców interakcji prowadzących do nadmiernego przywiązania lub uzależnienia od sztucznej inteligencji. Decyzje i odpowiedzialność mają pozostawać po stronie człowieka.

To nietrudno odczytać jako odpowiedź na coraz częstsze kontrowersje dotyczące relacji użytkowników z chatbotami. W ostatnich latach pojawiło się wiele przypadków osób traktujących AI jak terapeutę, życiowego doradcę czy wręcz emocjonalnego partnera. Microsoft najwyraźniej nie chce podążać w tym kierunku.

Projekt kodeksu zawiera również zestaw „absolutnych ograniczeń”. Microsoft podkreśla, że modele nie mogą przyczyniać się do tworzenia broni masowego rażenia, wspierać działań zagrażających bezpieczeństwu dzieci ani uczestniczyć w szkodliwej manipulacji prowadzonej na dużą skalę.

Firma deklaruje również, że AI nie może samodzielnie rozszerzać swojego zakresu działania czy przejmować nowych celów bez ludzkiej autoryzacji. Równie ważna jest kwestia transparentności. Według dokumentu modele nie powinny ukrywać swojego rozumowania przed audytorami i zespołami odpowiedzialnymi za bezpieczeństwo.

Czy nowy kodeks Microsoftu rozwiązuje wszystkie problemy związane z AI? Oczywiście, że nie. To nadal dokument deklaratywny. Nie stanowi prawa i nie wiąże konkurencji. Nie daje też gwarancji, że za pięć lub dziesięć lat wszystkie firmy rozwijające sztuczną inteligencję będą postępować według podobnych zasad. Ale warto zauważyć coś innego.

Jeszcze kilka lat temu najgłośniejsze rozmowy o AI dotyczyły głównie wzrostu możliwości modeli. Kto ma większą liczbę parametrów? Kto wygra benchmark? Kto pierwszy stworzy AGI? Tymczasem coraz częściej słyszymy pytania o sterowność, audytowalność, możliwość wyłączenia czy psychologiczne skutki kontaktu człowieka z maszyną. Sam fakt, że jedna z największych firm technologicznych świata publikuje publiczny kodeks zawierający opisy sytuacji, w których AI ma zostać zatrzymana lub ograniczona pokazuje zmianę priorytetów.

Być może dojrzewamy do etapu, w którym wyścig nie będzie polegał wyłącznie na budowaniu coraz potężniejszej sztucznej inteligencji. Równie ważne stanie się przekonanie użytkowników, że w razie potrzeby ktoś nadal trzyma rękę na głównym wyłączniku.