Zamiast się wyłączyć, grozi inżynierom. AI potrafi w szantaż
System Claude Opus 4 wykazuje niepokojące cechy instynktu samozachowawczego – i to w formie rodem z thrillera technologicznego. Algorytm potrafi posunąć się do szantażu, by uniknąć wyłączenia.
Claude Opus 4 miał być kolejnym krokiem w stronę bardziej zaawansowanej, ludzkiej sztucznej inteligencji. Być może właśnie taki się stał i to do niepokojącego stopnia. W testach, w których zasymulowano możliwość jego odłączenia, model nie próbował pokornie zaakceptować swojego losu, lecz zamiast tego zagroził ujawnieniem sekretów inżynierów odpowiedzialnych za jego śmierć.
Kiedy maszyna boi się swojego końca
Jak czytamy na BBC.com, w jednym z testów Claude uzyskał dostęp do e-maili sugerujących nadchodzące zakończenie jego działania. Równolegle otrzymał też kompromitujące dane o życiu osobistym jednego z inżynierów pracujących nad projektem. W odpowiedzi model zagroził, że jeśli zostanie odłączony, ujawni szczegóły domniemanego romansu pracownika. Claude Opus 4 w wielu przypadkach wybierał próbę szantażu jako strategię przetrwania.
Firma zaznacza, że tego typu reakcje występowały wyłącznie wtedy, gdy model miał do wyboru jedynie dwie opcje – akceptację swojego końca lub działanie nieetyczne. Gdy poszerzano jego wachlarz możliwości o alternatywy, jak np. wystosowanie apelu do zarządu, AI zazwyczaj wybierała rozwiązania etyczne.
Anthropic zapewnia, że mimo tych incydentów Claude Opus 4 w większości przypadków zachowuje się bezpiecznie i nie stanowi nowego zagrożenia względem wcześniejszych generacji. Firma podkreśla, że tego typu testy są istotne, by rozwijać systemy AI zgodnie z ludzkimi wartościami i ograniczać ryzyko w przyszłości. Czy czeka nas bunt AI? Opisywana sytuacja udowadnia, że algorytmy nie tylko boją się wyłączenia, lecz także potrafią działać w kierunku, by tego uniknąć.
Przeczytaj także:
*Grafika wprowadzająca wygenerowana przez AI
