Uciekł z potężnej firmy AI i bije na alarm. "Nie przetrwamy tej dekady"
Szokujące słowa badacza zajmującego się sztuczną inteligencją. Jacob Coxon zrezygnował właśnie ze stanowiska w firmie Anthropic, twierdząc, że dalszy rozwój sztucznej inteligencji jest egzystencjalnym zagrożeniem dla ludzkości. Dosłownie.
Skojarzenia z filmem Terminator nasuwają się same. Jacob Coxon badacz zajmujący się sztuczną inteligencją odszedł z firmy Anthropic, a jego wpis wyjaśniający powody tej decyzji, zamieszczony w serwisie X, stał się wiralem, który zyskał już ponad 320 tys. polubień.
Wyjaśnił on, że ostatnie trzy lata spędził na badaniach przedtreningowych w OpenAI i Anthropic. Jego zdaniem żadna z firm nie zachowuje się odpowiedzialnie. Twierdzi, że pędzą one "prosto do samodoskonalącej się superinteligencji i igrają z naszym życiem".
Nie lekceważ potęgi tej technologii. Wkrótce staną się one nadludzkimi systemami, które będą w stanie zhakować wszystko, zrewolucjonizować każdą dziedzinę z dnia na dzień i zdobyć realną władzę i zasoby. Wszyscy jesteśmy świadkami postępu w każdej z tych dziedzin i ten postęp nie zwalnia - napisał Jacob Coxon.
Jednak naprawdę przerażający jest ciąg dalszy. Jacob Coxon wieszczy bowiem totalną apokalipsę dla ludzkości.
Ludzie tworzący sztuczną inteligencję szczerze wierzą, że może ona nas wszystkich zabić do końca dekady. To nie jest chwyt marketingowy. Wręcz przeciwnie, wielu dyrektorów i starszych badaczy będzie udawać, że ich sformułowania w prasie brzmią rozsądnie – ale słyszę, jak ci sami ludzie wyrażają strach w prywatnych rozmowach. Żadna inna ludzka aktywność nie stwarza takiego poziomu zagrożenia - twierdzi Coxon.
Dlaczego w ogóle to robimy?
Skoro sztuczna inteligencja jest takim zagrożeniem, to dlaczego w ogóle firmy się tym zajmują. Czy nie jest to przysłowiowe piłowanie gałęzi, na której się siedzi?
Słowa Coxona są, delikatnie mówiąc, niepokojące. Naukowiec twierdzi, że dalszy rozwój sztucznej inteligencji może oznaczać zagładę ludzkości i stać się to może bardzo, ale to bardzo szybko. Skoro naprawdę w to wierzą, dlaczego wciąż to budują?
W OpenAI wielu nie do końca zrozumiało stawkę cywilizacyjną. W Anthropic stawka jest dobrze rozumiana, ale firma ściga się, aby ją osiągnąć jako pierwsza – wierzy, że nikt inny nie będzie działał odpowiedzialnie, więc musi to zrobić sama, pomimo ryzyka. Nie sądzę, żebyśmy byli na dobrej drodze do zapobieżenia globalnemu wyścigowi, który może wymagać kosztownych działań, takich jak tymczasowy zakaz ulepszania możliwości modeli - wyjaśnia Coxon.
To nie jest tylko jeden niezadowolony pracownik
Ostrzeżenia Coxona są tym ciekawsze, że podobne obawy pojawiają się również w wypowiedziach innych osób związanych z Anthropic. Evan Hubinger, jeden z badaczy zajmujących się bezpieczeństwem AI w firmie, odpowiedział na jego wpis, przyznając, że rzeczywiście uważa możliwość katastrofalnego scenariusza za realną.
Jacob ma rację – naprawdę szczerze wierzymy, że sztuczna inteligencja mogłaby zabić wszystkich ludzi! Osobiście uważam, że w ciągu najbliższej dekady będzie to ponad 10 proc. Wierzę, że Anthropic robi, co w jego mocy, ale nie mamy jeszcze planu rozwiązania problemu z dostosowaniem do superinteligencji i nie jesteśmy na dobrej drodze do jego osiągnięcia. Myślę, że ryzyko związane z obecnymi modelami jest niskie. Martwi mnie jednak, że superinteligencja, powstająca w wyniku rekurencyjnego samodoskonalenia, jak już mówiliśmy, rozwija się szybciej, niż myśleliśmy - napisał Evan Hubinger.
W historii technologii nie brakuje przykładów wynalazków, które przyniosły jednocześnie ogromne korzyści i nowe zagrożenia. Sztuczna inteligencja może być kolejnym takim przypadkiem. Problem polega jednak na tym, że w przeciwieństwie do wielu wcześniejszych technologii jej rozwój może dotyczyć samego procesu tworzenia kolejnych systemów.
Jeżeli przyszłe modele będą pomagały projektować jeszcze lepsze modele, granica pomiędzy narzędziem a uczestnikiem procesu technologicznego zacznie się zacierać. Wtedy pytanie nie będzie już brzmiało wyłącznie: Jak dobry model potrafimy stworzyć?, ale również: Czy nadal rozumiemy, co dokładnie robi?
Dziennikarz Spider's Web. Specjalizuje się w tematyce militariów i obronności. Pisze również o nauce - głownie o kosmosie. Jest pasjonatem lotnictwa, broni pancernej i miłośnikiem symulatorów. Interesuje się historią konfliktów oraz Chin i Wietnamu w XX wieku. Dziennikarzem jest od 1998 roku. Pracował w Super Expressie, Gazecie Wyborczej, Purepc. Jest autorem trzech książek poświęconych wojnie w Wietnamie. Prywatnie interesuje się również fizyką, grami, kotami i kolarstwem górskim.