Świat czeka na katastrofę AI. Mówią o "momencie Czarnobyla"
Rozwój sztucznej inteligencji przynosi ogromne możliwości, ale również coraz poważniejsze zagrożenia. Badacze z obu stron Pacyfiku przekonują, że świat nie może pozwolić sobie na powtórkę z Czarnobyla w wersji AI.
Wyścig Stanów Zjednoczonych i Chin w rozwoju sztucznej inteligencji coraz częściej budzi nie tylko entuzjazm, ale również obawy samych badaczy. Podczas jednej z największych konferencji poświęconych AI eksperci z obu krajów ostrzegali, że niekontrolowany rozwój tej technologii może doprowadzić do katastrofy, którą porównują do "momentu Czarnobyla" - tragicznego wydarzenia, które pociągnie do trwałej utraty zaufania społecznego do technologii.
"AI nie potrzebuje własnego Czarnobyla"
Według relacji magazynu Wired jednym z głównych tematów konferencji organizowanej przez Pekińską Akademię Sztucznej Inteligencji (Beijing Academy of Artificial Intelligence) były zagrożenia związane z coraz bardziej zaawansowanymi modelami AI. W wydarzeniu uczestniczyli naukowcy z Chin i Stanów Zjednoczonych, a także uznani specjaliści, tacy jak Whitfield Diffie, współtwórca kryptografii klucza publicznego, oraz Andrew Barto, laureat Nagrody Turinga za pionierskie badania nad uczeniem przez wzmacnianie.
Jednym z ekspertów zabierających głos był Stephen Casper, informatyk z Massachusetts Institute of Technology (MIT), który uczestniczył w konferencji zdalnie. W rozmowie z Wired podkreślił, że sztuczna inteligencja jest technologią o globalnym znaczeniu, a jej korzyści i zagrożenia nie kończą się na granicach pojedynczych państw.
Badacz stwierdził również, że niemal wszyscy przedstawiciele środowiska AI są dziś zgodni co do jednej kwestii - sztuczna inteligencja nie może doczekać się własnego "momentu Czarnobyla". Choć Casper nie sprecyzował, jakie wydarzenie w świecie AI mogłoby odpowiadać takiej analogii, to jego porównanie odnosi się zarówno do potencjalnej katastrofy, jak i długotrwałej utraty zaufania społecznego do całej technologii - podobnie jak awaria elektrowni w Czarnobylu wpłynęła na postrzeganie energetyki jądrowej.
Największe obawy dotyczą cyberbezpieczeństwa
Zdaniem uczestników konferencji jednym z najbardziej prawdopodobnych scenariuszy nie jest bunt sztucznej inteligencji znany z filmów science fiction, lecz wykorzystanie zaawansowanych modeli przez cyberprzestępców. Ich zdaniem nowoczesne systemy generujące kod programistyczny oraz tzw. agenci AI mogą znacząco ułatwić przeprowadzanie skomplikowanych cyberataków. Automatyzacja wielu działań pozwala zwiększyć skalę takich operacji, a jednocześnie obniżyć poziom wiedzy wymaganej od osób planujących ataki.
Podczas konferencji wiele miejsca poświęcono również nowym rodzajom podatności pojawiających się w kodzie tworzonym przez AI, wykorzystaniu agentów do automatyzacji włamań oraz prowadzenia kampanii opartych na socjotechnice. Obawy ekspertów dotyczą również coraz bardziej zaawansowanych modeli udostępnianych na otwartych licencjach. Otwarta dystrybucja modeli ułatwia badania naukowe i rozwój nowych rozwiązań, lecz jednocześnie ogranicza możliwości kontroli nad sposobem wykorzystania takich systemów.
Według anonimowego przedstawiciela jednej z czołowych chińskich firm rozwijających sztuczną inteligencję - cytowanego przez Wired - właśnie względy bezpieczeństwa sprawiają, że część najbardziej zaawansowanych modeli w Chinach nie jest już publikowana jako open source.
AI może pomagać także w obronie. Naukowcy apelują o współpracę USA i Chin
Lin Yun z Shanghai Jiao Tong University, zajmujący się badaniami nad cyberbezpieczeństwem i sztuczną inteligencją, ocenia, że w najbliższym czasie przewagę mogą uzyskać cyberprzestępcy korzystający z AI. W dłuższej perspektywie rozwój nowych narzędzi opartych na tej samej technologii może jednak zwiększyć skuteczność systemów obronnych.
Profesor podkreślił również znaczenie współpracy międzynarodowej. Jego zdaniem wspólne rozumienie zagrożeń ułatwia tworzenie jednolitych zasad bezpieczeństwa i standardów technicznych, jednocześnie pozwalając ograniczać ryzyko systemowe bez ujawniania wrażliwych informacji operacyjnych.
Mimo geopolitycznej rywalizacji pomiędzy Chinami a USA, uczestnicy konferencji przekonywali, że zagrożenia związane z najbardziej zaawansowaną sztuczną inteligencją wymagają współpracy obu państw. Stephen Casper porównał obecną sytuację do okresu zimnej wojny, kiedy Stany Zjednoczone i Związek Radziecki prowadziły wyścig zbrojeń nuklearnych, a jednocześnie współpracowały nad ograniczaniem ryzyka globalnej katastrofy.
Według badaczy podobne podejście może okazać się niezbędne również w przypadku sztucznej inteligencji, zwłaszcza że kolejne generacje modeli dysponują coraz większymi możliwościami programowania, automatyzacji działań i wyszukiwania podatności w systemach informatycznych.
Czytaj też:
Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską, przybliżając czytelnikom Spider's Web tematykę smartfonów, smartwatchy, oprogramowania i sztucznej inteligencji. Prywatnie miłośniczka psów, gotowania i literatury faktu.