Harari: Jeśli nie opanujemy sztucznej inteligencji, ona opanuje nas
Brutalnie otwierający oczy - taki powinien być wydźwięk krótkiego eseju, jaki popełnił Yuval Noah Harari w dzisiejszym "New York Timesie". Wszyscy możni świata zachodniego powinni go przeczytać i wyciągnąć wnioski. Wiemy jednak, że tak raczej nie będzie. Zapewne mamy więc przechlapane.
Wyobraź sobie, że kiedy wsiadasz do samolotu, połowa inżynierów, którzy go zbudowali, mówi ci, że istnieje 10 procent szans, że samolot się rozbije, zabijając ciebie i wszystkich innych na pokładzie. Nadal wsiadłbyś? - zaczyna swój esej Harari, dowodząc, że firmy technologiczne budujące dzisiejsze modele językowe sztucznej inteligencji są uwikłane w wyścig o umieszczenie całej ludzkości w tym samolocie.
Yuvala Noah Harariergo nie trzeba chyba nikomu przedstawiać
To prawdopodobnie największy i najważniejszy współczesny myśliciel, historyk i filozof, który swoimi bestsellerowymi książkami "Sapiens: od zwierząt do bogów" oraz "Home Deus: krótka historia jutra" zmienił myślenie o przeszłości, teraźniejszości i przyszłości ludzkości.
Czytaj także:
- Dlaczego czatboty kłamią? Ekspert mówi, jak działa ChatGPT i dlaczego świat właśnie zmienił się nie do poznania
- Nie tylko sprawdziłem, jak działa chatbot Binga. Ja przeprowadziłem z nim wywiad. Oto cały zapis
- Teraz albo nigdy - Microsoft ma jedyną szansę pokonać Google'a. Musi tylko przekupić Apple'a
Wpływ Harariego na współczesnych polityków, a także szefów największych firm technologicznych świata jest nie do przecenienia. W wielu najważniejszych kręgach przedstawiany jest jako wyrocznia, szczególnie jeśli chodzi o projekcje przyszłości. Do inspiracji słowem Harariego przyznają się zarówno Mark Zuckerberg, jak i Sundar Pichai, ale także Barack Obama, czy… Donald Tusk.
Dlatego naprawdę uważnie powinniśmy przeanalizować to, co słynny Izraelczyk pisze o nagłym wystrzale, rozwoju i popularności tzw. generatywnej sztucznej inteligencji.
Firmy farmaceutyczne nie mogą sprzedawać ludziom nowych leków bez uprzedniego poddania swoich produktów rygorystycznym kontrolom bezpieczeństwa. Laboratoria biotechnologiczne nie mogą wypuszczać nowych wirusów do sfery publicznej, aby zaimponować akcjonariuszom swoją magią. Podobnie systemy sztucznej inteligencji o mocy GPT-4 i większej nie powinny być uwikłane w życie miliardów w tempie szybszym niż kultury mogą je bezpiecznie wchłonąć - tłumaczy Harari.
Język jest systemem operacyjnym ludzkiej kultury
Z języka wyłaniają się mity i prawa, bogowie i pieniądze, sztuka i nauka, przyjaźnie i narody — a nawet kod komputerowy. Opanowanie ludzkiego języka przez AI oznacza, że może teraz hakować i manipulować systemem operacyjnym cywilizacji. Czy tego właśnie chcemy? - zdaje się pytać Harari.
Co oznaczałoby dla ludzi życie w świecie, w którym duży procent opowieści, melodii, obrazów, praw, zasad i narzędzi jest kształtowany przez nieludzką inteligencję, która wie, jak z nadludzką skutecznością wykorzystywać słabości, uprzedzenia i uzależnienia umysł ludzki — jednocześnie wiedząc, jak tworzyć intymne relacje z istotami ludzkimi?
Sztuczna inteligencja mogłaby szybko pożreć całą ludzką kulturę — wszystko, co stworzyliśmy przez tysiące lat — strawić ją i zacząć tryskać strumieniem nowych artefaktów kulturowych - ostrzega filozof.
A chodzi tu przecież nie tylko wypracowania szkolne, ale także o przemówienia polityczne, manifesty ideologiczne, a nawet święte księgi nowych kultów. Do 2028 roku wyścig prezydencki w USA może już nie być prowadzony przez ludzi.
Ludzie często nie mają bezpośredniego dostępu do rzeczywistości - pisze Harari.
Otacza nas kultura, doświadczamy rzeczywistości przez kulturowy pryzmat. Nasze poglądy polityczne kształtują relacje dziennikarzy i anegdoty znajomych. Nasze preferencje seksualne są modyfikowane przez sztukę i religię. Ten kulturowy kokon był dotychczas tkany przez innych ludzi. Jak będzie wyglądało doświadczanie rzeczywistości przez pryzmat wytworzony przez nieludzką inteligencję? To proste - wkrótce my znajdziemy się w halucynacjach nieludzkiej inteligencji - ostrzega Harari.
Seria „Terminator” przedstawiała roboty biegające po ulicach i strzelające do ludzi. „Matrix” zakładał, że aby uzyskać całkowitą kontrolę nad ludzkim społeczeństwem, sztuczna inteligencja musiałaby najpierw uzyskać fizyczną kontrolę nad naszymi mózgami i podłączyć je bezpośrednio do sieci komputerowej. W rzeczywistości jednak, opanowując język, sztuczna inteligencja miałaby wszystko, czego potrzebuje, aby zamknąć nas w świecie iluzji podobnym do Matrixa, bez strzelania do kogokolwiek lub wszczepiania chipów do naszych mózgów. Jeśli jakakolwiek strzelanina jest konieczna, sztuczna inteligencja może skłonić ludzi do pociągnięcia za spust, po prostu opowiadając nam właściwą historię.
Media społecznościowe były „pierwszym kontaktem” między sztuczną inteligencją a ludzkością, a ludzkość przegrała
W mediach społecznościowych prymitywna sztuczna inteligencja była wykorzystywana nie tyle do tworzenia treści, ale do selekcjonowania tych generowanych przez użytkowników. Była jednak wystarczająca do stworzenia kurtyny iluzji, która zwiększyła polaryzację społeczną, podkopała nasze zdrowie psychiczne i zniszczyła demokrację (Stany Zjednoczone dysponują najlepszą technologią informacyjną w historii, jednak obywatele USA nie mogą się zgodzić co do tego, kto wygrał ostatnie wybory prezydenckie).
Duże modele językowe to nasz „drugi kontakt” z AI
Nie możemy sobie pozwolić na kolejną porażkę - pisze Harari. Jeśli będziemy dalej działać jak zwykle, nowe zdolności sztucznej inteligencji zostaną ponownie wykorzystane do zdobycia zysku i władzy, nawet jeśli nieumyślnie zniszczy to fundamenty naszego społeczeństwa.
Czas na rozliczenie się ze sztuczną inteligencją jest tylko teraz - zanim polityka, gospodarka i nasze codzienne życie staną się od niej zależne. Demokracja to rozmowa, a rozmowa opiera się na języku. Kiedy sam język zostaje zhakowany, rozmowa się załamuje, a demokracja staje się nie do utrzymania. Jeśli będziemy czekać, aż zapanuje chaos, będzie za późno, by go naprawić - przekonuje Harari.
Harari jest wciąż optymistą
Nadal możemy wybrać, jakiej przyszłości chcemy dzięki sztucznej inteligencji. Kiedy boskie moce są połączone z proporcjonalną odpowiedzialnością i kontrolą, możemy zrealizować korzyści, które obiecuje sztuczna inteligencja.
Wezwaliśmy obcą inteligencję. Niewiele o niej wiemy, poza tym, że jest niezwykle potężna, oferuje nam olśniewające dary, ale może też zhakować fundamenty naszej cywilizacji - dowodzi Harari.
Czas by światowi przywódcy zareagowali. Pierwszym krokiem jest dostosowanie XIX-wiecznych instytucji do świata post-AI i nauczenie się, jak opanować sztuczną inteligencję, zanim ona opanuje nas - pisze izraelski historyk.
A ja nie jestem optymistą
Harari musiał zapewne zakończyć w tonie optymistycznym, by dać nam namiastki nadziei - Jeszcze mamy czas - pisze, choć z każdym dniem wydaje się, że jednak mamy go coraz mniej.
Tego tsunami chyba nie da się zatrzymać na poziomie politycznym, biznesowym, czy nawet społecznym. Za kulisami trwa bowiem nie tylko walka o prymat na rynku technologicznym pomiędzy Microsoftem a Google'em, lecz walka o dominację polityczną. Następna potęga światowa jako pierwsza wykorzysta moc sztucznej inteligencji, argumentuje Paul Scharre, wiceprezes i dyrektor badań w Center for New American Security - think tanku specjalizującym się w kwestiach bezpieczeństwa narodowego.
I to przekreśla chyba szanse na uregulowanie generatywnej sztucznej inteligencji zanim wymknie się ona spod naszej kontroli. Walka idzie bowiem o nowe rozdanie geopolityczno-technologiczne na następne kilkadziesiąt lat.
Trudno więc być optymistą. Oby tylko nie skończyło się to rychłą zaglądą ludzkości.
*w tekście obficie cytuję esej Noah Yuvala Harariego z New York Timesa
