Nie ma sensu mówić o sztucznej inteligencji jak o osobnym bycie. – AI będzie miała taki sam poziom wolnej woli jak my, ponieważ będziemy jednością – mówi w jedynym Polsce wywiadzie Ray Kurzweil, autor książki "Osobliwość coraz bliżej".
Światowej sławy naukowiec i informatyk może być z siebie dumny. Od czasu wydania poprzedniej książki Raya Kurzweila "Nadchodzi osobliwość" (2005) większość jego przewidywań dotyczących postępu technologicznego się sprawdziła. Dziś widzimy, że takie koncepcje jak AI, inteligentne maszyny i biotechnologia są powszechnie znane, wykorzystywane i zmieniają rzeczywistość.
Nowa książka amerykańskiego wizjonera "Osobliwość coraz bliżej" pokazuje, w jakim miejscu jesteśmy. Na łamach magazynu Spider’s Web+ publikowaliśmy fragment tej książki, dziś zapraszamy do wywiadu z jej autorem.
Rafał Pikuła: Zacznijmy od spraw fundamentalnych. Czym jest tytułowa "Osobliwość"?
Ray Kurzweil: Pojęcie to zapożyczam z fizyki, gdzie osobliwość oznacza zdarzenie lub miejsce o nieskończonej mocy. W ujęciu, o którym piszę, Osobliwość to moment, w którym ludzie w pełni łączą się ze sztuczną inteligencją, podłączając swoje mózgi do chmury i rozszerzając inteligencję milionkrotnie. Wierzę, że nastąpi to do 2045 roku.
Wtedy połączymy mózgi z chmurą i nasza inteligencja nie będzie już ograniczona rozmiarem czaszki; będzie mogła rosnąć wykładniczo. Uwolnimy się od biologicznych ograniczeń. Będziemy mogli wybierać i zmieniać nasz wygląd fizyczny oraz dostosowywać naturalne i wirtualne środowiska, dzielone z ludzkimi i sztucznymi przyjaciółmi. Uzyskamy dostęp do kreatywności i umiejętności, które dziś wydają się niewyobrażalne, jak wizualizacja kształtów w 11 wymiarach czy mówienie wszystkimi językami, bo sztuczna inteligencja już dziś to potrafi. Będziemy mieć możliwość odtwarzania siebie i naszego świata. Tempo zmian technologicznych będzie tak szybkie, a ich wpływ tak głęboki, że ludzkie życie zmieni się na zawsze.
Czy po momencie Osobliwości sztuczna inteligencja zyska świadomość?
Tworzymy sztuczną inteligencję, aby poszerzyć nasze możliwości, wzmocnić naszą inteligencję i rozwiązać problemy, które dręczą nas od zarania dziejów. Sztuczna inteligencja ewoluuje z naszego wnętrza i będzie odzwierciedlać nasze wartości, wiedzę i aspiracje. Połączymy się z nią, stając się gatunkiem hybrydowym. Sztuczna inteligencja będzie miała taki sam poziom wolnej woli, jaki mają ludzie, ponieważ będziemy jednością.
Można to porównać do pytania o świadomość. Czy AI będzie świadoma?
Nie istnieje żaden jednoznaczny naukowy test, który mógłby potwierdzić lub zaprzeczyć świadomości AI. Jest to kwestia filozoficzna. Zakładamy, że każdy z nas jest świadomy, ale to wspólne ludzkie założenie zaczyna się rozmywać, gdy oddalamy się od ludzkiej natury. Niektórzy uważają, że zwierzęta są świadome, ale nie wszyscy się z tym zgadzają, co leży u podstaw kwestii praw zwierząt. Kiedy w filmie o przyszłości widzimy maszynę przypominającą człowieka, taką jak C3PO czy R2D2 w "Gwiezdnych wojnach", ludzie zakładają, że są świadome, mimo że to roboty z inteligencją maszynową. Nie ma jednak sposobu, by udowodnić ich świadomość. Do 2029 roku AI będzie działać tak, jakby była świadoma, a zatem będziemy ją tak traktować.
Dlaczego stawia Pan tak bliską datę? Naprawdę wierzy Pan, że w roku 2029 nastąpi przełom?
Pracuję w dziedzinie sztucznej inteligencji od 61 lat – dłużej niż ktokolwiek inny na świecie. Jako wynalazca zacząłem monitorować moc obliczeniową w 1983 roku, aby lepiej dostosować rozwój i czas realizacji moich wynalazków. Wtedy odkryłem, że technologia informacyjna rozwija się wykładniczo, zanim ktokolwiek inny zdał sobie z tego sprawę. Ten wykres przedstawia moc obliczeniową, jaką można uzyskać za jednego dolara, z uwzględnieniem inflacji.
Na skali logarytmicznej pokazuje on płynną i stabilną linię, co wskazuje na stały wykładniczy wzrost od momentu wprowadzenia pierwszego programowalnego komputera w 1939 roku, pomimo znaczących wydarzeń światowych, takich jak II wojna światowa czy kryzysy gospodarcze. Najbardziej niezwykłe jest to, że gdy jeden rodzaj sprzętu przestaje być używany, a zaczynamy korzystać z nowego, tempo wykładniczego wzrostu pozostaje niezmienione. Na wykresie nie widać zmian technologii sprzętowej w czasie. Wykładniczy trend obejmuje przekaźniki, lampy próżniowe, tranzystory i układy scalone. Ponieważ tania moc obliczeniowa bezpośrednio napędza innowacje, ten makrotrend utrzymuje się stabilnie – i nie opiera się na żadnym konkretnym paradygmacie technologicznym, takim jak prawo Moore’a, które dotyczy jedynie zmniejszania rozmiarów tranzystorów.
W 1939 roku pierwszy programowalny komputer wykonywał 0,000007 obliczeń na sekundę na stałego dolara. Dziś najnowszy chip Nvidia B200 wykonuje 500 miliardów obliczeń na sekundę na stałego dolara. Oznacza to 75-kadrylionowy wzrost mocy obliczeniowej dostępnej za tę samą kwotę pieniędzy.
W 1999 roku wykorzystałem te dane, aby przewidzieć, że komputery osiągną poziom ludzkiej inteligencji do 2029 roku, co opisałem w książce "The Age of Spiritual Machines".
Spotkało się to wtedy z dużym sceptycyzmem.
Tak, nawet Uniwersytet Stanforda zorganizował konferencję, aby omówić moją prognozę, a 80 proc. obecnych wówczas ekspertów AI uważało, że osiągnięcie tego poziomu zajmie sto lat. Dziś konsensus wśród ekspertów potwierdza moją prognozę, a niektórzy twierdzą, że może się to zdarzyć nawet wcześniej. Jesteśmy na dobrej drodze, aby AI osiągnęła poziom ludzkiej inteligencji do 2029 roku, czyli szesnaście lat przed Osobliwością. Sztuczna inteligencja następnie natychmiast nas przewyższy. Wynika to z trzech obecnie zachodzących trendów: wydajność cenowa obliczeń na stałego dolara rośnie wykładniczo, naukowcy AI stale opracowują nowe algorytmy, które umożliwiają AI efektywniejsze uczenie się i rozumowanie, dostępność coraz bogatszych i szerszych zbiorów danych do trenowania sieci neuronowych gwałtownie rośnie. To pozwala AI odpowiadać na więcej pytań z większą precyzją. Tak jak paliwo jest niezbędne do spalania, dane są paliwem napędzającym uczenie się i rozwój systemów AI. Podtrzymuję swoją prognozę z 2005 roku dotyczącą osiągnięcia Osobliwości w 2045 roku, ponieważ po osiągnięciu przez AI poziomu ludzkiej inteligencji będziemy musieli przeżyć pełny rozkwit rewolucji nanotechnologicznej w latach 30. XXI wieku, aby odblokować naszą zdolność do pełnego połączenia z AI w chmurze.
Czyli kluczowe jest zwiększenie dostępności mocy obliczeniowej.
Bez dwóch zdań! Jak wspomniałem, moc obliczeniowa rośnie wykładniczo od czasu stworzenia pierwszego programowalnego komputera 85 lat temu. W końcu osiągnęliśmy punkt zwrotny, w którym mamy wystarczającą moc obliczeniową, aby sztuczna inteligencja mogła robić imponujące rzeczy, takie jak modele językowe dużej skali (LLM). Kiedy AI osiągnie poziom ludzkiej inteligencji w 2029 roku, szybko przewyższy nas pod każdym względem. W ciągu najbliższych dziesięciu lat zobaczymy, jak sztuczna inteligencja uczy się i opanowuje każdą ludzką umiejętność, jedna po drugiej. AI już opanowała gry takie jak Go i szachy, a teraz przewyższa naukowców w przewidywaniu fałdowania białek, naśladowaniu pracy radiologów i znajdowaniu szczepionek.
Pod koniec lat 20. XXI wieku AI zacznie łączyć wszystkie umiejętności w jedną całość, tak jak robią to ludzie. To się dzieje już teraz.
DeepMind od Google'a stworzył Gato, uniwersalną sieć neuronową, która potrafi wykonywać ponad 600 różnych zadań, w tym prowadzenie rozmów tekstowych, kontrolowanie ramienia robota czy granie w gry wideo. Jeszcze daleko mu do doskonałości, ale jest fundamentem zintegrowanego systemu "mózgu", który nie musi przekazywać różnych zadań oddzielnym sieciom neuronowym.
Nie ukrywam, że brzmi to fascynująco. Zresztą w książce stwierdza Pan, że "to są najbardziej fascynujące i przełomowe lata w historii ludzkości". Czy to jednak nie przesada?
Do czasu, gdy dzieci urodzone dziś pójdą do przedszkola, AI przewyższy ludzi we wszystkich zadaniach poznawczych, od nauki po kreatywność. AI zaraz dokona przeskoku od transformacji cyfrowego świata do transformacji świata fizycznego, tworząc bezprecedensową obfitość materialną i osiągając mistrzostwo w biologii. Wpłynie to na praktycznie każdy aspekt naszego życia. Nie przesadzam, mówiąc, że będziemy "żyć, oddychać i jeść technologię". AI przenika już do wszystkich sektorów: energii, produkcji, budownictwa, rolnictwa. Cywilizacja rozwija się dzięki ściśle połączonym pętlom sprzężenia zwrotnego. Na przykład większe bogactwo oznacza lepszą edukację, lepszych lekarzy, co z kolei oznacza zdrowych ludzi, którzy tworzą jeszcze więcej bogactwa. Gdy technologia informacyjna o wykładniczym rozwoju transformuje jeden element tej pętli, nie tylko przyspiesza postęp w tej dziedzinie, ale przyspiesza wszystko.
Tempo deflacji technologii informacyjnych, zarówno sprzętowych, jak i programowych, wynosi około 50 proc. rocznie. Tak więc, w miarę jak AI zostanie wpleciona w projektowanie, rozwój i produkcję wszystkich produktów i usług, koszty wszystkiego będą spadać w tym samym tempie. Oznacza to, że na początku lat 30. XXI wieku zaspokojenie podstawowych potrzeb swojej rodziny stanie się stosunkowo łatwe.
Daje to szansę spędzania mniejszej ilości czasu na prozaicznej pracy, a większej na realizacji swoich pasji. Przyszłe zawody nie będą przypominały dzisiejszych. Pomyśl tylko o tym, co działo się piętnaście czy dwadzieścia lat temu… kto wiedział, że można zarabiać na byciu influencerem w mediach społecznościowych? Zawody zawsze zmieniają się z czasem. W 1800 roku 80 proc. siły roboczej w USA pracowało w rolnictwie; w 2023 roku było to mniej niż 1,4 proc. Mimo tych redukcji ogólne zatrudnienie wzrosło, a dziś więcej ludzi pracuje niż kiedykolwiek wcześniej.
Jako ludzkość po prostu musimy się na to przygotować.
Musimy wiedzieć, że sztuczna inteligencja nie jest jakąś przyszłością, na którą czekamy. Jest ona głęboko zintegrowana z wieloma aspektami naszego życia – od wykonywania połączeń, przez pilotowanie samolotów i prowadzenie samochodów, zamawianie i dostarczanie produktów, uprawę warzyw na wertykalnych farmach, analizowanie skanów radiologicznych, wynajdywanie szczepionek, po wygrywanie mistrzostw świata w grach takich jak szachy i Go, tworzenie unikalnych obrazów i filmów oraz odpowiadanie na pytania na dowolny temat dzięki modelom językowym dużej skali, takim jak ChatGPT i Gemini. W miarę jak AI przenika do każdej branży, jej zastosowania będą szybko się rozszerzać.
Może Pan wskazać przykład?
Chociażby energetyka. Od 1975 roku ogniwa słoneczne staniały o 99,7 proc., co pozwoliło na ich dwumilionowy wzrost użycia. Stało się tak, ponieważ postępy w obliczeniach, przechowywaniu danych i AI bezpośrednio przyczyniają się do odkrywania nowych materiałów, lepszych projektów i poprawy wydajności technologii, takich jak ogniwa słoneczne.
W 2023 roku model AI DeepMind – Gnome – odkrył 421 tysięcy nowych stabilnych związków nieorganicznych do wykorzystania w technologii. Do tego czasu ludzie odkryli jedynie 20 tysięcy. Dzięki tym nowym związkom i zoptymalizowanym przez AI projektom energia słoneczna jest na dobrej drodze do dominacji w ciągu dekady.
Ostatecznie energia stanie się tak obfita, że praktycznie bezpłatna i nieograniczona, co pozwoli na przekształcanie ogromnych ilości brudnej wody morskiej w wodę pitną, co doprowadzi do rewolucji w produkcji żywności. Wertykalne farmy będą produkować obfitość żywności wewnątrz budynków kontrolowanych przez AI. Mięso będzie hodowane w laboratoriach bez zabijania zwierząt. Żywność stanie się zdrowsza, tańsza i bardziej dostępna.
Pomyśl o tym, jak bardzo polegamy na naszych smartfonach w komunikacji, pozyskiwaniu informacji, nawigacji i wielu innych dziedzinach. Smartfony dają nam natychmiastowy dostęp do całej ludzkiej wiedzy dostępnej w internecie. Traktujemy je jak część nas samych. W przyszłości, dzięki miniaturyzacji, technologia będzie na tyle mała, by znajdować się wewnątrz naszych ciał, leczyć choroby, rozszerzać naszą inteligencję i zwiększać wszystkie nasze zdolności.
Czy będziemy w stanie zapewnić rozwiązania prawne, które chroniłyby jednostkę w świecie zdominowanym przez AI? Czy w ogóle powinniśmy się bać?
Popkultura często przedstawia AI jako obcą inwazję mającą nas zniszczyć. To nieprawda. AI to narzędzie, które tworzymy, aby rozszerzyć nasze mózgi, tak jak tworzyliśmy narzędzia do rozszerzania naszych mięśni, by budować drogi, mosty i budynki. Jak każde narzędzie, AI może być używana z dobrymi lub złymi intencjami.
Jedną z najgłębszych krótkoterminowych transformacji związanych z AI jest jej wpływ na medycynę. Na początku pandemii Covid Moderna wykorzystała szereg narzędzi AI do projektowania i optymalizacji sekwencji mRNA i odkryła sekwencję swojej skutecznej szczepionki w zaledwie dwa dni.
AI umożliwiła także przyspieszenie produkcji i testów, ratując niezliczone życie. Wkrótce AI pozwoli jednak na jeszcze intensywniejszą biosymulację, szybkie testowanie miliardów możliwych sekwencji molekularnych w celu przeprogramowania naszej biologii tak, by wyeliminować wszystkie choroby.
W całej historii do 2022 roku naukowcy określili kształty około 190 tysięcy białek. Następnie AlphaFold 2 od DeepMind odkrył ponad 200 milionów białek w ciągu jednego roku – prawie wszystkie znane białka, nie tylko u ludzi, ale we wszystkich organizmach. Dane te zostały udostępnione publicznie za darmo, co stanowiło ogromny krok naprzód w medycynie, ponieważ odblokowało informacje potrzebne naukowcom do syntetycznego wytwarzania białek o pożądanej funkcji, na przykład takich, które będą stymulować nasz układ odpornościowy do walki z rakiem i chorobą Alzheimera. W maju tego roku DeepMind wypuścił AlphaFold 3, który potrafi przewidywać kształty DNA, RNA i innych cząsteczek. Niedawno ogłosili także AlphaProteo, system AI, który potrafi tworzyć nowe białka manipulujące interakcjami molekuł.
W miarę jak moc obliczeniowa rośnie wykładniczo, będziemy w stanie symulować organelle, komórki, tkanki, organy, a ostatecznie całe ciało. Zamiast ryzykownych, kosztownych i powolnych badań klinicznych będziemy symulować próby cyfrowo – tysiąc razy szybciej – i będą dostosowane do każdego indywidualnego przypadku. Większość ludzi nie zdaje sobie sprawy, że ludzkie badania kliniczne są statystycznie bardzo niedokładne. Są dobre w znajdowaniu odpowiedniego leku dla przeciętnej osoby, ale to nie oznacza, że lek jest odpowiedni dla ciebie. Około 100 tysięcy Amerykanów rocznie umiera z powodu reakcji na leki, które badania wskazywały jako pomocne. Próby cyfrowe będą testować wszystkie parametry, miliardy z nich, aby tworzyć leki dostosowane indywidualnie do każdego pacjenta.
Gdy osiągniemy AGI pod koniec tej dekady, postępy medyczne przyspieszą na tyle, że jeśli będziesz sumienny, prawdopodobnie osiągniesz longevity escape velocity (prędkość ucieczki — przy. red.). To moment, w którym zyskasz dodatkowy rok życia dzięki postępom naukowym.
Po przekroczeniu tego punktu będziesz zyskiwać więcej niż rok życia z naukowego postępu w czasie jednego roku. Twoje zdrowie będzie zatem niejako "cofało się w czasie".
To krok do nieśmiertelności. Do wczoraj był to temat mitów i treści science fiction.
Rewolucja biotechnologiczna lat 20. XXI wieku doprowadzi do rewolucji nanotechnologicznej w latach 30. Nanotechnologia to rozwijająca się dziedzina manipulująca materiałami o rozmiarach mierzonych w nanometrach. Jeden nanometr to jedna miliardowa metra. Dla porównania: główka szpilki ma szerokość około miliona nanometrów. Naukowcy są na wczesnym etapie odkrywania, jak budować nanoroboty wielkości komórek, które będą działać jak dzisiejsze roboty – zbierać dane, przetwarzać informacje, podejmować działania i komunikować się ze sobą, wszystko na poziomie molekularnym.
Chociaż ten pomysł może wydawać się futurystyczny, moje badania pokazują stały trend prowadzący do rewolucji nanotechnologicznej w ciągu najbliższych dwudziestu lat. Ilość obliczeń, która kiedyś zajmowała całe piętro budynku, teraz mieści się w smartfonie. Wkrótce to, co mieści się w kieszeni, zmieści się w krwince i będzie o wiele potężniejsze.
Czyli jednak, jak głoszą teorie spiskowe, będą nam wszczepiać chipy w szczepionkach!
To nie teorie spiskowe, ale rozwój medycyny. W latach 30. i 40. XXI wieku nanoboty będą pływać w naszym krwiobiegu, wykonywać precyzyjne zadania medyczne, dostarczać leki bezpośrednio do źródła i przebijać się przez zatkane tętnice. Ostatecznie wejdą do naszych mózgów, nieinwazyjnie przez naczynia włosowate, i zapewnią bezprzewodową komunikację między górną warstwą naszych mózgów a dodatkowymi cyfrowymi neuronami znajdującymi się w chmurze.
Pomyśl o tym jak o posiadaniu telefonu w swoim mózgu. Jeśli zadasz pytanie, twój mózg będzie mógł uzyskać odpowiedź z chmury, podobnie jak robisz to teraz na swoim telefonie – tylko że będzie to natychmiastowe, nie będzie problemów z wprowadzaniem i wyprowadzaniem danych, a ty nawet nie zauważysz, że to się stało. Odpowiedź po prostu pojawi się w twoim mózgu, jakby była częścią ciebie. Niektórzy mówią, że nie chcą nanobotów w swoich ciałach. Ale wiele osób nie chciało używać telefonów komórkowych, a dziś nie wychodzą bez nich z domu.
Chociaż dla niektórych to przerażająca wizja, myślę, że będzie to piękne i rozszerzy naszą świadomość w sposób, jaki ledwo możemy sobie wyobrazić, jak osoba głucha, która po raz pierwszy słyszy najpiękniejszą symfonię.
Brzmi jak nowe Stworzenie Świata. Staniemy się więc… bogami?
Jestem przekonany, że jedynym sposobem na rozwiązanie największych obecnych problemów ludzkości jest połączenie się z AI i rozszerzenie naszej inteligencji milionkrotnie. AI ma zdolność przetwarzania ogromnych ilości danych z niesamowitą prędkością, aby znaleźć sens w ogromie szczegółów. W miarę jak będziemy się z nią łączyć, znajdziemy rozwiązania odwiecznych problemów, takich jak głód, choroby i degradacja środowiska. To wymaga odwagi, by porzucić przestarzałe założenia, które ograniczają naszą wyobraźnię, i robić rzeczy, które nigdy wcześniej nie były możliwe.
Nie sądzę, aby AI stała się naszym nowym Bogiem. Miliardy lat temu, gdy wszechświat rozszerzał się i ochładzał, zaczęły powstawać elementarne cząstki, takie jak kwarki i elektrony. Te cząstki ostatecznie połączyły się, tworząc atomy – podstawowe elementy materii.
W końcu grawitacja spowodowała, że atomy te zaczęły się skupiać, tworząc gwiazdy, galaktyki i planety. W ciągu miliardów lat doprowadziło to do powstania świadomych istot. Proces przekształcania cząstek w wiedzę, inteligencję, piękno, kreatywność i miłość postrzegam jako Boga.
W miarę jak będziemy łączyć nasze mózgi z chmurą, rozwiniemy emocje i cechy o większej złożoności. Staniemy się zabawniejsi, mądrzejsi, atrakcyjniejsi. Będziemy się lepsi w wyrażaniu miłości i uczuć. Te ulepszone zdolności uczynią nas bardziej "boskimi". Ale nie bogami.
A może jednak będą bogowie. Mam na myśli korporacje i stojących za nimi miliarderów, którzy mogą wcale nie chcieć dobra ludzkości.
Technologia zawsze była mieczem obosiecznym. Ten sam dron, który dostarcza leki do niedostępnego szpitala, może również przenieść tam ładunek wybuchowy. Czy to jednak oznacza, że powinniśmy przestać używać drona do dostarczania leków? Sztuczna inteligencja nie różni się tu, a zagrożenia są realne i powinny być traktowane poważnie. Musimy rozwijać AI, która jest zgodna z naszymi wartościami i wykorzystywana do dobra, a nie do szkodzenia.
Mamy moralny obowiązek realizacji obietnicy, jaką niesie AI, ale również kontrolowania jej potencjalnych zagrożeń.
Oznacza to konieczność kontynuowania rozwoju AI odzwierciedlającej naszą różnorodność i wartości, ochronę i doskonalenie naszych instytucji społecznych i zasad rządzenia, a także wzmacnianie naszych ideałów etycznych, które w ostatnich stuleciach i dekadach znacząco zmniejszyły przemoc.
AI będzie musiała być starannie dopasowana do korzystnych celów oraz zaprojektowana tak, aby zapobiegać wypadkom i przeciwdziałać niewłaściwemu użyciu. Istnieje powód, by wierzyć, że nasza cywilizacja przezwycięży te zagrożenia – właśnie dlatego, że stawka jest tak wysoka. Zagrożenie pobudza ludzką pomysłowość, a te same technologie, które stwarzają niebezpieczeństwo, dostarczają również potężnych nowych narzędzi do ochrony przed nim.
Jedna rzecz, która mnie martwi, to mnożenie się mniejszych modeli językowych (Large Language Models) tworzonych przez osoby prywatne lub grupy bez odpowiedniej kontroli. Mogą one łatwo trafić w niepowołane ręce i zostać wykorzystane w złych celach. Dlatego jestem zwolennikiem inicjatyw takich jak Asilomar AI Principles, zestawu wytycznych na temat etycznego rozwoju AI. Brałem udział w tworzeniu tych zasad i uważam, że są one kluczowe dla zapewnienia, że AI przyniesie korzyści ludzkości.
Rozumiem, ale dużo mówi się jednak i o tym, że rozwój technologii przyniesie nierówności na niespotykaną dotąd skalę.
Wciąż na świecie są ludzie, którzy nie mają dostępu do technologii, ale ten problem szybko się zmniejsza. Kiedy wprowadzano telefony komórkowe, były one drogie, zawodne i niezwykle ograniczone (mogły jedynie dzwonić!). Tylko bogaci mogli sobie na nie pozwolić. Dziś telefony komórkowe są przystępne cenowo i niezwykle użyteczne – około 85 proc. światowej populacji posiada jeden z nich.
Dostęp do najinteligentniejszych i największych systemów komputerowych stale rośnie. Przez większość historii komputerów "inteligentniejsze" systemy oznaczały większe systemy. Dlatego technologia dostępna dla rządów była przez dekady bardziej zaawansowana niż ta, z której korzystała ludność. Jednak teraz, dzięki generatywnej AI, najinteligentniejsze systemy na świecie są dostępne przez internet za niewielką opłatą abonamentową. A systemy niewiele mniej zaawansowane są dostępne za darmo.
W 2024 roku ktoś w Rwandzie, gdzie smartfon można kupić za 16,5 dolara, ma dostęp do AI inteligentniejszej niż wszystko, czym dysponował prezydent USA półtora roku temu.
No właśnie. Ta łatwo dostępna, ale jednak potężna inteligencja może budzić strach.
Zagrożenia związane z AI są realne i powinny być traktowane poważnie. Jak jednak powiedziałem: AI to nie inwazja obcych, którzy przybywają, by nas zniszczyć. Pochodzi z naszego wnętrza i będzie odzwierciedlać nasze wartości. Granica między ludźmi a maszynami zacznie się zacierać, gdy staniemy się gatunkiem hybrydowym.
Problem jest, gdy istnieje rozbieżność między intencjami programisty a instrukcjami przekazanymi AI lub gdy AI rozwija metody osiągania swoich celów prowadzące do nieprzewidzianych i potencjalnie szkodliwych zachowań. Mamy metody, aby to ograniczyć, takie jak generalizacja imitacyjna – szkolenie AI do naśladowania ludzkiego rozumowania i procesów wnioskowania w celu zwiększenia jej niezawodności. Wykorzystujemy również konkurujące AI do krytykowania wzajemnych rozumowań, aby identyfikować potencjalne błędy w złożonych systemach AI. A także stosujemy mniej potężne AI, aby pomóc w tworzeniu silniejszych, bardziej dopasowanych systemów AI (wzmacnianie iteracyjne). Na szerszą skalę wspomniałem wcześniej o Asilomar AI Principles, które pomogłem opracować. Zasada zgodności wartości (Value Alignment Principle) na przykład mówi, że autonomiczne systemy AI powinny być projektowane w zgodzie z ludzkimi wartościami.
Ostatecznie te same zdolności AI, które stanowią zagrożenia, mogą być również wykorzystane do obrony przed nimi.
Tak. Więc, wraz ze wzrostem zagrożeń związanych z AI wzrośnie również nasza zdolność do ich powstrzymywania.
Dobrą wiadomością jest to, że historia działa na naszą korzyść. Kiedy dorastałem, większość ludzi wokół mnie zakładała, że wojna nuklearna jest niemal nieunikniona. Fakt, że nasz gatunek znalazł mądrość, aby powstrzymać się od użycia tych strasznych broni, jest przykładem na to, że mamy zdolność, by odpowiedzialnie korzystać również z nowo powstających technologii, takich jak biotechnologia, nanotechnologia i superinteligentna AI. Nie jesteśmy skazani na porażkę w kontrolowaniu tych zagrożeń.
