Nauka  / Felieton

Sztuczna inteligencja może być dla nas wielkim zagrożeniem. I wcale nie chodzi tu o bunt

Na ekranach kin święci triumfy film "Avengers: Czas Ultrona", którego fabuła opowiada o niebezpieczeństwach związanych ze stworzeniem przez człowieka sztucznej inteligencji. Do tego jest to inteligencja, która miała dbać o pokój na Ziemi. Nie jest to żadna nowość w literaturze i filmach - dość wspomnieć o SkyNecie z serii o Terminatorze, czy też serii Matrix. Liczba robotów, komputerów i programów komputerów, które buntują się przeciw swojemu twórcy w science-fiction jest ogromna.

Film Jossa Whedona, jak i praktycznie wszystkie inne opowieści o zbuntowanych komputerach, to ponowne rozegranie mitu Frankensteina - przestrogi przed beztroską ludzką kreacją i przed próbami zajęcia miejsca boga.

Czy jednak powszechność negatywnego spojrzenia na usamodzielnianie się sztucznej inteligencji daje nam powód do obaw przed ich tworzeniem?

Ja zadałbym to pytanie trochę inaczej: czy jesteśmy w stanie stworzyć sztuczną inteligencję z takimi "zasadami", dzięki którym na pewno nie zaszkodzi ludzkości? Moim zdaniem odpowiedź brzmi: NIE.

Jest jesteśmy w stanie w formie algorytmu oddać złożoności ludzkich zachowań i ich moralnej oceny. Wystarczy uświadomić sobie, że jako ludzkość nie jesteśmy w stanie dogadać się w kwestii oceny wielu wydarzeń pomiędzy sobą. Pamiętajmy również, że w klasycznym ujęciu sztuczna inteligencja właściwie programuje się sama - poprzez naukę tworzy swoje własne zachowania. Na tej zasadzie niedawno wytrenowano sztuczną inteligencję na... gracza w pokera. Poprzez trenowanie sztucznej sieci neuronowej, naukowcy z uniwersytetu Carniegie-Mellon otrzymali AI o nazwie Claudico, którą następnie wystawili w dużym, sponsorowanym przez kilka firm IT turnieju.

Claudico wygrał, co jest wynikiem tym lepszym, że nauczył się reguł pokera samodzielnie, w czasie krótszym niż staż pozostałych graczy.

claudico

Są to przykłady sztucznych inteligencji, które wzmacniają jedną cechę ludzkiego umysłu (tutaj - umiejętność grania w pokera), zaniedbując inne. Z Claudico nie bylibyśmy w stanie porozmawiać ani zaplanować czegokolwiek innego niż kolejnego ruchu w pokerze.

AI przedstawiane w filmach (w tym w Ultronie), to tzw. silna sztuczna inteligencja. Jest to (wciąż hipotetyczny) rodzaj AI, które posiada wszystkie cechy ludzkiego umysłu - a więc również pomysłowość, dowcip, domyślność, umiejętność planowania, spekulowania, i tak dalej. W tej chwili takiej AI nie posiadamy, naukowcy zaś spekulują jak potężny komputer byłby potrzebny do zasymulowania całości ludzkiego mózgu.

1000px-Estimations_of_Human_Brain_Emulation_Required_Performance.svg

I tu spotykamy dwa podejścia: top-down (z góry do dołu), zakładające odtworzenie ludzkich zachowań w odpowiednim stopniu, oraz bottom-up (z dołu do góry) zakładające symulowanie całości ludzkiego mózgu (sztuczna sieć neuronowa).

Czy więc faktycznie AI może być dla nas niebezpieczna?

Dochodzę do wniosku, że jednak tak. Wszystkie narzędzia od zarania technologii budowaliśmy w sposób taki, że były kontrolowalne, przewidywalne i znaliśmy ich sposób działania. Tyczy się to większości użytkowych wytworów ludzkiej myśli, od młotka po rakiety kosmiczne. W przypadku AI jest inaczej - jej cechą i zaletą jest nieprzewidywalność. Niekoniecznie musimy dawać jej władzę nad światem, czy systemem obrony - wystarczy źle wytrenowana AI, która ma dobierać dawki leków czy analizować próbki wyników badań klinicznych. Nie musi wcale się buntować, czy zwrócić przeciwko nam - wystarczy, że będzie podejmować decyzje których nie będziemy w stanie na bieżąco zweryfikować.

I patrząc na ostatnie zdanie poprzedniego akapitu, mam wrażenie, że ten moment albo właśnie nadchodzi, albo już nadszedł.

* Grafika główna pochodzi z serwisu Shutterstock.

przeczytaj następny tekst


przeczytaj następny tekst


przeczytaj następny tekst


przeczytaj następny tekst


przeczytaj następny tekst