Sztuczna inteligencja może być dla nas wielkim zagrożeniem. I wcale nie chodzi tu o bunt

Film Jossa Whedona, jak i praktycznie wszystkie inne opowieści o zbuntowanych komputerach, to ponowne rozegranie mitu Frankensteina - przestrogi przed beztroską ludzką kreacją i przed próbami zajęcia miejsca boga.

Ja zadałbym to pytanie trochę inaczej: czy jesteśmy w stanie stworzyć sztuczną inteligencję z takimi "zasadami", dzięki którym na pewno nie zaszkodzi ludzkości? Moim zdaniem odpowiedź brzmi: NIE.

Jest jesteśmy w stanie w formie algorytmu oddać złożoności ludzkich zachowań i ich moralnej oceny. Wystarczy uświadomić sobie, że jako ludzkość nie jesteśmy w stanie dogadać się w kwestii oceny wielu wydarzeń pomiędzy sobą. Pamiętajmy również, że w klasycznym ujęciu sztuczna inteligencja właściwie programuje się sama - poprzez naukę tworzy swoje własne zachowania. Na tej zasadzie niedawno wytrenowano sztuczną inteligencję na... gracza w pokera. Poprzez trenowanie sztucznej sieci neuronowej, naukowcy z uniwersytetu Carniegie-Mellon otrzymali AI o nazwie Claudico, którą następnie wystawili w dużym, sponsorowanym przez kilka firm IT turnieju.

Claudico wygrał, co jest wynikiem tym lepszym, że nauczył się reguł pokera samodzielnie, w czasie krótszym niż staż pozostałych graczy.

Są to przykłady sztucznych inteligencji, które wzmacniają jedną cechę ludzkiego umysłu (tutaj - umiejętność grania w pokera), zaniedbując inne. Z Claudico nie bylibyśmy w stanie porozmawiać ani zaplanować czegokolwiek innego niż kolejnego ruchu w pokerze.

AI przedstawiane w filmach (w tym w Ultronie), to tzw. silna sztuczna inteligencja. Jest to (wciąż hipotetyczny) rodzaj AI, które posiada wszystkie cechy ludzkiego umysłu - a więc również pomysłowość, dowcip, domyślność, umiejętność planowania, spekulowania, i tak dalej. W tej chwili takiej AI nie posiadamy, naukowcy zaś spekulują jak potężny komputer byłby potrzebny do zasymulowania całości ludzkiego mózgu.

I tu spotykamy dwa podejścia: top-down (z góry do dołu), zakładające odtworzenie ludzkich zachowań w odpowiednim stopniu, oraz bottom-up (z dołu do góry) zakładające symulowanie całości ludzkiego mózgu (sztuczna sieć neuronowa).

Dochodzę do wniosku, że jednak tak. Wszystkie narzędzia od zarania technologii budowaliśmy w sposób taki, że były kontrolowalne, przewidywalne i znaliśmy ich sposób działania. Tyczy się to większości użytkowych wytworów ludzkiej myśli, od młotka po rakiety kosmiczne. W przypadku AI jest inaczej - jej cechą i zaletą jest nieprzewidywalność. Niekoniecznie musimy dawać jej władzę nad światem, czy systemem obrony - wystarczy źle wytrenowana AI, która ma dobierać dawki leków czy analizować próbki wyników badań klinicznych. Nie musi wcale się buntować, czy zwrócić przeciwko nam - wystarczy, że będzie podejmować decyzje których nie będziemy w stanie na bieżąco zweryfikować.

I patrząc na ostatnie zdanie poprzedniego akapitu, mam wrażenie, że ten moment albo właśnie nadchodzi, albo już nadszedł.

* Grafika główna pochodzi z serwisu Shutterstock.