Ile władzy jesteśmy w stanie oddać w ręce maszyn? Zastanówmy się zanim Amerykanie stworzą SkyNet
Nie raz, nie dwa pisaliśmy o projektach stworzenia inteligentnej maszyny lub komputerowej symulacji ludzkiego mózgu. Przy okazji takich informacji zawsze pojawiają się wątpliwości i strach, szczególnie po obejrzeniu filmów z serii Terminator. Ale dopiero teraz przerażenie nabiera realnych kształtów, bowiem Amerykanie chcą stworzyć, wypisz wymaluj – SkyNet.
Pentagon, a w sumie to agencja DARPA, ogłosił konkurs Cyber Grand Challenge. Jego celem jest zbudowanie cybernetycznego systemu obronnego. Nie byłoby w tym nic nadzwyczajnego gdyby nie fakt, że ma on być w pełni automatyczny. W założeniu system ma przeciwdziałać atakom hakerów, ale także odpowiadać na takie działania. I tutaj nadal nie ma nic nadzwyczajnego. Najgorsze dopiero przed nami.
Nieco przerażające jest to, że ów system miałby być w stanie sam aktualizować swój kod, uczuć się i w ten sposób poszerzać swoje możliwości i tym samym lepiej reagować na cybernetyczne zagrożenia. Brzmi znajomo? Bardzo podobnie działał SkyNet z filmów Terminator. On także był automatyczny i wciąż zwiększał swoje możliwości. Tak bardzo się usprawniał, że w końcu zyskał samoświadomość i w końcu wysłał bombowce z głowicami nuklearnymi na teren Rosji. W tym momencie rozpoczęła się wojna między maszynami i ludźmi.
To tyko fikcja, ale czy naprawdę aż tak odległa od rzeczywistości?
Już teraz powstają projekty, które mają za cel stworzenie inteligentnej maszyny, która byłaby w stanie myśleć jak człowiek. Skoro jej inteligencja dorównywałaby ludzkie, to z czasem maszyna mogłaby się udoskonalać aż w końcu by nas przewyższyła. Później już tylko krok od „pomysłu”, że skoro komputer jest lepszy od człowieka, to czemu nie miałby przejąć władzy. A jeśli uznałby, że człowiek jest elementem zbędnym?
Nie wiem jak Was, ale mnie to po prostu przeraża. Nawet gdyby zastosowano wszelkiej maści zabezpieczenia i stworzono mechanizmy odłączenia takiego systemu, to przecież mógłby on się stać inteligentniejszy od nas i je po prostu dezaktywować. Wtedy nie bylibyśmy w stanie nic zrobić. Bo co, wyłączymy mu prąd? Coraz więcej rzeczy na naszym świecie jest skomputeryzowanych, więc pewnie i z takim problemem maszyna by sobie poradziła, zasilając się z innej elektrowni. Komputer mógłby uznać, że bez niego obrona jest niemożliwa, więc zrobiłby wszystko, aby zapobiec wyłączeniu.
Równie dobrze komputer mógłby też przejąć kontrolę nad każdym urządzeniem podłączonym do Sieci. Jeśli system wiedziałby, co robimy na swoich komputerach, to wiedziałby też, kto szykuje się do jakiegokolwiek ataku. Skądś wzięło się powiedzenie, że najlepszą obroną jest właśnie atak.
Oczami wyobraźni już widzę przyszłość, w której komputer decyduje o tym, co dzisiaj dostaniemy na śniadanie, co czytamy lub co oglądamy w telewizji. Widzę, jak przejmuje kontrolę nad moim komputerem lub smartfonem, bo jest mu on akurat potrzebny do odparcia ataku. Widzę, jak odłącza od Sieci każdego, wobec którego wysunąłby choćby najmniejsze podejrzenie działań hakerskich. Widzę, jak smartfon nie pozwala mi zadzwonić do kumpli, bo przecież mam jeszcze tyle pracy do zrobienia, że umówienie się na piwo jest nierozsądne.
Straszna to wizja. Może nieco szalona, ale czy naprawdę aż tak nierealna?
I zastanawia mnie, jak wiele jesteśmy w stanie oddać w ręce maszyn. Skoro mają nas chronić przed atakami, kierować ruchem ulicznym, podpowiadać, jaka dieta byłaby dla nas najlepsza, a nawet decydować o prędkości prowadzonego przez nas auta, to czy już nie jesteśmy trochę w ich władaniu?
Sam konkurs Pentagonu ma trwać 3 lata. Przez ten czas ochotnicy z całego świata mogą pracować nad własnymi systemami automatycznej ochrony cybernetycznej. A pewnie chętnych znajdzie się sporo, bo do wygrania są aż 2 mln dol.. Osoby, które zajmą drugie i trzecie miejsce dostaną odpowiednio milion i 750 tys..
Grafika początkowa pochodzi z FastCompany. Zdjęcie Super hero with computer circuit pochodzi z serwisu Shutterstock.
