Uniwersytet w Cambridge obawia się SkyNetu i buntu maszyn

- Będąc tu, czasami myślę o tych wszystkich ludziach wciąż podłączonych do Matrixa, a kiedy patrzę na te maszyny, ja… nie mogę się powstrzymać od wrażenia, że w pewnym sensie… wciąż jesteśmy do nich podłączeni.
- Ale nad tymi maszynami panujemy. One nad nami nie.
- Oczywiście, że nie panują. Jak one by mogły? Nonsensowny pomysł. Ale… to powoduje, że można się zastanowić nad tym… czym jest kontrola?
- Jeżeli byśmy chcieli, moglibyśmy je wyłączyć.
- No jasne. To jest to. Trafiłeś. To jest kontrola, nieprawdaż? Jak tylko zechcemy, możemy je rozwalić w drobny mak. Ale potem, musielibyśmy się zastanowić, co z naszym oświetleniem, ogrzewaniem, oczyszczaniem powietrza…

To dialog (moje tłumaczenie, z pamięci) z filmu Matrix: Reaktywcacja. Film ten, mimo miażdżącej krytyki (której nie rozumiem, ale nie skupiajmy się nad tym) porusza wiele problemów dotyczących naszej zależności od maszyn. To jeden z tryliona scenariuszy na temat sztucznych tworów przejmujących kontrolę nad ludzkością. Już Tolkien we Władcy Pierścieni, poprzez przeróżne metafory, wyrażał obawy przed nadmiernym uprzemysłowieniem i zależnością od maszyn, a sztuczna inteligencja buntująca się przeciwko ludzkości to ulubiony temat nie tylko nowelistów-amatorów, ale też uznanych filmowców i pisarzy. Zapomnijmy może na chwilę o groteskowej historii Jamesa Camerona, opowiadającej o komputerze SkyNet, który zapragnął zgładzić ludzkość. To genialne filmy, ale raczej z gatunku czystej fantastyki. Matrix również nie jest najszczęśliwszym przykładem, bo tam bracia Wachowscy umiejętnie uniknęli kłopotliwej sytuacji, i po prostu nie poinformowali widzów o tym, jakim cudem maszyny przejęły nad nami kontrolę (zrobili to w kreskówkach). Dużo ciekawsze przypadki znajdziemy w klasyce gatunku.

Ot, chociażby moja ukochana Odyseja Kosmiczna pana (wstać!) Arthura C. Clarke’a (siadać!). To historia załogowej misji, mającej zbadać księżyce Jowisza i Saturna. Głównym bohaterem pierwszego tomu jest HAL-9000, komputer zarządzający statkiem Discovery, który transportuje astronautów do miejsca przeznaczenia. Ów komputer, to też zaawansowana sztuczna inteligencja, która jest w stanie podejmować autonomiczne decyzje dotyczące funkcjonowania statku. To jednak wciąż bardzo złożony, ale program komputerowy, który w razie usterki ulega awarii. W książce HAL został poinstruowany, by trzymać w tajemnicy prawdziwy cel misji przed załogą. To z kolei okazało się sprzeczne z podstawową jego funkcją, czyli informowanie o zdarzeniach istotnych dla przebiegu misji. HAL znalazł jedyne dla siebie logiczne rozwiązanie, pozwalające uciec przed logiczną pułapką: pozbycie się załogi. Fantastyka naukowa, czy też realny problem, który może nas kiedyś czekać?

Isaac Asimov, twórca trzech praw robotów (1: Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy; 2: Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem; 3: Robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem) również doszedł do wniosku w jednym ze swoich opowiadań, że roboty, by móc zapewnić owe prawa, wykoncypują, że należy ograniczyć ludziom wolność z uwagi na ich nieprzewidywalność i lekkomyślność. Całkiem logiczne, całkiem mało „fantastyczne”.

Sprawę z tego zaczynają zdawać sobie środowiska naukowe. Uniwersytet w Cambridge powołał właśnie do tego celu zespół naukowy, składający się zarówno z „ścisłowców”, jak i filozofów. Mają oni badać zagrożenia, jakie może przynieść każda nowa swoboda, którą damy maszynom. Mają też zbadać istniejące zależności pomiędzy zachodnią cywilizacją a elektroniką i mechaniką. Czy wciąż panujemy nad maszynami? A jeśli straciliśmy niezależność, to co powinniśmy zrobić, by uniknąć katastrofy?

Zdaniem Huwa Price’a, członka zespołu, maszynę należy uznać za zagrożenie już w momencie, w którym gromadzi ona zasoby do własnych celów, które zostaną postawione nadrzędnie nad korzyścią człowieka. Porównuje to do działań naszej cywilizacji, która rozprzestrzeniła się po kuli ziemskiej, pochłaniając zasoby niezbędne do życia dla innych gatunków. Czy nam również kiedyś zostanie przylepiona plakietka „zagrożony gatunek”? Price i reszta chcą temu zapobiec.

Badania ruszą od przyszłego roku. Price jest współsponsorem projektu. Drugim sponsorem jest Martin Rees, profesor kosmologii i astrofizyki, oraz Jann Tallinn, współzałożyciel Skype’a.

Źródło: Associated Press

Maciek Gajewski jest dziennikarzem, współprowadzi dział aktualności na Chip.pl, gdzie również prowadzi swojego autorskiego bloga