Tech  / Felieton

Przed morderczą sztuczną inteligencją uratuje nas... przyjazna sztuczna inteligencja

Picture of the author

Czy już teraz powinniśmy pomyśleć o „czerwonym przycisku bezpieczeństwa” na wypadek niekontrolowanego zachowania sztucznej inteligencji w przyszłości?

A może do lęku, że algorytmy mogą zgotować nam Armagedon, powinniśmy podejść konstruktywnie, tworząc projekt sztucznej inteligencji przyjaznej ludziom?

Myśl o istnieniu symbolicznego przycisku, który pozwoliłby błyskawicznie zneutralizować wrogo nastawione algorytmy, nie jest obca zarówno przeciętnemu zjadaczowi chleba, jak i znanym reprezentantom branży technologicznej oraz naukowcom. Nie ma sensu kolejny raz przytaczać ostrzeżeń Elona Muska, Billa Gatesa, Yuvala Harrari czy Stephena Hawkinga, którzy wielokrotnie mówili o tym, że do zagrożeń związanych z niekontrolowaną sztuczną inteligencją należy podchodzić poważnie.

Zanim jednak przejdę do refleksji na temat tego, na czym miałoby polegać działanie algorytmów przyjaznych ludziom, przyjrzę się wizji cywilizacyjnych i technologicznych pesymistów.

Kosmiczna obojętność

Popularność zyskują koncepcje, zgodnie z którymi sztuczna inteligencja na drodze do swojego samorozwoju nie będzie uznawała żadnych ograniczeń. Byłoby to wbrew jej naturze. W takim ujęciu można ją porównać do samoreplikującego się, coraz bardziej złożonego wirusa, który będzie wkraczać w kolejne obszary naszego istnienia – zarówno te biologiczne, jak emocjonalne oraz intelektualne.

Coraz lepiej organizujące się algorytmy zdominują nas w sposób analogiczny do tego, jak my dzisiaj dominujemy nad zwierzętami. Zyskają zdolność organizacji, a właściwie dezorganizacji życia społecznego, bez oglądania się na nasze poglądy, prawa i protesty. W takim ujęciu sztuczna inteligencja niekoniecznie musi działać w oparciu o racjonalny – z naszego punktu widzenia – zamiar, jakim jest dominacja nad ludźmi.

Katastrofa może polegać na tym, że algorytmy, ustanowią tylko sobie znaną hierarchię celów, w której my w ogóle nie zostaniemy uwzględnieni. Nie chodzi więc o to, że pewnego dnia zobaczymy przed sobą cyborga, który skieruje w naszym kierunku broń plującą laserem. Nie będzie to wrogie zdominowanie jednego gatunku istot przez drugi. Może to raczej być coś w rodzaju wyeliminowania nas z gry, przy zachowaniu obojętności i braku świadomości, że my – homo sapiens – w ogóle istniejemy. Zginiemy, bo zostaniemy pominięci na drodze do realizacji inteligentnego planu, do którego ani dzisiaj, ani w przyszłości nie będziemy mieć dostępu.

Na przykład zmienimy się w spinacze

Taką zimną eksterminację rodzaju ludzkiego, bez łatwo wyobrażalnych kataklizmów, za to przy całkowitej obojętności algorytmów, prezentuje eksperyment myślowy przeprowadzony przez duńskiego filozofa Nicka Bostroma w książce „Superinteligencja”. Wyobraźmy sobie, pisze Bostrom, że coraz lepiej i szybciej rozwijająca się sztuczna inteligencja dochodzi do wniosku, że celem dla niej nadrzędnym na pewnym etapie istnienia jest stworzenie maksymalnej liczby spinaczy.

W związku z tym, aby zrealizować to zadanie, algorytmy zaczynają podporządkowywać każdy element rzeczywistości temu celowi. Wszystko – cała materia organiczna i nieorganiczna, każdy najdrobniejszy element rzeczywistości zarządzany jest tak, by możliwe było stworzenie maksymalnej liczby spinaczy.

Nie ma znaczenia, co jest czym, kto jest kim, nieistotne jest to, czy ktoś – ludzkość – uważa ten cel za absurdalny, niezrozumiały – takie rozważania są zarezerwowane jedynie dla ludzi. Najważniejsza jest sprawność, z jaką algorytmy zrealizują tę wizję, która z jakichś względów będzie im potrzebna na danym etapie ich rozwoju.

Osobliwość nadchodzi

Brzmi to nieco absurdalnie, ale pokazuje dobrze, jak bezbronni – jako gatunek – możemy czuć się w przyszłości, jeśli tylko za słuszną uznamy koncepcję „osobliwości”, która zakłada, że już w ciągu najbliższych dwudziestu lat zdolności obliczeniowe wszystkich istniejących komputerów będą większe niż zdolności obliczeniowe naszych mózgów.

Jak w takim razie – w obliczu tak niepokojących i jednocześnie niepojmowalnych scenariuszy – miałoby wyglądać sensowne zachowanie się ludzi? Co możemy już dzisiaj zrobić, by nie dopuścić do realizacji opisanych katastroficznych wizji? Czy, jeśli założymy, że algorytmiczne technologie będą zyskiwać coraz większą samodzielność, uniezależniając swoje plany od naszych intencji, poglądów i planów, mamy szansę na wymyślenie przysłowiowego „czerwonego przycisku”?

Po jedenaste: jesteś zależna od naszej woli

Musiałaby to być jakaś ogólna, ale bezwzględnie respektowana zasada. Zasada, która stałaby się podstawą do zapewnienia naszego gatunkowego poczucia bezpieczeństwa. W tym momencie chciałbym wrócić do pojęcia sztucznej inteligencji przyjaznej ludziom. Jeśli mielibyśmy stworzyć scenariusze optymistyczne (analogicznie do opisanych - pesymistycznych), powinniśmy przyjąć założenie, że mimo faktu nieustannego powiększania swych możliwości, sztuczna inteligencja nie zyskuje niezależności. To my ciągle decydujemy o tym, w jakim kierunku się rozwija, znamy jej możliwości i dostrzegamy jej ograniczenia.

W takim toku rozumowania pojęcie „black box” byłoby jedynie pewną formą naszych lęków, a nie faktycznym stanem algorytmów, na bazie którego rodziłoby się realne zagrożenie. Sztuczna inteligencja, która miałaby status przyjaznej, nie miałaby wpływu na każdy skrawek naszej rzeczywistości. Pewne obszary – ludzka świadomość, ludzkie subiektywne doznania, takie jak miłość lub przyjaźń, systemy wartości, które towarzyszą naszemu życiu, itd. – byłyby poza zasięgiem działania algorytmów. Algorytmów, które chociaż mogłyby bardzo dużo, to nie potrafiłyby przekroczyć pewnej granicy. Być może byłaby to granica między inteligencją, a świadomością, której sztuczna inteligencja nigdy samodzielnie nie zyska, ani my jej nią nie obdarzymy.

Dodatkowo, poprzez szereg decyzji o charakterze regulacyjnym, które będą musiały i tak zastać podjęte, moglibyśmy zadbać o nieprzekraczalne granice w eksperymentowaniu z technologią. Samoograniczenia, które narzucilibyśmy sobie z czasem, musiałyby prawdopodobnie dotyczyć takich działań jak chipowanie ludzi, cyborgizacja czy przetwarzanie naszych prywatnych danych.

Potrzebny jest wielki projekt

Tu warto przytoczyć słowa Jaana Tallinna, w przeszłości zaangażowanego w tworzenie aplikacji Skype, dzisiaj poświęcającego się pracom na rzecz etycznych, przyjaznych ludziom technologii. Cytuję za The Guardian:

Mamy nadzieję, że sztuczną inteligencję można nauczyć rozpoznawać takie niezmienne zasady. W tym procesie musiałaby ona zrozumieć i doceniać nielogiczną stronę ludzi: że często mówimy jedną rzecz, a mamy na myśli inną, że niektóre z naszych preferencji są sprzeczne z innymi, że ludzie są mniej wiarygodni, gdy są pijani, etc. Musimy przemyśleć kilka kroków do przodu... Stworzenie sztucznej inteligencji, która nie podziela naszych zainteresowań, byłoby strasznym błędem.

Jeśli udałoby się wprowadzić w życie taki globalny, utopijny projekt – co wymagałoby współpracy polityków, technologów, etyków i przedstawicieli technologicznego biznesu, sztuczna inteligencja stałaby się potężną siłą, która pomogłaby przenieść homo sapiens na wyższy poziom rozwoju. Taki, na którym możemy bardziej cieszyć się życiem – dostrzegając w nim jakości dotąd niedostępne i jednocześnie mniej się o nie bać.

Może więc należy to spuentować jednym zdaniem, które nie będzie wyrażać myśli specjalnie eleganckiej, ale jednak może dobrze, by się ona pojawiła. Sztuczna inteligencja przyjazna ludziom, to po prostu nasza ludzka, pełna władza nad algorytmami, do której za wszelką cenę powinniśmy dążyć i jej nie oddawać. Kto wie, czy nie znajdujemy się już na wstępnym etapie wojny o utrzymanie tej władzy.

Norbert Biedrzycki

Head of Services CEE, Microsoft. Kieruje usługami Microsoft w 36 krajach, ich zakres obejmuje doradztwo biznesowe i konsulting technologiczny, w szczególności w takich obszarach jak big data i sztuczna inteligencja, aplikacje biznesowe, cybersecurity, usługi premium oraz cloud. Poprzednio jaklo Vice President Digital McKinsey odpowiedzialny za region CEE oraz usługi łączące doradztwo strategiczne i wdrażanie zaawansowanych rozwiązań informatycznych. Od kompleksowej transformacji cyfrowej przez szybkie wdrożenia aplikacji biznesowych, rozwiązania i analizy big data, biznesowe zastosowania sztucznej inteligencji po rozwiązania blockchain i IoT. Wcześniej Norbert pełnił funkcję Prezesa Zarządu i CEO Atos Polska, był również szefem ABC Data S.A. oraz Prezesem Zarządu i CEO Sygnity S.A. Poprzednio również pracował w firmie McKinsey jako partner, był dyrektorem działu usług doradczych, oraz rozwoju biznesu firmy Oracle.

Pasją Norberta są najnowsze technologie robotyzacja, zastosowania sztucznej inteligencji, blockchain, VR i AR, Internet Rzeczy, oraz ich wpływ na gospodarkę i społeczeństwo. Więcej na ten temat można przeczytać na blogu Norberta.

przeczytaj następny tekst


przeczytaj następny tekst


przeczytaj następny tekst


przeczytaj następny tekst


przeczytaj następny tekst