1. SPIDER'S WEB
  2. Technologie
  3. technologie
  4. Bezpieczeństwo

Chińczycy stworzyli bezstronnych prokuratorów. Zarzuty stawiać będzie sztuczna inteligencja

Podczas gdy w Polsce - na całe szczęście! - potencjalne podsłuchiwanie obywateli i polityków przez rząd spotyka się ze społecznym sprzeciwem, Chiny stopniowo i konsekwentnie stawiają kolejne kroki ku kompletnej cyfrowej kontroli nad swoim ludem.

Chiny zastąpią prokuratorów sztuczną inteligencją. Będzie nieomylna

Chińscy badacze właśnie pochwalili się, że jako pierwsi na świecie opracowali sztuczną inteligencję zdolną samodzielnie rozpoznawać przestępstwa i stawiać zarzuty kryminalistom.

Narzędzie zostało zbudowane w oparciu o istniejące już AI o nazwie System 206, które już dziś jest wykorzystywane przez prokuratorów do oceny materiału dowodowego pod kątem możliwego zagrożenia, jakie podejrzany stwarza dla społeczeństwa. Teraz badacze poszli o krok dalej – System 206, w oparciu o uczenie maszynowe i sieci neuronowe, potrafi rzekomo samoczynnie odsiać nieważne informacje z materiału dowodowego i rozpoznać w aktach co najmniej osiem najpowszechniejszych przestępstw rejonie: oszustwa związane z kartami kredytowymi, hazard, nieodpowiedzialne prowadzenie pojazdów, zamierzoną napaść, sprzeciwianie się policjantom, kradzież, oszustwo, a nawet… polityczną dysydencję.

Sztuczna inteligencja ponoć już teraz potrafi dokonać analizy i wykazać przestępstwo z dokładnością sięgającą 97-proc. To zaś zostawia spory margines błędu, więc można oczekiwać, że jeszcze przez długi czas maszynie potrzebne będzie wsparcie żywego człowieka, nim jej osąd zostanie uznany za ostateczny. Póki co System 206 znajduje się jeszcze w fazie rozwoju, a jego nowa funkcja nie została wdrożona w systemie sądownictwa. Patrząc jednak na to, jakim kursem cyfryzacji podążają Chiny, to jedynie kwestia czasu.

Bo narzędzie takie, jak System 206, stanowi naturalne rozwinięcie systemów już dziś funkcjonujących na terenie Chin i idealnie wpisuje się w autorytarną politykę Komunistycznej Partii Chin. A dokąd to wszystko zmierza? Wcale nie musimy snuć wizji, bo na to pytanie dawno już odpowiedziała popkultura.

AI to nieprzekupny, bezstronny sędzia. I to wcale nie jest dobra wiadomość.

Pod pewnymi względami, zwłaszcza patrząc na sprawę przez pryzmat polskiego systemu sądownictwa (leniwego, politycznego, rozmontowanego, każdy epitet słowa „beznadziejny” pasuje) i rozlicznych przykładów korupcji sądowniczej na świecie, można by uznać, że System 206 to istny dar niebios.

W końcu sztuczna inteligencja, karmiona nieprzetwarzalną dla żadnego człowieka ilością informacji, brzmi jak nieprzekupny, apolityczny sędzia. Nawet uwzględniając tzw. Bias AI, czyli założenie, że AI przyjmuje uprzedzenia swojego twórcy, przy odpowiednim „materiale źródłowym” System 206 jawi się jako bezstronny arbiter, sugerujący się tylko jednym – literą prawa. Jeśli AI uzna, że prawo zostało złamane, żadne kruczki prawne i indywidualna ocena sędziego czy prokuratora nie pomogą – winny poniesie karę. Czyż nie chcielibyśmy, by tak funkcjonowało sądownictwo i np. Kyle Rittenhouse nie został uniewinniony za dokonane potworności tylko dlatego, że był dotąd niekaranym, białym mężczyzną?

ELK ELKA Pegasus inwigilacja podsluchy

Wadą sztucznej inteligencji jest jednak to, że – jak każda technologia – jest ona niewrażliwa na niuanse. Zero-jedynkowa zarówno w swej konstrukcji, jak i w swoich osądach. Jeśli przyjmiemy, że AI wydaje wyrok i nie jest on w żaden sposób oceniany przez człowieka, może dojść np. do sytuacji, w której za nieostrożną jazdę zostanie skazany człowiek, który przekroczył prędkość wioząc ciężko chore dziecko do szpitala, bez okoliczności łagodzących. A już na pewno łatwo sobie wyobrazić, nie tylko w Chinach, oskarżenie o dysydencję na podstawie – na przykład – nieprzychylnemu rządowi tweeta.

Nierealny scenariusz? Popkultura podpowiada, że bardzo realny.

Oczywiście to, nad czym tutaj dywagujemy, jest kwestią lat i być może nigdy nie dojdzie do skutku. Świat zmienia się dynamicznie i nikt nie jest w stanie przewidzieć, jak będzie on wyglądał za kilka dekad, uwzględniając napiętą sytuację geo-polityczną na świecie i widmo zmian klimatycznych. Jeśli jednak Chiny nie zboczą z obranego przez siebie kursu, a nic nie wskazuje, by miało to nastąpić, możemy z grubsza przewidzieć, dokąd zaprowadzi nas dalszy rozwój systemów inwigilacji w Państwie Środka i nowoopracowane AI. Odpowiedź na to dają nam co najmniej dwa dzieła popkultury – Raport Mniejszości i, mój osobisty faworyt, anime Psycho-Pass.

Fabuła Raportu Mniejszości znana jest chyba wszystkim i może jest ona bliższa Systemowi 206, ale to Psycho-Pass tworzy bardziej kompletny portret społeczeństwa sterowanego przez sztuczną inteligencję.

W tej japońskiej animacji całe życie obywateli jest sterowane i oceniane przez AI, nazwane tam Sibyl System (od imienia mitycznej wieszczki). Sibyl ocenia m.in. predyspozycje danej osoby, decydując o jej przyszłej ścieżce kariery i przydatności społecznej. W połączeniu ze skanerami cymatycznymi (analizującymi fale akustyczne) Sibyl potrafi też ocenić skłonność danej osoby do popełnienia przestępstwa, nadając jej odpowiedni współczynnik. Jeśli współczynnik zaczyna spadać, dana osoba może być skierowana na leczenie. Jeśli osoba popełni przestępstwo, może zostać odizolowana lub nawet zdezintegrowana przez specjalną grupę policyjnych egzekutorów – ludzi, którzy przez wzgląd na swój charakter nie mogą już być częścią społeczeństwa, ale przez wzgląd na predyspozycje mogą pełnić rolę swoistych katów.

Bardzo łatwo jest nakreślić paralelę między wizją rysowaną w Psycho-Pass, a rozwojem cyfrowym współczesnych Chin. I wcale nie jesteśmy od niej aż tak daleko. System „punktacji” i oceny zachowania obywateli już funkcjonuje. System permanentnej inwigilacji? Jest. Uciszanie niewygodnych przeciwników politycznych? W toku. Sztuczna inteligencja ferująca wyroki? W przygotowaniu. Nie trzeba dysponować wyobraźnią kalibru Stevena Spielberga, by widzieć, że taki scenariusz w Chinach nie jest nierealny. Wprost przeciwnie – KPCh zdaje się dążyć właśnie do takiego ustroju: zautomatyzowanego systemu stojącego na straży przestrzegania prawa i obyczajów przez obywateli. Przy stale rosnącej populacji chińczyków to też najbardziej logiczna droga, wszak mając pod swoją kuratelą opieką 1,4 mld ludzi, Chiny muszą dysponować prawdziwą armią urzędników. Automatyzacja z pewnością ułatwiłaby kwestię realizowania jedynej słusznej wizji, jaką ma dla swojego kraju KPCh.

Zarówno jednak Raport Mniejszości jak i Psycho-Pass uczą nas, czym kończy się autokracja sztucznej inteligencji – buntem indywidualistów, których postępowanie wymyka się zero-jedynkowym zasadom AI oraz złotymi czasami dla zręcznych złoczyńców, którzy swoim postępowaniem omijają literę prawa i pozostają dla sztucznej inteligencji nieuchwytni.

Tym samym wizja utopii szybko przemienia się w dystopię, a zwolennicy „zamordyzmu” szybko przestają nimi być, gdy to oni są sądzonymi, nie sądzącymi. Patrzę zatem na to, co dzieje się w Chinach, z mieszanką lęku i fascynacji. I choć demokracjom i funkcjonujących w jej ramach systemom sądownictwa można dziś wiele zarzucić, to przynajmniej w świecie ludzkich osądów mamy miejsce na sprzeciw i alternatywną opinię. W świecie osądów sztucznej inteligencji skończy się miejsce na niuanse, więc spieszmy się je doceniać, póki jeszcze mamy do nich prawo.