Nowe technologie w służbie totalitaryzmowi, czyli jak Chiny inwigilują swoich obywateli
Brad Smith z Microsoftu ostrzega, że brak regulacji związanym z technologiami rozpoznawania twarzy może zmienić nasz świat w ten znany z książki 1984 G. Orwella, w którym każdy obywatel jest pod stałym nadzorem Wielkiego Brata. Nie trzeba jednak odwoływać się do literatury, żeby zobrazować potencjalne zagrożenia, jakie niosą za sobą nowe technologie. Wystarczy spojrzeć na Chiny.
Państwo Środka rządzi się swoimi prawami za nic mając takie wartości, jak prawa obywatelskie czy wolność słowa. Tamtejsze władze już kilka lat temu dostrzegły ogromny potencjał, jeśli chodzi o możliwości inwigilacji swoich obywateli przy użyciu nowych technologii. Tak narodził się pomysł na stworzenie mechanizmu o bardzo niewinnej nazwie: System Zaufania Społecznego.
Zaczęło się od płatności mobilnych.
A konkretniej od aplikacji Alipay, stworzonej przez Ant Financial - chińską firmę należącą do megakorporacji Alibaba. Alipay to tzw. superaplikacja z własnym ekosystemem, który jest w stanie wyliczyć indywidualną zdolność kredytową każdego obywatela. Po zainstalowaniu jej na smartfonie, aplikacja analizuje historię zakupową użytkownika i na tej podstawie przyznaje mu określony kredyt zakupowy. Podobnie działa zresztą WeChat, który obecnie w Chinach jest tak popularny, że nawet osoby żebrzące na tamtejszych ulicach wykorzystują go do zbierania jałmużny.
Szybki wzrost popularności mobilnych aplikacji płatniczych zbiegł się w czasie z pomysłem chińskiego rządu, który w 2014 r. ogłosił uruchomienie systemu kredytu społecznego. Radzie Państwa ChRL bardzo spodobało się to, że dzięki popularnym aplikacjom mobilnych, których dane analizowane są na bieżąco przez big data może mieć wgląd do historii zakupowej prawie każdego obywatela. I na podstawie tej historii zacząć go oceniać.
System Zaufania Społecznego nie kończy się jednak na analizie zakupów obywateli.
Historia zakupowa to tylko jedno z kryteriów oceny obywatela. System Zaufania Społecznego oprócz tego, co kupuje dana osoba będzie oceniał również takie rzeczy jak jego aktywność w mediach społecznościowych, siatkę znajomych, miejsca które odwiedza (zarówno w sieci, jak i w realu) itd. Mówiąc skrócie: zachowania zgodne z aktualną linią partii rządzącej są dobre. Posiadanie odmiennego zdania w dowolnej kwestii lub zachowanie odbiegające od normy zaowocuje punktacją negatywną.
W gruncie rzeczy nie jest to nowy pomysł, jeśli chodzi o kraje totalitarne. Podobny mechanizm, tylko oparty na o wiele bardziej prymitywnych rozwiązaniach działał na przykład w Niemieckiej Republice Demokratycznej. Tamtejsze Ministerstwo Bezpieczeństwa Państwowego (Stasi) robiło wszystko, żeby podsłuchiwać jak największą liczbę obywateli, zachęcając ich również do donoszenia na swoich znajomych i sąsiadów. A skoro o donoszeniu mowa...
Grywalizacja posłuszeństwa i podział obywateli na nowe klasy społeczne.
Będąc jednym z najdłużej funkcjonujących państw totalitarnych, w którym za odmienne poglądy człowiek nadal może po prostu zniknąć, Chiny nauczyły się komunikować swoje zarządzenia w przystępnej formie. Nie inaczej będzie z System Zaufania Społecznego. Grywalizacja w tym przypadku polega na zdobywanie kolejnych przywilejów za pożądane zachowanie. Wzorowi obywatele mogą liczyć na miejsce w uprzywilejowanej kolejce w urzędzie państwowym, miejsca w lepszych szkołach dla swoich dzieci, awans w pracy, wyższą zdolność kredytową, etc.
Punkty potrzebne do stania się takim uprzywilejowanym wzorem przyznawane będą również za donosy na innych obywateli. Twój sąsiad słucha zagranicznej, ciężkiej muzyki i sprowadza sobie japońską mangę? Poinformuj o tym władze, twoja punktacja wzrośnie. Słyszałeś, jak sąsiadka narzeka na kiepskie warunki w pobliskim szpitalu państwowym? Zgłoś to.
Testowy program Systemu Zaufania Społecznego działa już w mieście Rongcheng. Władze są zresztą z niego bardzo zadowolone i twierdzą, że dzięki ich nowemu pomysłowi w Rongcheng znacznie poprawiła się atmosfera, a mieszkańcy miasta stali się bardziej aktywni i zaangażowani w sprawy lokalne. Nic dziwnego, w końcu dostają za to punkty, które mają bezpośrednie przełożenie na ich życie.
Efektem tego programu testowego są cztery klasy obywateli: A, B, C i D. Klasa A to ci najbardziej wzorowi, którzy mogą liczyć na liczne przywileje. Grupa B nie może liczyć na takie samo, preferencyjne traktowanie, ale nie musi się też zbytnio przejmować kwestią inwigilacji. Dalej robi się oczywiście gorzej. Zachowania mieszkańców Rongcheng z grupy C monitorowanie jest codziennie.
Otrzymują oni również pisemne instrukcje informujące ich o pewnych, wprowadzonych w stosunku do nich ograniczeniach. Grupa D ma oczywiście najgorzej. Ich punktacja jest tak niska, że nie mogą oni liczyć na jakąkolwiek zdolność kredytową czy piastowanie kierowniczych stanowisk w pracy. A o wyrobieniu paszportu mogą co najwyżej pomarzyć.
Chińska inwigilacja: wraz z postępem technologii, ta chińska dystopia będzie oczywiście udoskonalana.
Władze Chińskiej Republiki Ludowej chcą kontroli totalnej. Monitoring oparty na technologiach rozpoznawania twarzy? To za mało. W Państwie Środka pojawi się wkrótce monitoring oparty na… analizie chodu tamtejszych obywateli. Także czapka z daszkiem i kaptur na głowie nie uchroni wkrótce nikogo przed stałym nadzorem chińskiego rządu.
Wraz z rozwojem algorytmów sztucznej inteligencji oraz planami władzy związanymi ze stałym przypisaniem aktywności internetowej do danego obywatela, chińskie służby będą wiedzieć jeszcze więcej o swoich obywatelach. Zresztą już teraz internet w Chinach jest mocno ocenzurowany. W połączeniu z inwigilacją w świecie rzeczywistym i siatką przykładnych obywateli, którzy ochoczo zgłoszą każde problematyczne zachowanie swojego znajomego, chińscy obywatele nie mogą liczyć na jakąkolwiek prywatność.
Smith oczywiście nie mógł otwarcie posłużyć się przykładem Chin, bo Microsoft, tak jak prawie każda większa korporacja na świecie prowadzi w tym kraju interesy i nie chce narażać się tamtejszym władzom. Warto jednak pamiętać, że te same technologie, które sprawiają, że nasze życie staje się coraz bardziej wygodne, mogą być wykorzystane do naszej bardzo skutecznej inwigilacji. Osobiście nie wyobrażam sobie życia w takim państwie.
