Nadchodzi totalna inwigilacja. Dostaniemy ją na własne życzenie
Dawno nie mieliśmy tak namacalnych dowodów przyjaznych relacji bigtechów ze służbami. Emerytowany dyrektor NSA, Paul Nakasone został członkiem rady nadzorczej OpenAI. Choć w oficjalnym komunikacie próbuje się przepchnąć narrację, która ma skłonić odbiorców do myślenia: „to dla naszego bezpieczeństwa”, NSA kojarzy się z czymś zgoła innym.
Samo OpenAI w swoim komunikacie rozpływa się nad szlachetną wizją zapewnienia bezpieczeństwa przy pomocy AI:
Spostrzeżenia Nakasone przyczynią się również do wysiłków OpenAI mających na celu lepsze zrozumienie, w jaki sposób sztuczną inteligencję można wykorzystać do wzmocnienia cyberbezpieczeństwa poprzez szybkie wykrywanie zagrożeń i reagowanie na nie. Wierzymy, że sztuczna inteligencja może zapewnić znaczne korzyści w tym obszarze wielu instytucjom często będącym celem cyberataków, takim jak szpitale, szkoły i instytucje finansowe
– czytamy na stronie OpenAI.
Jak widać, w otoczce dobroczynnego wpływu na instytucje publiczne, OpenAI sprzedaje uzasadnienie dla zatrudnienia człowieka, który odpowiadał za cały przemysł inwigilacji. I choć trudno rzecz jasna kontestować potrzebę istnienia tzw. służb, których zadaniem jest czuwanie nad bezpieczeństwem narodowym, to nie od dziś wiadomo, że NSA znacznie przekraczała swoje uprawnienia. Jako agencja wywiadowcza nie miała chociażby umocowania, by śledzić własnych obywateli na terenie Stanów Zjednoczonych, a to tylko jeden z mniej poważnych zarzutów.
Przypomniał o tym w serwisie X Edward Snowden, sygnalista, który ujawnił w 2013 r. szczegóły masowego programu inwigilacji PRISM stworzonego przez wspomnianą Agencję Bezpieczeństwa Narodowego.
Choć wiarygodność Snowdena podkopuje dziś fakt, że jest on obywatelem Federacji Rosyjskiej i rzekomo złożył temu krajowi przysięgę, przyjmując obywatelstwo, nie zmienia to faktu, że jego spostrzeżenie dotyczące nominacji emerytowanego generała na stanowisko w OpenAI powstało z wyjątkowej perspektywy.
Połączenie sztucznej inteligencji z oceanem danych z masowej inwigilacji, które były gromadzone przez ostatnie dwie dekady, sprawi, że naprawdę straszliwe siły znajdą się w rękach nielicznych, których nie można policzyć
– napisał Snowden.
Jego refleksje wpisują się zresztą w liczne głosy krytyczne dotyczące kontroli nad obywatelami, która odbywa się za pośrednictwem algorytmów, uczenia maszynowego czy ogólnie pojętej sztucznej inteligencji. Te z kolei mają podbudowę w refleksji myślicieli, którzy opisując mechanizmy kontroli, zapisali tysiące stron poświęconych temu zagadnieniu.
Wiedza i informacje w służbie władzy
„Ani władza nie może być praktykowana bez wiedzy, ani wiedza nie może nie płodzić władzy” – pisał francuski filozof Michel Foucault, który szczególnie upodobał sobie badanie narzędzi kontroli i wyłaniania się mechanizmów dyscyplinarnych. Choć 25 czerwca minie 40 lat od śmierci myśliciela, jego rozważania są wyjątkowo cenne, zwłaszcza dziś, gdy kapitalizm sięga po coraz bardziej wyrafinowane metody kontroli społecznej, sprzęgając je z zaawansowaną technologią.
W jednej ze swoich książek pt. „Nadzorować i karać” Foucault opisuje, jak władza rozszerza zakres kontroli, a jednostka staje się przedmiotem eksperymentu. Analizując historię łatwo zauważyć, jak w nadzór włączana jest też nauka i technologia. Chociażby socjologia i statystyka zyskały bardzo praktyczny wymiar, oferując narzędzia kontroli poprzez informację.
W XXI wieku, na początku rewolucji sztucznej inteligencji doskonale widać, że przytoczone kilka akapitów wcześniej słowa Foucaulta brzmią wyjątkowo złowróżbnie. Z jednej strony mamy bowiem państwo, które chce zwiększać zasięg swojej kontroli nad obywatelami, z drugiej bigtechy oferujące komercyjne narzędzia bazujące na naszym lenistwie i skłonności do wygody. Te ostatnie pełnią w zasadzie podobną funkcję. To dlatego nominacja emerytowanego generała z NSA do rady nadzorczej OpenAI kojarzy się tak jednoznacznie źle. „Dyscypliny są zbiorem technicznych innowacji pozwalających łączyć wzrost wartości użytkowej zbiorowości ze spadkiem ilości kłopotów, jakie ma władza” – pisał Foucault i miał rację.
Shoshana Zuboff zajmuje się zjawiskiem tzw. kapitalizmu informacji. Według niej „ludzkie doświadczenie jest darmowym surowcem do produkcji danych behawioralnych”. Badaczka pisze dalej o nadwyżce, która ma bardzo ważny cel: zostaje „(…) przetworzona w produkty do analizy predykcyjnej, które przewidują, co zrobisz teraz, wkrótce i później”.
Ten nowy rodzaj inwigilacji już nie tylko polega na kontroli tego, co robimy, ale za pomocą skomplikowanych modeli przewiduje nasze poczynania. Pozornie cel takich działań może wydawać się mało szkodliwy. Ot, chcą, żebyśmy kupili więcej produktów. Gdy jednak dodamy do tego nadzór nad tymi narzędziami sprawowany przez ludzi, którzy zawodowo zajmowali się inwigilacją obywateli, mamy przepis na katastrofę.
Puentą do tego tekstu niech będą słowa innego myśliciela, niemieckiego filozofa koreańskiego pochodzenia - Byung-Chul Hana, który w książce „Społeczeństwo zmęczenia i inne eseje” pisze, że „jesteśmy ciągle zachęcani do dzielenia się potrzebami, życzeniami i upodobaniami, do opowiadania naszego życia. Totalna komunikacja i totalna inwigilacja, pornograficzne obnażenie i panoptyczny nadzór zlewają się w jedno. Wolność i inwigilacja stają się nie do odróżnienia”.
Czeka nas zatem inwigilacja totalna i sami otwieramy jej drzwi.
