1. SPIDER'S WEB
  2. plus
  3. SW+

Natalia Hatalska: „Człowiek tworzy technologie i wydaje mu się, że dzięki temu ma szansę na ich kontrolę”

Natalia Hatalska, "Wiek paradoksów. Czy technologia nas ocali?". Wywiad z autorką książki

- Potrzebne nam krytyczne spojrzenie, zadawanie pytań i szukanie punktów zapalnych tak, by jednak spróbować wyprzedzić to, co złego może się wydarzyć - Natalia Hatalska zachęca byśmy wszyscy zaczęli wnikliwie patrzeć na technologie i ich wpływ na świat. 

„W latach trzydziestych XX wieku Burrhus F. Skinner, amerykański psycholog stworzył urządzenie, które dziś nazywa się klatka Skinnera. Była to skrzynka wyposażona w podajnik jedzenia, głośniki, lampę oraz podłogę z siatki, którą można było podłączyć do prądu. W skrzynce tej, manipulując bodźcami zewnętrznymi (porażaniem prądem, intensywnym światłem, głośnym dźwiękiem, dodatkowym jedzeniem), Skinner uczył szczury wciskać guziki, a gołębie – tańczyć i wygrywać melodie. (...) Najważniejsza w klatce Skinnera była jednak jej pełna automatyzacja. Badanie można było przeprowadzać zdalnie, bez fizycznego udziału osób obserwujących. (...) Szczurowi wydaje się, że ma wpływ na swoje życie, że od jego działań zależy na przykład dostęp do jedzenia, podczas gdy tak naprawdę jego życiem steruje ktoś inny, jakaś niewidzialna siła”.  

Tę opowieść o lekko historycznym już charakterze przywołuje Natalia Hatalska w swojej najnowszej książce „Wiek paradoksów. Czy technologia nas ocali?", by pokazać jaka refleksja o zagrożeniach wynikających z automatyzacji procesów leży u podstaw cybernetyki. W latach 60. XX wieku Norbert Wiener - także przez Hatalską przywoływany filozof i matematyk nazywany ojcem cybernetyki - twierdził, że w przyszłości, przy odpowiednio zaawansowanych komputerach w takiej klatce mógłby zostać umieszczony człowiek niemający świadomości, że się w niej znajduje. Twórcy cybernetyki uważali jednak, że to rozważania czysto teoretyczne, bo ta klatka dla człowieka musiałaby być gigantyczna i opleciona ogromną siecią komunikacji.

Taką siecią, która dotyczyłaby każdego z nas i przekonywała, że tylko za jej pomocą można się komunikować, pracować, uczyć i bawić. Impuls z zewnątrz i jesteśmy szczęśliwi, inny impuls i już samopoczucie się pogarsza. Szybko zaczynamy więc działać tak, aby zadowolić tego kogoś, kto zarządza miłymi i niemiłymi bodźcami. A co jeżeli żaden człowiek nimi nie zarządza, co jeżeli decydują o nich zautomatyzowane i wymykające się spod kontroli algorytmy? 

„Wiek paradoksów. Czy technologia nas ocali?" Natalii Hatalskiej jest taką pogłębioną refleksją o tym, czy już żyjemy w wielkiej, internetowej klatce Skinnera i właściwie nam z tym dobrze. Autorka pisała ją podczas - jak widzimy - coraz bardziej przedłużającej się pandemii. A ten okres, co także jest coraz bardziej widoczne, skierował oczy wielu analityków właśnie w stronę tego, jak technologie wpływają na nasze życia. Obok szybkich obserwacji praktycznych rozwiązań coraz silniejszy staje się nurt techsceptycyzmu, krytycznej analizy potęgi Big Techów, zagrożeń płynących z rozrastających się algorytmów, braku przemyślanej strategii w stosunku do Sztucznej Inteligencji.

Hatalska jednak obok tych już, tak naprawdę nieźle zdiagnozowanych problemów, sporo pisze też o skutkach technologicznej zmiany, które obserwujemy tu i teraz, a które mają wpływ na naszą jakość życia od strony emocjonalnej. O rosnącej pladze osamotnienia, o coraz silniejszych polaryzacjach, niedoinformowaniu mimo nadmiaru informacji czy wreszcie o zagubieniu związanym z nagle zmieniającymi się zasadami życia. Co więcej pisze o tym z perspektywy zarówno analityczki trendów, którą przecież jest, ale także osoby, która sama na sobie obserwuje te zjawiska. I próbuje sobie z nimi poradzić, zrozumieć je i jakoś uporządkować świat wokół siebie, swojej rodziny i bliskich. 

W efekcie choć jest to książka pełna fachowego omawiania kolejnych teorii, badań i rozważań związanych z innowacjami, to tak naprawdę w dużej mierze jest też bardzo osobistym przewodnikiem. Wręcz miejscami pamiętnikiem, w którym możemy jak w lustrze przejrzeć się z naszymi własnymi refleksami i obawami wywoływanymi przez skok w technologiczną króliczą dziurę. 

W „Wieku paradoksów” w podtytule pada pytanie „Czy technologia nas ocali?”.  Autorka nie daje jednak na nie jasnej odpowiedzi. Podobnie jak nie odpowiada czy już wszyscy żyjemy w jednej wielkiej klatce technologii, które nami sterują. Za to próbuje zmusić czytelnika, aby sam sobie na to pytania postarał się odpowiedzieć. 

„Wiek paradoksów. Czy technologia nas ocali?", Natalia Hatalska, Wydawnictwo Znak, Kraków 2021.
Książka dostępna w wersji papierowej i jako e-book. 

Natalia Hatalska fot. Renata Dąbrowska

Pod wpływem pani książki zaczęłam się zastanawiać co by się stało, gdyby pandemia Covid wybuchła w 2000 roku, dwadzieścia lat wcześniej? Z jednej strony aż tak bardzo świat nie zmienił przez te dwadzieścia lat, jedynie internet i usługi sieciowe od tamtej pory drastycznie ewoluowały i umasowiły się. Więc to oczywiste, że wtedy nie dałoby rady przenieść masowo ludzi z biur do home office a szkół zamknąć niemal z dnia na dzień zaczynając tele-naukę. Z drugiej strony nie byliśmy jeszcze tak mobilni, podróże były droższe, ale też nie było takiego oporu by wierzyć lekarzom i naukowcom. Może w ogóle nie zdecydowano by się na lock-downy na taką skalę? 

Natalia Hatalska*: Myślę, że byłoby nam zdecydowanie trudniej. Pandemia jest realnym faktem, ludzie chorują, umierają i faktycznie były potrzebne lock-downy. Internet i cała współczesna technologia bardzo nam pomogły w przejściu tego momentu. Dzięki internetowi mogliśmy być w ciągłej komunikacji i to zamknięcie w domach było po prostu mniej obciążające, także od strony psychologicznej. Owszem, możemy krytykować zdalne nauczanie, ale gdyby nie było internetu, dzieci przez pół roku byłyby całkiem odcięte od edukacji. Kluczowy okazał się też dostęp do informacji. Spójrzmy na przykład Indii, gdzie w niektórych miejscach ludziom ograniczono dostęp do sieci i ten brak praktycznej wiedzy o tym co się dzieje, gdzie szukać pomocy pośrednio przełożył się na liczbę zachorowań. 

Z drugiej strony rzeczywiście te 20 lat temu to był czas jeszcze przed tanimi liniami lotniczymi, loty były czymś bardzo ekskluzywnym, a my sami mniej skomunikowani z innymi częściami świata. To mogłoby opóźnić opanowanie świata przez COVID, bo to przecież kwestie transportowe i intensywna komunikacja ma zasadnicze znaczenie przy rozprzestrzenianiu się wirusów. Hiszpanka sto lat temu potrzebowała około 3 lat na opanowanie całej Europy a teraz wszystko zadziało się w ciągu 3 miesięcy. 

Dwadzieścia lat temu za to na pewno nie byłoby infodemii. Tego internetowego odbicia pandemii w postaci wielkiej fali tak newsów jak i fake-newsów, które powodują, że ludzie już nie wiedzą co jest prawdą i komu ufać. 

To prawda. Owszem propaganda, kłamstwa, miejskie legendy, jak choćby słynna Czarna Wołga istniały już w czasach przed internetem, ale jednak nigdy aż na taką skalę i nigdy tak szybko nie wpływały na ludzi i ich opinie. Ale też nigdy człowieka w rozprzestrzenianiu nieprawdziwych informacji nie wspierały boty. Dziś na Twitterze jest więcej kont botów niż kont ludzi. 

Stąd właśnie ta refleksja czy jednak w świecie dopiero u progu cyfrowej rewolucji pandemia nie byłaby łatwiejsza do opanowania? Owszem nie moglibyśmy na Zoomie robić spotkań firmowych a dzieci nie uczyłyby się z domów, ale wirus wolniej by się rozprzestrzeniał, można by lokalnie wygaszać jego ogniska. Do tego ludzie nie nakręcani przez dezinformację spokojniej poddaliby się lokalnym obostrzeniom a przede wszystkim nie byłoby tak masowego ruchu antyszczepionkowego. Dziś owszem było nam łatwiej, tak przyjemniej przeżyć lock-downy, ale za to mamy do czynienia z taką pełzającą, przeciągającą się sytuacją pandemiczna. Dlatego zastanawiam się ile praktycznie dobrego zrobiły nam te technologie informacyjne a ile równolegle wywołały dodatkowych problemów?

Faktycznie jest tak, że nie jesteśmy w stanie przewidzieć skutków technologii. Kiedy w XIX wieku stworzone zostały samochody, miały nam pomóc szybciej się przemieszczać. Ale nikt nie przewiedział wówczas, jak wpłyną na wygląd miast, na zanieczyszczenie i hałas. I to w tak znacznym stopniu, że dziś dochodzimy do sytuacji, w której zaczynamy je wycofywać. Ograniczamy ich prędkość w miastach do 20-30 km na godzinę, a Biała Księga Transportu UE zakłada, że do 2050 roku samochody z konwencjonalnym napędem muszą być wycofane z centrów miast. To są konsekwencje, których nie byliśmy w stanie przewidzieć. Ale to jest naturalne zjawisko, bo zarówno technologie, jak i nasz świat generalnie są niezwykle skomplikowanymi systemami i każda zmiana wywołuje tzw. konsekwencje “poza celem”. Mówiąc inaczej, konsekwencja wprowadzenia danej technologii może pojawić się w miejscu, którego zupełnie się nie spodziewamy. Przykład: niedawno mojej 10-letniej córce opowiadałam, jak kiedyś było normą, że rodzina, koleżanki ze szkoły odwiedzały się w domach, wpadały bez zapowiedzenia. Dzisiaj to w zasadzie się nie zdarza, a gdy ktoś bez wcześniejszego uprzedzenia zapuka do drzwi, może zostać uznany za osobę niekulturalną. To właśnie efekt wprowadzenia telefonów komórkowych - spowodowały one zmianę społeczno-kulturową, której w ogóle się nie spodziewaliśmy. 

Widzimy te praktyczne zmiany w życiu, ułatwienie funkcjonowania, całą gamę rozwiązań, które nam naprawdę zmieniły życie w łatwiejsze. Ale równocześnie technologie już nie budzą takich zachwytów, takiej wiary w ich moc jak na początku XXI wieku. Jesteśmy rozczarowani tym co nam zaoferowały Big Techy, z podejrzliwością patrzymy na kolejne innowacje i ten cały sceptycyzm przebija też z pani książki. 

Ta fascynacja - choć może słabiej werbalizowana - wciąż w nas jest. Owszem, coraz bardziej zdajemy sobie sprawę z zagrożeń, jakie niesie technologiczna rewolucja i więcej też o nich mówimy, ale jednak wciąż mamy bardzo technokratyczne podejście. Dużą część nowości technologicznych przyjmujemy bez większej refleksji. Pamiętam, jak w lutym przychodziły do mnie kolejne zaproszenia do Clubhouse. Nie chciałam korzystać z tej gorącej na początku roku społecznościowej nowości, bo już mamy tyle mediów społecznościowych, które zabierają nam czas i wpływają na emocje. I z jednej strony o tym wiemy, dużo się o tym mówi, ale jednak gdy pojawił się Clubhouse, to ludzie o tym zapomnieli i z wielką ochotą wpadli w objęcia nowej aplikacji. 

Dużo pisze pani w swojej książce o zjawisku lustrzanego odbijania rzeczywistości realnej w świecie wirtualnym i o tym jak to zjawisko prowadzi do silnych antagonizmów w społeczeństwie. Mamy plemiona użytkowników Androida i iOS, fanów gier na PC i na konsole, matek karmiących piersią i jednak stawiających na gotowe mieszanki, wyborców Trumpa i Bidena, zwolenników i przeciwników Brexitu itd. I co ważne ta antagonizacja jest naprawdę bardzo silna. To świat cyfrowy tak antagonizuje nas czy zawsze tacy byliśmy a teraz dzięki mediom społecznościowym, algorytmom podbijającym kontrowersyjne tezy to po prostu bardziej widać? 

Mówi się o tym, że się dziś wtórnie trybalizujemy. Tymczasem patrząc na rozwój człowieka, wiemy, że sukces i rozwój zapewniła mu przede wszystkim wspólnota. A teraz znowu wracamy do tej plemienności, która się zwalcza. Moim zdaniem, ma na to właśnie wpływ technologia. Internet miał nam dać dostęp do nieograniczonej wiedzy, ale dostaliśmy tak ogromną ilość informacji, że nie potrafimy się w tym odnaleźć.

Potrzebowalibyśmy więc algorytmów, które ułatwiłyby nam zarządzanie dostępem do tej wiedzy. Problemem jest jednak to, że te algorytmy zamknęły nas w bańkach. I to na tyle skutecznie i silnie, że gdy wyjrzymy spoza naszej bańki i zobaczymy coś nowego, to wzbudza w nas to strach, a strach budzi agresję. Dziś ta polaryzacja jest rzeczywiście na naprawdę niewyobrażalną skalę. Zajmuję się internetem i badaniem trendów w technologiach od 20 lat i przez lata tego specjalistycznego tematu polaryzacja nie dotykała. Sama osobiście przez wiele lat nie doświadczyłam, czym jest hejt. Ale nawet w te rejony już dotarł.

Dodatkowo wielkie spółki technologiczne i media mają interes w tym, by w nas takie emocje wzbudzać. Bo im silniejsze emocje, tym dłużej dane medium zatrzymuje ludzi u siebie i sprawia, że mają oni większą potrzebę rozładowania emocji albo ich wyjaśnienia. W efekcie spędzają tam coraz więcej czasu. A wiadomo, im więcej czasu spędzanego przez użytkownika, tym więcej pieniędzy dla danego medium. 

W dużym skrócie nasza psychologia jest monetyzowania. 

Tak. Dokładnie tak. Dziś już każda kwestia jest kwestią zapalną. Nawet poszukiwanie wspólnych wartości jest oceniane i krytykowane jako symetryzm. 

Czy my mamy świadomość, że straciliśmy kontrolę nad technologiami i tym jaki mają na nas wpływ?

Myślę, że nie. Wciąż jesteśmy przekonani, że trzymamy karty w ręku i jak tylko coś doregulujemy, to świat będzie piękny i wspaniały. To może wynikać z tego, że człowiek tworzy technologie i wydaje mu się, że dzięki temu ma szansę na ich kontrolę. To tak jak z dziećmi, rodzicom się wydaje, że mogą je całkowicie ukształtować, ale przecież w rzeczywistości każde dziecko jest osobnym człowiekiem, który myśli, zachowuje i wygląda inaczej. Podobnie jest w przypadku technologii szczególnie tych GRINN: -geno, -robo, -info, -nano i -neuro. Niby to człowiek je stworzył, ale wiemy, że są one autonomiczne i samoreplikujące się.  

Nie wiem, czy bym szła tak daleko jak Kevin Kelly, który uważa, że technologia to organizm żywy, który realizuje własne cele. Kelly używa zresztą terminu technium i uznaje ją za siódme królestwo. Ale to ciekawa koncepcja, technologia z pewnością jest dziś systemem, którego my nie jesteśmy w stanie kontrolować, tak jak by się nam to wydawało. 

I jakie to może mieć dla nas skutki?

Brałam kiedyś na Facebooku udział w dyskusji, czy technologia jest dobra czy zła. I oczywiście większość ludzi była przekonana, że to źle postawione pytanie, że przecież wszystko zależy od naszych decyzji, jak tej technologii użyjemy. Najczęściej padał przykład noża, który może służyć do krojenia chleba lub do zabicia człowieka. 

Problem w tym, że nóż jest technologią low-tech, czyli technologią, która raz stworzona przez człowieka nigdy nie zmieniała się. Można było ją w różny sposób wykorzystać, ale sama technologia pozostawała niezmienna. To, z czym teraz mamy do czynienia, czyli internet, media społecznościowe, roboty, sztuczna inteligencja to inny rodzaj technologii – technologie stale ewoluujące. 

Co więcej mamy w tych technologiach takie elementy, o których istnieniu często do końca nie wiemy, jak choćby backdoor - to teoretycznie głównie problem urządzeń chińskich, ale wcale niewykluczone, że także amerykańskich - za pomocą których, ktoś może mieć dostęp do naszego urządzenia i wpływać na nasze zachowania. Tak jak to się dzieje w mediach społecznościowych, gdzie na nasze zachowania wpływa nawet kolor ikonki. 

Co więcej właśnie wchodzimy w kolejny poziom debaty i refleksji: roboty i sztuczna inteligencja i nasza nad nimi kontrola. My wciąż mamy problem, by zdefiniować świadomość człowieka, a co dopiero świadomość AI. Dziś nam się wydaje, że jej nie ma i nie będzie miała. Ale przecież podobnie myśleliśmy o zwierzętach i jeszcze sto lat temu nie wierzyliśmy, że zwierzęta mają świadomość i że czują ból. Ustawa o prawach zwierząt w Polsce weszła w życie dopiero w latach 90. Więc tak naprawdę nie jesteśmy w stanie dziś przewidzieć, w którą stronę pójdzie problem świadomości robotów.

To są te technologie dobre czy złe?


I takie, i takie. Każda technologia dziś to technologia tzw. dual-use, podwójnego użycia. Tak jak pisał Lem, wprowadzając nową technologię, rozwiązujemy jakiś problem, łatamy jakąś dziurę, ale równolegle generujemy nowy problem. Tylko zazwyczaj nie wiemy jak, kiedy i w którym miejscu będziemy musieli sobie z nim poradzić. Internet rozwiązał nam wiele problemów, ułatwił komunikację, pracę, edukację, dzielenie się wiedzą, ale równolegle wygenerował masę nowych kłopotów: osamotnienie, wpływ na relacje międzyludzkie, na kwestie prywatności. I tak jest z każdą technologią. Każda jest jednocześnie dobra i zła. 

A nie ma pani wrażenia, że się jednak sparzyliśmy? Wracając do początku naszej rozmowy: te dwie dekady temu wierzyliśmy w świat coraz lepszego bezpieczeństwa, dobrobytu i rozwoju właśnie dzięki innowacjom. A dziś okazuje się, że ani nam one nie zapobiegły pandemii, ani nie są rozwiązaniem na kryzys klimatyczny, ani nie są lekarstwem na kryzysy demograficzne a kryzysy polityczne wręcz podbijają. Czy my w ogóle żyjemy w lepszym świecie dzięki technologiom?

Myślę, że jednak w lepszym. W codziennym funkcjonowaniu może i widzimy wiele gorszych aspektów, ale gdy ktoś dziś dostanie zawału serca, to nawet na ulicy możemy go uratować defibrylatorem. Leczymy coraz bardziej zaawansowane choroby. Podobnie jest z pandemią, przecież szczepionka powstała w ciągu roku, czyli w ekspresowym tempie, co było możliwe między innymi dzięki technologicznej rewolucji ostatnich trzech dekad. 

Przyzwyczailiśmy się patrzeć na rozwój technologiczny w kategoriach utopii lub dystopii. Tymczasem to, z czym mamy tak naprawdę do czynienia, to protopia. Protopia to stopniowa poprawa, łagodny postęp, pojawiają się problemy, ale i korzyści. W krótkim terminie, owszem, widzimy głównie problemy, ale w długim korzyści się sumują i jednak żyjemy w coraz lepszym świecie, standard naszego życia się poprawia i rozwijamy się jako społeczeństwo.

Czyli jednak technologie nas ocalą?

To zależy przede wszystkim od naszej edukacji i świadomości. Jeżeli będziemy korzystać z nich nieświadomie, to będą realizować cele nie nasze, ale cele tych, którzy za nimi stoją: biznesu, rządu, gigantów technologicznych. 

Czyli na to zbawienie jest szansa wtedy, gdy będziemy w stosunku do tego co się dzieje krytyczni i świadomi? 

Tak jest. Ale też wtedy, gdy będziemy brać czynny udział w tej zmianie. Dziś dyskusja na temat rozwoju technologicznego toczy się wciąż w wąskim gronie: naukowcy, inżynierowie, specjalistyczne media, zainteresowani tym politycy i oczywiście spółki technologiczne, które mają w tym własne interesy. Nikt nas nie pyta o to, czy chcemy, aby powszechnie była wykorzystywana np. technologia rozpoznawania twarzy. A przecież już dziś wiemy o wielu problemach, które ona generuje. W Stanach Zjednoczonych wielokrotnie zdarzały się przypadki, że technologia ta dyskryminowała osoby czarne. 

Nie mamy kontroli nad tym, co się dzieje z danymi dotyczącymi naszych twarzy, nikt nas nie pyta o zgodę na taki monitoring, nie mamy nawet wiedzy, gdzie się te dane przechowywane. Oczywiście, nie chodzi o to, by całkiem zakazać tej technologii, bo przecież wspiera ona także kwestie bezpieczeństwa. Chodzi o to, by ta dyskusja toczyła się na szerszym poziomie społecznym. 

By taka świadomośc była musimy wbijać szpilę w takie bieżące samozadowolenie i wygodnictwo jakie technologie nam dały. 

Bo faktycznie technologie są wygodne. Ale też coraz bardziej nas kontrolują, docelowo idziemy w kierunku połączenia człowieka z technologią, nawet na poziomie myśli. Już dziś rozwija się chociażby neurogaming, gdzie system reaguje na intencję ruchu gracza – wystarczy, że pomyślę tylko, że chcę iść w lewo, to moja postać pójdzie w tę stronę, nie będę musiała wykonać żadnego ruchu. Facebook, Samsung, Apple pracują nad rozwiązaniami, żebym nie musiała wybierać numeru w telefonie, będę mogła to zrobić wyłącznie za pomocą myśli. Wiemy już dziś, że technologia ta ułatwi nam życie, ale też wywoła z pewnością problemy. Potrzebne nam więc krytyczne spojrzenie, zadawanie pytań i szukanie punktów zapalnych tak, aby jednak spróbować wyprzedzić to, co złego może się wydarzyć. 

Natalia Hatalska - analityczka trendów, publicystka, założycielka i prezeska instytutu badań nad przyszłością infuture.institute. „Financial Times" umieścił ją na liście New Europe 100 - stu osób z Europy Środkowo-Wschodniej, które zmieniają społeczeństwo, politykę i biznes, prezentując nowe podejście do dominujących problemów.

Zdjęcie tytułowe Renata Dąbrowska.