Przed sztuczną inteligencją uratuje nas Orwell. Oto dlaczego warto słuchać wybitego pisarza
Niedawno naukowcy stwierdzili, że odpowiedzią na pytania związane z wątpliwościami dotyczącymi rozwoju technologii jest... konfucjanizm. Nie szukałbym aż tak daleko, tylko posłuchał Georga Orwella. Wbrew pozorom najwięcej ciekawych ostrzeżeń i rad związanych ze sztuczną inteligencją niekoniecznie trzeba szukać w wyświechtanym "Roku 1984".
"Wiosną 1936 roku pisarz zasadził róże" – tak swój esej o twórczości i życiu Georga Orwella zaczyna Rebecca Solnit. W "Różach Orwella" pokazuje mniej znaną twarz pisarza, który dziś kojarzony jest przede wszystkim z defetystycznych wizji przyszłości. A jakby powiedzieli niektórzy: z wizji, które się sprawdziły, wszak technologia to jeden Wielki Brat, a to, co dzieje się choćby w Chinach, będzie i naszą rzeczywistością. I znowu znajdą się pewnie twierdzący: już się stało!
U Solnit widzimy inną twarz Orwella. Pogodną. Radosną. Pisarz sadzi róże, ma kury, krowy, owce, proste gospodarstwo, zwykłe, sielskie wiejskie życie. Zachwyca się drobnostkami: śpiewem kosa, kwitnącymi kwiatami, oczami ropuchy. Ten, który stworzył ponury świat "Roku 1984", który straszył przed totalistycznymi systemami w "Folwarku zwierzęcym", we własnym ogrodzie tworzył enklawę, poniekąd własną odpowiedź, jak radzić sobie w niełatwych czasach: szukać oparcia w tym, co – jeszcze – stałe, piękne, bo zwykłe. Czyli przyrodzie.
Solnit zachęca do innego spojrzenia na Orwella, bo zachwyty nad krajobrazem, tymi wszystkimi "prostymi sprawami", widoczne są nawet w "Roku 1984". Pisarka odbrązawia Orwella, tak jak robił to biograficzny komiks. Warto pójść tym tropem. Skoro Orwell to coś więcej niż tylko Wielki Brat, myślozbrodnia, totalna inwigilacja czy brak prywatności, to może należy go czytać także w innym kontekście odnośnie nowych technologii?
Autorka "Róż Orwella" cytuje fragment jego książki "Droga na molo w Wigan", w której opisuje trudne losy górników pracujących w kopalniach położonych na północy Anglii. "Jedynie bardzo rzadko, w okresach wytężonego wysiłku umysłowego, kojarzę ów węgiel z trudem górników w położonych daleko kopalniach" – przyznawał, pisząc, jak bardzo ówczesny świat polegał na węglu, nie doceniając tych, którzy go pozyskują.
Brzmi to aż za bardzo znajomo, jeśli spojrzymy na proces globalizacji i tego, że na co dzień kupujemy produkty powstałe nie wiadomo gdzie i nie wiadomo dzięki komu. "Praca napędzająca całą tę machinę często wykonywana jest przez ludzi, którzy zniknęli nam z oczu" – podsumowuje Solnit.
Wyjątkiem nie jest sztuczna inteligencja
Nie tak dawno wyszło na jaw, że OpenAI, firma stojąca za ChatGPT, poprzez outsourcing zatrudnia tysiące pracowników. Ci, rzecz jasna, pochodzili z biednych rejonów świata: m.in. Kenii, Ugandy oraz Indii. Klientami firmy outsourcingowej Sama było nie tylko OpenAI, ale także Google, Meta i Microsoft. Według dokumentów pozyskanych przez Time, pracownicy oddelegowani do pracy nad danymi dużych modeli językowych zarabiali nie więcej niż 2 dolary na godzinę. Co więcej, praca nad danymi dla OpenAI była "torturą". Na przykład pracownik musiał zapoznać się ze szczegółowym opisem seksu człowieka z psem na oczach dziecka.
A teraz przypomnijmy sobie groźby szefa OpenAI, który mówi, że jeśli przepisy wprowadzone przez Unię będą zbyt surowe, to oni zawiną zabawki i zabiorą swoją rewolucyjną technologię. Jeśli czegoś Orwell domagał się w swojej twórczości, to prawdy, przejrzystości, jasnych warunków, a nie ukrywania, zagmatwania, półsłówek i pięknych kłamstw. Właśnie dlatego przejrzystości powinniśmy wymagać od molochów stojących za algorytmami czy czatbotami, nie bojąc się, że zostawią nas z niczym.
To my powinniśmy stawiać twarde warunki, do których korporacje mają się dostosować, a nie na odwrót. Orwell jest dobrym drogowskazem, który być może pozwoli dostrzec, że działania OpenAI i innych technologicznych gigantów nie są wyjątkiem, a normą. Pod tym względem można spojrzeć na problem szerzej i w końcu chcieć go zmienić.
Celem Solnit nie jest zachęta, aby zrezygnować z lekcji, które daje choćby "Rok 1984" – jest to jednak bardzo ryzykowne, biorąc pod uwagę fakt, że niemal wszystkie środowiska biorą dzieło na sztandary, wyciągając to, co akurat wygodne i pasujące do głoszonych tez. Warto jednak w Orwella wczytać się bardziej, głębiej, ponownie dotrzeć do esejów, w których pisał:
Totalitaryzm wymaga nieustannego zmieniania przeszłości, a na dłuższą metę – podważania samej kategorii prawdy obiektywnej – twierdził w eseju "Totalitaryzm a wolność słowa".
Wybierając ten fragment strzelam sobie w stopę, bo przecież namawiam do tego, aby na Orwella patrzeć nie tylko przez "Rok 1984" i ostrzeganie przed totalitaryzmami. Kiedy jednak przeczytałem zdanie z eseju przypomniało mi się, jak jeden z moich redakcyjnych kolegów zapytał o coś ChatGPT i przyłapał czatbota na kłamstwie. Ten odpowiedział, że on ma rację, a fakty są "oparte na wynikach wyszukiwania". Trudno byłoby wymyślić tak doskonałe orwellowskie powiedzonko, a ChatGPT stworzył coś takiego zupełnie na serio, pokazując, dlaczego może to być niebezpieczne narzędzie.
"Wykonana przez niego praca jest powinnością nas wszystkich. Zawsze nią była" – podsumowała twórczość Orwella Solnit
I jak widać sprawdza się to też w temacie sztucznej inteligencji. Ale żeby jeszcze bardziej go docenić, musimy wyjąć go z szufladki "Roku 1984". Wtedy dostrzeżemy, jak spójne były poglądy Orwella, jak wiele wydarzeń w życiu go uformowało, sprawiało, że był konsekwentny i ponadczasowy. "Różnice między naszą sytuacją a absolutystyczną, surową tyranią Roku 1984 są równie znaczące" - zauważa Solnit, co dobrze pokazuje, że możemy zadowolić się orwellowskim powiedzonkami, a jednocześnie nie dostrzec, że inna jego twórczość odpowiada na problemy naszych czasów.
zdjęcie główne: Loredana Sangiuliano, Shutterstock
