Biologia idzie przed technologią. Galopujący rozwój tej drugiej nie byłby możliwy bez naturalnej, ludzkiej skłonności do "poznawczego odciążenia". Dlatego nawet ci, którzy psioczą na sztuczną inteligencję, straszą nią, będą z niej korzystać. Innej przyszłości dla nagich małp nie ma.
Używam modeli językowych. A jednocześnie mam głębokie przekonanie, że o ile nie zmieni się sposób w jaki do nich podchodzimy to – jako cywilizacja – po prostu będziemy głupsi. A najbardziej dotknie to młodszych pokoleń. Które i tak już są mniej rozgarnięte niż ich starsze o dekadę rodzeństwo lub rodzice. Widać to między innymi w spadku wyników testów PISA badających kompetencje intelektualne 15-latków w zakresie rozumienia tekstu czytanego, matematyki i nauk przyrodniczych. Najgłębsze pikowanie jest widoczne w krajach najwyżej rozwiniętych.
I nie, nie jest to kolejne marudzenie z otchłani dziadocenu. Istnieją silne przesłanki, żeby podejrzewać, że AI jest realnym zagrożeniem dla naszej kondycji intelektualnej.
Will Oremus dziennikarz "The Atlantic" w jednym ze swoich artykułów opisuje osobliwe zjawisko tekstów ostrzegających przed używaniem AI napisanych… za pomocą modeli językowych. Potrójne salto mortale wykonał na przykład Santiago Schnell z Dartmouth College. To badacz jednej z najlepszych uczelni świata, który napisał kilka artykułów (w tym jeden do "Washington Post") krytykujących studencką praktykę pisania tekstów za pomocą AI. Tak, dobrze się domyślacie się plot twistu; teksty były napisane przy użyciu AI.
Innym przykładem dokładnie tego samego zjawiska przywoływanym przez Oremusa był australijski wykładowca (dziennikarz nie podaje personaliów), który krytykę psioczącą na żaków używających modeli językowych do tworzenia prac zaliczeniowych wygenerował w AI.
Początek mojego tekstu to oczywiście bejt. Przynajmniej częściowo. Używam modeli językowych, ale nigdy nie zdarzyło mi się wkleić do żadnego artykułu nawet zdania wygenerowanego przez AI. A przynajmniej niczego takiego sobie nie przypominam.
Ale nie znaczy to, że z AI nie korzystam. W pracy służy mi na trzy sposoby. Po pierwsze jako wstępne narzędzie riserczerskie. Robi to co Google, tylko sprawniej. Już nie muszę się przebijać przez dziesiątki artykułów naukowych. Zazwyczaj dostaję to, czego mniej więcej szukam. Model językowy znajduje mi również wiarygodne źródła, o których wcześniej nie wiedziałem.
Po drugie używam go, żeby pomógł mi w zarysie zrozumieć skomplikowane rzeczy. Tak chociażby było z nieco bardziej wnikliwym zrozumieniem systemu podatkowego do długiego tekstu do magazynu Znak. Esej był później konsultowany z ekspertem podatkowym, AI nie wyprowadziło mnie w pole.
Po trzecie zdarza mi się sztucznej inteligencji używać do sprawdzania konspektów do różnych projektów. Ale zazwyczaj robię to następczo; najpierw sam przygotowuję szkic koncepcji, a później proszę LLM, żeby stworzył – niezależnie – konspekt na ten sam temat. Później porównuje obydwa, żeby zobaczyć, czy AI czegoś nie wniósł. Nie przypominam sobie, żebym kiedyś miał wrażenie rewolucyjnie dobrego wkładu. Co ciekawe konspekty (moje i sztucznej inteligencji) zaskakująco często w naprawdę wielu miejscach się pokrywają. Kilka razy poprosiłem również AI o znalezienie dziur w rozumowaniu oraz słabych punktów w przypadku większych tekstów lub draftów.
Ważna sprawa: nie przypominam sobie przy tym, żebym kiedykolwiek "uwierzył" w mojej pracy modelowi na słowo. Zawsze sprawdzam źródło, ponieważ wiele razy zauważyłem ślady halucynacji.
W skrócie: sztuczna inteligencja zwiększa wydajność mojej pracy, skraca część z tego, co wcześniej pożerało mi godziny oraz stanowi swego "sztucznego redaktora" lub pierwszego testera dla moich pomysłów.
Istnieje więc sporo granic, które sam sobie postawiłem i których staram się trzymać. Mimo tego, zauważyłem, że korzystając z Chata również w życiu codziennym nieco większy wewnętrzny opór budzi we mnie czytanie dłuższych materiałów w poszukiwaniu interesujących mnie fragmentów. O ile social media spowodowały, że moja uwaga ciągle ucieka w ich stronę, tak AI mnie poznawczo rozleniwiła. Nie jest to tylko mój problem. Grupa badaczy pod wodzą Grace Liu z Carnegie Mellon University potwierdziła eksperymentalnie efekt "ograbiania z poznawczej energii" przez AI. Konsekwencją tego ludzie, którym odbierze się wsparcie sztucznej inteligencji gorzej sobie radzą rozwiązując testy (szybciej przestają je rozwiązywać).
To coś, co eksperci od wpływu technologii na kompetencje intelektualne nazywają "poznawczym odciążeniem" (cognitive offloading). Jest to delegowanie zadań wymagających ruszenia głową do różnego rodzaju narzędzi cyfrowych.
Mateusz Mazzini, dziennikarz i wykładowca akademicki w swoim tekście w Tygodniku Powszechnym z końcówki września stwierdza, że zadawanie prac domowych w dobie modeli językowych straciło sens. Młodzi po prostu wygenerują eseje w Chacie GPT zmieniając co najwyżej fragmenty. Jak widać jest to problem globalny. I nie dotyczy on jedynie krytyków stosowania AI.
Wynika on z faktu, że (prawie) wszyscy jesteśmy leniwi. Również poznawczo. Nawiasem mówiąc – nie znoszę dziennikarskiej frazy "to nie znaczy, że (i tu podstawiamy jakąś grupę społeczną) są leniwi". Otóż zazwyczaj właśnie wbudowanym w nas lenistwem można wytłumaczyć bardzo wiele rzeczy. I w tym tekście będzie na to naprawdę sporo dowodów.
To właśnie z powodu inherentnego lenistwa poznawcze odciążenie jest dla nas tak pociągające. Jeżeli istnieje sposób – zwłaszcza taki, który jest kulturowo akceptowany – aby zrobić coś na skróty, to właśnie tak zrobimy. Jeżeli nauczyciel albo profesor zadaje napisanie wypracowania na temat protestanckiej etyki pracy, to któżby siedział nad źródłami, rozważał wątki, dopracowywał strukturę, kiedy wszystko może zostać wykonane za pomocą jednego lub kilku promptów? A później siup, copy-paste i mamy esej. Tylko, że w ten sposób, często nieświadomie, ogłupiamy sami siebie.
Odciążenie poznawcze jest z nami od dawna. Traktując sprawę bardzo szeroko można argumentować, że przejawem cognitive offloading jest specjalizacja pracy intelektualnej. Przecież kiedy potrzebowaliśmy porady prawnej, to nie siedzieliśmy w bibliotece wertując tysiące stron kodeksów, tylko chodziliśmy do prawnika; jeżeli potrzebowaliśmy porady lekarza to również nie uczyliśmy się ludzkiej anatomii, tylko chodziliśmy do lekarza.
To zabawne, bo pisząc to zdanie zdałem sobie sprawę z tego, jak często dzisiaj lekarza zastępuje nam Chat GPT. Sztuczna inteligencja nierzadko jest również naszym prawnikiem. To ostatnie zadanie zresztą, na podstawowym poziomie, robi całkiem nieźle, choć oczywiście nieidealnie.
W kontekście technologicznym jednym z najbardziej znanych przykładów poznawczego odciążenia jest tak zwany "efekt Googla". W 2011 roku opisali go w prestiżowym Science badacze Betsy Sparrow, Jenny Liu i Daniel M Wegner zauważając, że informacje z wyszukiwarek zapamiętujemy gorzej niż te, które docierają do nas innymi kanałami.
Ciekawostka na marginesie – wiedziałem o "efekcie Googla", chciałem jednak doprecyzować czym on jest. Wrzuciłem pytanie modelowi językowemu, jednak nie korzystałem z jego streszczenia, a zajrzałem do abstraktu z artykułu naukowego.
Z podobnym efektem mamy do czynienia w przypadku GPS-u. Nie wiem jak Państwo, ale ja fatalnie jeżdżę bez nawigacji. Nie miałem w zasadzie możliwości, żeby nauczyć się kierować na pamięć, ponieważ odkąd jeżdżę samochodem, nawigacja była powszechnie wykorzystywaną funkcjonalnością.
Widzicie Państwo, co wyżej się wydarzyło? Stwierdziłem, że "nie miałem możliwości" nauczenia się jazdy bez GPS-u. Oczywiście, że miałem! Tylko, że korzystanie z nawigacji było na tyle kuszące, a ja na tyle leniwy, że wyoustorcowałem swoje kompetencje nawigowania po arteriach miasta do maszyny.
To znów nie jest po prostu jednostkowy przypadek uwiądu orientacji przestrzennej. Badanie autorstwa Louisy Dahmani i Véronique Bohbot z McGill University opublikowane w prestiżowym Scientific Reports dowodzi, że GPS naprawdę obniża umiejętności samodzielnego nawigowania. W ramach badania zauważono, że osoby, które częściej korzystają z GPS-a, mają gorszą pamięć przestrzenną, gdy muszą poruszać się bez wsparcia elektronicznych map. Taki wynik mógł wynikać z błędu samoselekcji – może osoby o gorszej wyobraźni przestrzennej częściej korzystają z nawigacji? Ale badacze przeprowadzili również badanie podłużne (obserwacja tych samych osób na przestrzeni dłuższego czasu) z grupą kontrolną. Okazało się, że 13 osób, którym zalecono regularne korzystanie z nawigacji, mają zauważalnie gorszą orientację niż reszta badanych.
To nie koniec. Badacze Soyeon Kim oraz Oscar Oviedo-Trespalacios w opublikowanym w Applied Ergonomics zauważają, że korzystanie z zaawansowanych systemów wspomagania kierowcy takich jak asystent pasa ruchu, czy system dostosowania prędkości do pojazdu jadącego przed nami powoduje pogorszenie się kompetencji prowadzenia samochodu. Po tym, co już wiemy nie powinno to nas dziwić – odciążenie poznawcze powoduje nasze intelektualne (i manualne) rozleniwienie. To właśnie z powodu obaw o obniżenie się zdolności pilotów Federalna Administracja Lotnictwa zaleca minimalizowanie korzystania z technologii autopilota.
Jest więc możliwe, że nasi rodzice, kiedy byli w naszym wieku, byli lepszymi kierowcami niż my obecnie. Technologia (i nasze lenistwo!) odebrały nam część umiejętności, które moglibyśmy posiąść, gdyby nowinki nie ułatwiały nam życia. To oczywiście nie znaczy, że netto poruszanie się po drogach stało się mniej bezpieczne niż 30, czy 40 lat temu. Jest zupełnie odwrotnie – mimo gwałtownego wzrostu liczby samochodów notujemy gwałtowny spadek śmiertelności w wypadkach. Część tego pozytywnego trendu wynika właśnie z faktu, że auta przejmują od nas niektóre zadania. Tak, my najprawdopodobniej jesteśmy gorszymi kierowcami. Ale "zdolności" nowych samochodów z naddatkiem kompensują to zjawisko.
Tylko, że AI to coś więcej niż GPS, Google, czy system kontroli pasa ruchu. Wyżej wskazane przykłady to domeny pojedynczych, wyselekcjonowanych czynności. Tymczasem modele językowe agregują (i zastępują) szereg kompetencji od wyszukiwania informacji, po operacjonalizowanie problemów i dają nam rozwiązanie na tacy. Potencjalnie są zagrożeniem nie dla pojedynczych aktywności, ale dybią na coś bardziej esencjonalnego – na nasze myślenie.
Pisze o tym Michael Gerlich z SBS-Swiss Business School w artykule zamieszczonym w czasopiśmie naukowym Societies. Określa on krytyczne myślenie jako zdolność do analizowania, oceny i syntezy informacji w celu podejmowania przemyślanych decyzji. O ile GPS przejmował naszą orientację przestrzenną, a zaawansowane systemy wspomagania kierowcy usypiały naszą uwagę, tak istnieje duże ryzyko, że do modeli językowych outsourcujemy - jak to określa Gerlich - "fundamentalną zdolność poznawczą kluczową do osiągnięć w nauce, w karierze oraz uczestnictwie w życiu społecznym".
Nie przez przypadek w tekście dałem Państwu wgląd do moich „zapisków na marginesach”. Są one kroniką czegoś, co psychologowie nazywają metakognicją – myśleniem o myśleniu. Metakognicja jest dobrym treningiem intelektualnym – zmusza do wysiłku, powoduje tarcie, ale też utrwala wiedzę, rozbudowuje wyobraźnię, wyrabia nawyki intelektualne i ćwiczy w prawidłach myślenia i wnioskowania. To wszystko jest nam - przynajmniej częściowo - odbierane, kiedy nadmiernie używamy AI.
Poszlaki wskazujące, że indywidualne myślenie w obliczu dziejącej się rewolucji może nie mieć świetlanej przyszłości już widać w niektórych badaniach. Analiza z Chin obejmująca prawie 28 tys. dzieci wskazała, że korzystanie ze sztucznej inteligencji spowodowało wzrost ocen z prac domowych o 18 proc., skrócenie czasu ich wykonywania o 30 proc. przy jednoczesnym spadku ocen ze sprawdzianów o 20 proc.
Badania ze Stanów Zjednoczonych opublikowane w jednym z najważniejszych czasopism naukowych na świecie, czyli Proceedings of the National Academy of Sciences dowodzą tego samego. Otóż o ile widoczny był bardzo wyraźny wzrost ocen uczniów posiłkujących się sztuczną inteligencją w rozwiązywaniu zadań w porównaniu z grupą kontrolną, tak uzyskiwali oni gorsze wyniki na egzaminach po "odstawieniu" AI.
Korzystanie ze sztucznej inteligencji powoduje więc z jednej strony wzrost wydajności, jeśli chodzi o wykonywanie zadań kognitywnych, z drugiej, na poziomie indywidualnym, nas ogłupia. Pozbawieni tego narzędzia stajemy się trochę jak ci kierowcy, którym nagle zabiera się kamery cofania i czujniki parkowania.
Tymczasem według raportu NASK z jesieni zeszłego roku co najmniej raz w tygodniu ze sztucznej inteligencji korzystało około 30 proc. uczniów. Im byli starsi tym ten odsetek był wyższy. O ile wśród nastolatków z siódmych klas co najmniej raz w tygodniu z AI korzystało 20 proc. pytanych, tak w przypadku najstarszej grupy, czyli uczniów z drugich klas szkół średnich to prawie 40 proc. Drugoklasiści używający AI w 55 proc. wspierali się nim w nauce oraz w 50 proc. w odrabianiu prac domowych.
Jest to prawdopodobnie generacja, która w dużej części nie zdoła zbudować kompetencji intelektualnych na poziomie zbliżonym do pokoleń wcześniejszych.
Niektórzy badacze podkreślają, że zdanie się na sztuczną inteligencję prowadzi do zjawiska zwanego cognitive surrender, "poznawczej kapitulacji" – rezygnacji z samodzielnego rozumowania i pokładania zbyt dużej wiary w wyroki wciąż przecież halucynujących modeli językowych. To z kolei może – mówią badacze tacy jak wspomniany Michael Gerlich - tworzyć nowe zagrożenia. Poznawczy deskilling (słowo podpowiedziane mi przez Chata GPT) może stać się prawdziwym problemem, kiedy technologia zawiedzie.
Mnie ten argument nie przekonuje. Przecież nikt nam nie odbierze tych cholernych kamer cofania, czujników parkowania i asystentów pasa ruchu! Tak samo trudno jest sobie wyobrazić, że w pewnym momencie ktoś (lub coś) odetnie nam dostęp do AI. Tu nie o to chodzi! Najciekawszym zagadnieniem powstającym na przecięciu nowej, potężnej technologii i naszego lenistwa poznawczego jest przyszły kulturowy status zdolności poznawczych.
To nie jest tak, że zadania kognitywne wykonywane przy wsparciu sztucznej inteligencji wychodzą nam gorzej niż bez niej. Wręcz przeciwnie – wychodzą lepiej! Tylko my głupiejemy!
Co najmniej od lat 30-stych ubiegłego wieku, kiedy na dobre wprowadzono do obiegu testy IQ, będące miernikiem przydatności operacyjnej ludzkich zdolności intelektualnych w komplikującym się i nowoczesnym świecie, kompetencje poznawcze stanowiły pewien wyznacznik statusu i prestiżu. Były też, a może przede wszystkim, wartością samą w sobie – ceniliśmy (i nadal chyba cenimy) ludzi mądrych, obdarzonych wiedzą, szerokimi horyzontami, szybko myślących. Lubimy ich słuchać, wierzymy im i zazdrościmy tych zasobów, co pcha nas do tego, żeby się zbliżać do ich poziomu.
Co jednak stanie się z kulturą, w której to przestanie mieć większe znaczenie, ponieważ lada rok AI będzie "mądrzejsza" od każdego z nas? Co stanie się z wartościami takimi jak wiedza, inteligencja, obycie? I czy w tym, co teraz piszę tkwi obawa o własną pozycję społeczną (oczywiście, że tak)? Myślę jednak, że nie tylko o to. Również o przyszłą tożsamość w świecie zorganizowanym na innych zasadach. Zadałbym kilka podobnych pytań Chatowi GPT. Ale wolę, żeby na jakiś czas pozostały w mojej głowie bez odpowiedzi. Może jak z nim jakiś czas pochodzę to narodzi mi się pomysł na kolejny tekst.