Najłatwiej uznać, że kolejna gorsza aktualizacja, więcej reklam albo mniej trafne wyniki wyszukiwania są zwykłą wpadką. Ktoś źle zaprojektował interfejs, algorytm jeszcze się uczy, a firma za chwilę wszystko poprawi. Problem w tym, że największe platformy często nie mają powodu, by się spieszyć. Użytkownicy zdążyli już zgromadzić na nich kontakty, zdjęcia, archiwa i zawodowe relacje. Firmy oraz wydawcy uzależnili od nich sprzedaż i dostęp do odbiorców. Odejście stało się kosztowne, nawet jeśli sama usługa działa coraz gorzej.
Cory Doctorow opisuje ten mechanizm słowem "gównowacenie". Nie chodzi mu o każdą awarię czy nieudaną funkcję. Platforma najpierw jest atrakcyjna dla użytkowników, później przesuwa korzyści w stronę klientów biznesowych, a na końcu podporządkowuje cały system własnym wynikom finansowym. Może wtedy pokazywać więcej reklam, żądać opłat za dotarcie do osób, które już obserwują dany profil, pobierać wysokie prowizje i utrudniać przejście do konkurencji. To nie błąd w systemie, lecz konsekwencja skupienia zbyt dużej władzy w jednym miejscu.
Dziś ten proces wchodzi w nowy etap. Generatywna sztuczna inteligencja staje się kolejnym pośrednikiem między człowiekiem a informacją. Wyszukiwarki odpowiadają bez odsyłania do wydawców, chatboty przygotowują się do wyświetlania reklam, a firmy zachęcają pracowników do korzystania z narzędzi, których skuteczność nie zawsze została udowodniona. Jednocześnie te same platformy rozstrzygają, jakie treści zobaczymy, kto może się z nami skontaktować i ile trzeba zapłacić za dostęp do własnej publiczności.
Doctorow, pisarz, publicysta i działacz na rzecz praw cyfrowych, patrzy na te zjawiska nie jak na serię osobnych skandali, lecz jak na element jednego modelu. Dlatego w rozmowie ze Spider’s Web+ łączy pogorszenie wyszukiwarki Google z reklamami w ChatGPT, kryzysem mediów, warunkami pracy oraz odpowiedzialnością Mety za reklamy oszustw. Jego odpowiedzi są ostre, ale prowadzą do bardzo praktycznego pytania: co zrobić, aby użytkownik nie musiał wybierać między pozostaniem w toksycznym serwisie a utratą całej swojej społeczności?
Istotnym jest, że sama moderacja i kolejne kary nie wystarczą. Potrzebne są konkurencja, interoperacyjność, możliwość korzystania z zewnętrznych płatności oraz prawo do przeniesienia relacji do innej usługi. Regulacja nie powinna jedynie podpowiadać cyfrowym królom, jak mają korzystać ze swojej władzy. Powinna tę władzę ograniczać. Dopiero wtedy odejście z platformy przestanie oznaczać cyfrowe wygnanie.
Michał Chudoliński: Gdyby miał pan wskazać jedno doświadczenie współczesnych użytkowników, które pokazuje gównowacenie – a nie zwykłą usterkę czy źle zaprojektowany produkt – co by to było?
Cory Doctorow: Myślę, że wyszukiwarka Google. To wręcz podręcznikowy przykład: firma ma około 90 procent rynku wyszukiwania. Dzięki procesowi antymonopolowemu wiemy, że Google celowo pogorszyło swoją usługę. Przy takim udziale w rynku dalszy wzrost przychodów jest trudny. Prabhakar Raghavan, dyrektor odpowiedzialny za przychody z wyszukiwarki i były konsultant McKinsey, uznał więc w istocie, że jeśli wyszukiwanie będzie gorsze, ludzie będą musieli powtarzać zapytania. A każde kolejne wyszukiwanie oznacza następną okazję do pokazania reklam.
Wyszukiwarka Google jest dziś bardzo słaba, ale wciąż ma około 90 procent rynku. Firma płaci Apple’owi 20 miliardów dolarów rocznie, żeby ten nie wchodził na rynek wyszukiwarek. Wyszukiwarka Google jest też ustawiona jako domyślna w telefonach, systemach operacyjnych i usługach operatorów. Produkt został celowo pogorszony, a ludzie nadal z niego korzystają. Dlatego Google jest chyba najbardziej wyrazistym przykładem gównowacenia.
OpenAI twierdzi, że reklamy finansują dostęp do ChatGPT, ale nie wpływają na jego odpowiedzi. Jakie zabezpieczenie pozwoliłoby nam ufać temu rozdzieleniu także wtedy, gdy interes reklamodawcy zacznie kolidować z interesem użytkownika?
Ja nigdy nie zaufałbym OpenAI. To firma, która – moim zdaniem – kłamała właściwie na każdy temat. Kieruje nią człowiek, którego uważam za seryjnego kłamcę: został zwolniony za kłamstwa, a potem dzięki kolejnym kłamstwom odzyskał stanowisko. Nie widzę więc niczego, co mogłoby uczynić OpenAI godnym zaufania. Historia tej firmy to dla mnie nieprzerwany ciąg fałszywych twierdzeń.
Google proponuje wydawcom wyłączenie treści z wyszukiwania AI bez pogorszenia ich pozycji w zwykłych wynikach. Czy daje im to realną siłę negocjacyjną, skoro firma nadal kontroluje drogę czytelników do redakcji?
Daje im niewielką siłę negocjacyjną, ale nie taką, jaką mieliby na naprawdę konkurencyjnym rynku. Brak konkurencji sprawia, że ustępstwa Google są małe, nieprzejrzyste i mogą zostać wycofane. Google jest zbyt duże, by je skutecznie regulować, zbyt duże, by upaść, a przez to także zbyt duże, by się przejmować.
Powinniśmy doceniać każde zwycięstwo, ale skąd wydawca ma wiedzieć, że rzeczywiście został wyłączony z systemu? Musi po prostu uwierzyć Google’owi na słowo. A to firma, która ma historię mijania się z prawdą, zwłaszcza w tej dziedzinie.
Opisuje pan „odwróconego centaura”: człowieka podporządkowanego maszynie. Po doniesieniach o nieudanej próbie reorganizacji Mety wokół AI – jak pracownicy mogą rozpoznać, czy nowe narzędzie naprawdę ich wzmacnia, czy odbiera im kontrolę nad pracą?
Ująłbym to trochę inaczej. Jeżeli pracownik sam wybiera narzędzie, może wybrać źle, ale to nadal jest jego decyzja i nikt go do niej nie zmusza. Kiedy natomiast szef nakazuje korzystanie z określonego narzędzia – szczególnie wykwalifikowanemu specjaliście, takiemu jak programista czy lekarz – powinno to wzbudzić podejrzenie. Gdyby narzędzie rzeczywiście było tak dobre, specjalista prawdopodobnie sam by to wiedział. To przecież on jest ekspertem.
Gdy przełożony mówi: "Jeżeli przyłapiemy cię na tym, że nie używasz tego narzędzia, zwolnimy cię", nie robi tego z troski o pracownika ani o dumę z dobrze wykonanej pracy.
Oczywiście w każdej wspólnocie zawodowej jest miejsce na spór o to, jakich narzędzi używać, kiedy i do czego. Nauczyciele, lekarze, prawnicy czy inżynierowie stale dyskutują o najlepszym sposobie organizacji projektu lub wykonania procedury. Czym innym jest jednak debata wewnątrz wspólnoty praktyków, a czym innym polecenie szefa, który mówi: "Tak będzie lepiej dla mnie albo dla firmy".
Masowe zwolnienia w "The Washington Post" Jeffa Bezosa ożywiły dyskusję o miliarderach ratujących media. Jaki model finansowania mógłby zapewnić redakcji niezależność zarówno od kaprysów właściciela, jak i od platform kierujących do niej ruch?
Nie wiem, czy istnieje model, który rozwiązuje ten problem raz na zawsze. Nic nie jest doskonałe ani całkowicie odporne. Możemy jednak przyjrzeć się największym strukturalnym przeszkodom dla rentownego dziennikarstwa.
Ten temat wracał, gdy w Hiszpanii, Niemczech, Australii i Kanadzie proponowano przepisy nakazujące Google’owi i Facebookowi płacić mediom za linkowanie do wiadomości albo umożliwianie użytkownikom dyskusji o nich. Moim zdaniem wynikało to z zasadniczego nieporozumienia dotyczącego tego, co firmy technologiczne odbierają mediom. Nie szkodzą im przez samo ułatwianie odnajdywania wiadomości czy rozmawiania o nich. Wiadomość, której nie wolno znaleźć ani omawiać, nie jest wiadomością, lecz tajemnicą.
Co zatem zabierają? Pieniądze. Zanim Google i Facebook zmonopolizowały rynek reklamy displayowej, pośrednicy zatrzymywali historycznie około 15 procent pieniędzy wydawanych na reklamę. Dziś platformy przejmują około połowy. To setki miliardów dolarów, które wcześniej trafiały do wydawców, obniżały koszty reklamodawców albo działały na oba te sposoby.
Podobnie jest z obsługą płatności. Jeżeli prenumerata gazety lub innego medium jest opłacana w aplikacji na Androida albo urządzenie Apple’a, z każdego euro aż 30 centów trafia do Kalifornii. Tymczasem koszt przetworzenia płatności w Europie wynosi około jednego procenta. Mówimy więc o narzucie liczonym w tysiącach procent. Apple zarabia na obsłudze płatności około 100 miliardów dolarów rocznie. Dla redakcji są to pieniądze wyjęte wprost z kieszeni.
Jest jeszcze problem mediów społecznościowych. Wydawcy publikują artykuły, czytelnicy chcą je widzieć i zaczynają obserwować wydawców. Kiedy obserwuję kogoś na Facebooku, X czy TikToku, mówię platformie: "Chcę widzieć to, co ta osoba publikuje". Tymczasem platformy zwracają się do podmiotów z dużą liczbą obserwujących i mówią: "Nie pokażemy ludziom waszych postów, dopóki nie zapłacicie za ich promowanie". To również jest odbieranie pieniędzy. Użytkownik otrzymuje fałszywą obietnicę, że obserwowanie kogoś wystarczy, by zobaczyć jego treści. W praktyce liczba obserwujących staje się dla platformy sygnałem, od kogo może zażądać najwięcej.
Ekonomista powiedziałby, że redystrybucja – opodatkowanie firmy i zmuszenie jej do oddania części zabranych pieniędzy – jest nieefektywna. Tworzy też konflikt interesów. Chcemy, żeby prasa patrzyła firmom technologicznym na ręce, a nie była ich partnerem biznesowym. Nie chcemy również sytuacji, w której platformy przestają odbierać mediom pieniądze, a te z tego powodu upadają.
Lepsza od redystrybucji jest predystrybucja, czyli niedopuszczenie do tego, by pieniądze zostały zabrane. Trzeba pozwolić na korzystanie z zewnętrznych systemów płatności. Należy podzielić firmy, aby nie kontrolowały całego łańcucha technologii reklamowej. Powinien też istnieć obowiązek dostarczania treści osobom, które zdecydowały się obserwować ich autora. Poczta Polska nie może zatrzymać opłaconego listu i zażądać drugiego znaczka tylko dlatego, że wie, jak bardzo nadawcy zależy na jego doręczeniu.
Takie regulacje uczyniłyby media bogatszymi i silniejszymi, a firmy technologiczne – biedniejszymi i słabszymi. Nie gwarantują przetrwania każdego tytułu i nie rozstrzygają, czy najlepszym modelem są subskrypcje, reklamy, darmowy dostęp czy media społecznościowe. Sprawiają jednak, że każdy z tych modeli ma większą szansę powodzenia, bo baza przychodowa redakcji nie jest wysysana przez pasożyta pobierającego rentę.
W debatach o platformie X wolność słowa łatwo pomylić z wolnością właściciela do ustalania wszystkich zasad. Jak chronić zgodną z prawem debatę, a jednocześnie rozliczać platformy z narzędzi ułatwiających tworzenie i rozpowszechnianie szkodliwych seksualnych deepfake’ów?
Nie spodziewałem się, że przykładem będą akurat seksualne deepfake’i, bo istnieje wiele innych form odrażającej wypowiedzi. Tego rodzaju materiały są problemem z dwóch powodów. Po pierwsze, naruszają prywatność osób, których ciała zostają wykorzystane, oraz osób, których twarze są na nie nakładane. Takie naruszenia są możliwe między innymi dlatego, że RODO ma wielki problem o nazwie: Irlandia.
Na czym polega ten problem?
Kraj będący rajem podatkowym ma trudność z egzekwowaniem innych przepisów, ponieważ konkuruje z pozostałymi rajami podatkowymi. Firma dysponująca odpowiednimi księgowymi i prawnikami może w tym tygodniu udawać irlandzką, a w następnym – cypryjską, luksemburską, maltańską albo holenderską. Dlatego Irlandia jest miejscem, w którym egzekwowanie prawa do prywatności umiera. Nowy irlandzki komisarz do spraw ochrony danych był wcześniej lobbystą Mety. Najważniejsze europejskie sprawy związane z RODO trafiają do Irlandii, gdzie potrafią utknąć na dziesięć lat, zanim dotrą do Trybunału Sprawiedliwości Unii Europejskiej. Akt o rynkach cyfrowych pozwala przenieść część egzekwowania prawa bezpośrednio na szczebel unijny, lecz jest to proces powolny, ograniczony i skomplikowany.
Seksualne deepfake’i są więc przynajmniej częściowo problemem ochrony prywatności, a odpowiedzią powinno być skuteczne egzekwowanie tego prawa. Pozostaje jednak drugi problem: treści obraźliwe, pornograficzne i podobne mogą powstać bez naruszania czyjejkolwiek prywatności. Ktoś może opublikować własne nagie zdjęcie, a dla odbiorcy, który nie chce go oglądać, nadal będzie to problem. Tutaj wchodzimy w obszar moderacji.
Ogólnie rzecz biorąc, platformy powinny moderować treści zgodnie z tym, co – według nich – chcą oglądać użytkownicy. Nie powinny celowo pogarszać ich doświadczenia. Jednocześnie państwo nie może zbyt głęboko wchodzić w pojedyncze decyzje moderacyjne. Nie chcę, żeby Viktor Orbán albo Donald Trump decydowali, jakie treści wolno mi oglądać. Poza tym rozstrzyganie sporów moderacyjnych jest niezwykle trudne.
Granice rzadko są oczywiste. Kiedy nagość jest niedopuszczalna?
Lekarz publikujący informacje o raku piersi może pokazywać piersi; podobnie osoba ucząca karmienia piersią. Nawet w przepisach dotyczących materiałów przedstawiających seksualne wykorzystywanie dzieci pojawiają się kategorie treści symulowanych lub ilustrowanych, których ocena bywa sporna. Trzeba mieć definicję, a potem ustalić, czy konkretny przypadek ją spełnia. To wymaga zebrania faktów, wysłuchania obu stron, wydania rozstrzygnięcia, a czasem również przeprowadzenia procedury odwoławczej.
Nie można też ustanowić zasady, że na platformie nigdy nie pojawi się nic obraźliwego. Wymagałoby to kontroli każdej wypowiedzi przed publikacją, a w ten sposób nie da się prowadzić platformy komunikacyjnej. To tak, jakby restauracja miała zagwarantować, że przy żadnym stoliku nikt nigdy nie powie nic złego. Trzeba więc pytać, czy platforma dopuściła się zaniedbania albo świadomie uczestniczyła w naruszeniu. To kolejna procedura. W trudnej sprawie ustalenie odpowiedzialności może zająć lata, podczas gdy podobne zdarzenia następują dziesięć razy na minutę.
W polityce publicznej staramy się dopasować procedurę do częstotliwości zdarzenia. Postępowanie spadkowe jest skomplikowane, wymaga wielu ustaleń i może trwać długo, ale człowiek umiera tylko raz. Tak rozbudowane zasady nie nadają się do zdarzeń powtarzających się bez przerwy.
Można zapytać osobę nękaną na platformie: "Skoro jest tu tak źle, dlaczego nie odejdziesz?". Neoliberalna odpowiedź brzmiałaby: "Najwyraźniej jednak ci się podoba; ujawniasz swoje prawdziwe preferencje, bo gdyby było inaczej, odeszłabyś". To absurd. Równie dobrze można powiedzieć komuś, kto sprzedał nerkę, by zapłacić czynsz, że najwyraźniej zawsze chciał mieć tylko jedną. Ludzie pozostają w złych sytuacjach, ponieważ alternatywa jest jeszcze gorsza.
W przypadku platform najgorszą alternatywą bywa izolacja. Osoby należące do dyskryminowanych i często atakowanych mniejszości szczególnie potrzebują wsparcia własnej społeczności, bo spotykają się z nękaniem zarówno w internecie, jak i poza nim. Odcięcie się od tej społeczności ma bardzo wysoką cenę. Dlatego właśnie osoby najbardziej narażone na przemoc najtrudniej mogą odejść.
Powinniśmy wymagać od platform zwalczania nadużyć i możemy ustanawiać oraz egzekwować odpowiednie przepisy. Nie wolno jednak skazywać ofiar na dziesięć lat pozostawania w serwisie, zanim rozstrzygniemy sprawę. Trzeba pomóc im odejść. Dziś przeszkodą jest to, że po opuszczeniu platformy tracą możliwość rozmowy z osobami, które na niej zostały.
W innych sieciach tak nie jest. Kiedy zmieniam kartę SIM, nadal mogę rozmawiać ze wszystkimi znajomymi. Gdyby zmiana karty oznaczała zerwanie kontaktu z każdym, ludzie nie zmienialiby operatora. Podobnie w 1985 roku: gdyby ktoś wyjechał z Warszawy do Kanady i przez to nie mógł już rozmawiać z rodziną w Warszawie, zapewne zostałby na miejscu. Moja rodzina pozostała w Związku Radzieckim właśnie dlatego, że wyjazd oznaczał pozostawienie wszystkich bliskich. Trzeba otworzyć granicę i zburzyć mur.
Operatorzy telefoniczni pozwalają nam kontaktować się ze znajomymi po zmianie karty SIM nie dlatego, że nas lubią, lecz dlatego, że prawo zabrania im blokowania takich połączeń. Ustalenie, czy na platformie doszło do nękania, może być trudne i długotrwałe. Sprawdzenie, czy jedna platforma potrafi komunikować się z drugą, jest proste. Możemy ustanowić standard nakazujący firmom umożliwienie osobom odchodzącym dalszego kontaktu z tymi, którzy zostają.
Wtedy ludzie będą mogli przenieść się do miejsc, w których nie doświadczają przemocy. Być może Elon Musk, Mark Zuckerberg i inni właściciele, którzy nie dbają o użytkowników, zatroszczą się przynajmniej o siebie. Utrata osób, które dziś trzymają jak zakładników, może skłonić ich do lepszego zachowania. A jeśli nie – bo są okropnymi ludźmi – użytkownik przynajmniej przestanie znajdować się na linii ognia.
Polska zaapelowała o nałożenie na Metę kary w wysokości 250 milionów euro za reklamy oszustw. Jak zaprojektować odpowiedzialność platform, aby opłacało się zatrzymać oszustwo przed emisją reklamy, a nie reagować dopiero po wyrządzeniu szkody?
Odpowiedzialność platform jest bardzo trudnym zagadnieniem, ponieważ niełatwo zrozumieć, co dzieje się na tak wielką skalę. Przypadek Mety jest jednak szczególny. Z wewnętrznych dokumentów firmy wynika, że wiedziała ona, iż 10 procent jej przychodów reklamowych pochodzi z oszustw. Rozpoznała sposoby ich powstrzymania, ale uznała, że wdrożenie tych rozwiązań kosztowałoby zbyt wiele – zarówno z powodu kosztów operacyjnych, jak i utraty przychodów. Dlatego zdecydowała się tego nie robić.
Nawet gdyby Meta zaprzestała takich praktyk, na platformie nadal pojawiałyby się oszustwa, bo korzysta z niej ogromna liczba ludzi. Musimy uważać, żeby w odpowiedzi na złe zarządzanie Mety nie zmusić jej do jeszcze większej kontroli nad użytkownikami. Najgorszym rozwiązaniem byłoby oddanie Markowi Zuckerbergowi większej władzy nad tym, co wolno powiedzieć i z kim wolno rozmawiać. Nie korzysta z tej władzy mądrze.
Przez ponad dwadzieścia lat dominowało podejście regulacyjne, które nazywam monarchią konstytucyjną. Mamy króla Zuckerberga oraz arystokratów, czyli regulatorów świata. Mówią mu: "Nadal możesz być królem, ale pozwól nam wskazywać, jak masz używać swojej władzy". Nikt nie mówi: "Zdetronizujemy cię". Problem jest podobny jak przy przekazywaniu mediom pieniędzy odebranych im przez firmy technologiczne. Jeżeli rozwiązaniem problemu jest władza Marka Zuckerberga, to odebranie mu tej władzy uniemożliwi rozwiązanie. Potrzebujemy rozwiązań niezależnych od platformy.
Gdy istnieje niezbity dowód – na przykład wewnętrzne raporty pokazują, że firma wie o wspieraniu oszustw i świadomie rezygnuje z działań, które mogłyby je ograniczyć – oczywiście powinna ponieść odpowiedzialność. Nie potrzeba do tego nowego systemu odpowiedzialności platform. Żaden system bezpiecznej przystani nie zwalnia z winy pośrednika, który świadomie pomaga popełnić przestępstwo. Takie wyłączenia odpowiedzialności dotyczą przede wszystkim spraw cywilnych. Odpowiedzialność karna jest trudniejsza do wykazania, bo obowiązuje wyższy standard dowodowy, ale w międzynarodowej polityce internetowej przyjmujemy, że pośrednicy świadomie uczestniczący w przestępstwie powinni odpowiadać solidarnie.
Mówimy o sprawie Rafała Brzoski.
Tak. Szczerze mówiąc, nie ma dla mnie większego znaczenia, który miliarder ma pieniądze – wszyscy są miliarderami. Jeśli jednak Mark Zuckerberg stanie się w wyniku tej sprawy słabszy, być może zdołamy nałożyć na niego bardziej znaczące regulacje. Dziś jest tak silny, że bardzo trudno zmusić go do przestrzegania jakichkolwiek zasad.
Obawiam się natomiast typowej reakcji dużej firmy o znaczeniu systemowym, przyłapanej na łamaniu reguł wobec osoby wpływowej: naprawi problem wyłącznie dla tej konkretnej osoby albo dla niej i ludzi do niej podobnych.
Otwarciowa ilustracja powstała dzięki użyciu sztucznej inteligencji.
