Mimo że platformy internetowe są naprawdę potężne, nikt w Brukseli nie chce ich zniszczyć. Jest konsensus co do tego, że potrzebujemy pośredników, którzy pomagają nam nawigować w sieci. Chcemy ich jednak okiełznać, poddać społecznej kontroli i ograniczyć możliwości manipulacji, jakie daje bezprecedensowa wiedza o ludziach. Z jednej strony nie możemy obarczać Facebooka odpowiedzialnością za to, co na platformie publikują jego użytkownicy. Media społecznościowe tym właśnie różnią się od tradycyjnych mediów. Z drugiej strony Facebook powinien ponosić pełną odpowiedzialność za to, jak działa stworzony przez niego filtr, bo właśnie w ten sposób kształtuje pokazywaną nam rzeczywistość. To, w jakiej kolejności treści są nam serwowane, w jakim momencie do nas trafiają, czy działają na nasze emocje i jakie emocje mają za zadanie wywołać, nie jest przypadkowe. Na tym polega władza facebookowych algorytmów, którą powinniśmy móc kontrolować. Sęk w tym, że dziś te mechanizmy pozostają przed nami ukryte w czarnych skrzynkach. Są otoczone nimbem tajemnicy, co najmniej jakby to były czary, a nie twarda statystyka.
Mówisz niemalże dokładnie tymi samymi słowami, jak jeden z bohaterów dokumentu Netflixa, który podkreśla, że funkcjonowanie algorytmów jest dla nas takie samo magiczne, jak sztuczki cyrkowe. Nie rozumiemy, co się zadziało – widzimy jedynie efekt.
Zaryzykowałabym stwierdzenie, że efekt działania algorytmów użytkownicy traktują jak powietrze. Nie są w stanie go krytycznie ocenić. W codziennym doświadczeniu po prostu nie zdajemy sobie sprawy z tego, że postrzegamy świat przez specjalnie dla nas skonstruowany filtr. Skupiamy się na zawartości, na treści, która wzbudza nasze emocje i prowokuje do reakcji. Naprawdę trudno oczekiwać od użytkownika, że za każdym razem zada sobie pytanie: dlaczego to widzę? Na tym wyparciu, czy też zwyczajnym ograniczeniu naszej percepcji, korzystają cyfrowe korporacje, dla których jesteśmy wdzięcznym, podatnym obiektem badań. Przez cały czas bierzemy udział w eksperymencie psychologicznym. Świetnie opłacani specjaliści od projektowania interfejsów i analitycy danych sprawdzają, jak reagujemy na konkretne obrazy, kolory, emotikony. Ta subtelność i niewidoczność mechanizmów władzy, którymi posługują się platformy internetowe, przesądza o ich skuteczności i zdecydowanie utrudnia społeczną kontrolę.