Matka pozywa Metę i TikToka. Jeśli sąd "skaże" algorytm, mamy przełom

To nie jest kolejny ogólny spór o to, czy media społecznościowe szkodzą dzieciom. We Włoszech matka zmarłej 12-latki razem z innymi rodzinami pozywa Metę i TikToka, ale sednem sprawy nie są wyłącznie pojedyncze wpisy, filmy czy konta. Chodzi o mechanizm działania platform: rekomendacje, powiadomienia, feed i system nagród, który według pozwu miał zatrzymywać dzieci w aplikacjach wtedy, gdy były najbardziej podatne na szkodliwe treści.

Jeśli włoski sąd uzna, że problemem jest nie tylko nielegalna albo szkodliwa treść, lecz także sposób, w jaki algorytm ją wzmacnia i podsuwa nieletnim, platformy mogą dostać jeden z najpoważniejszych sygnałów ostrzegawczych w Europie.

Matką, która zdecydowała się mówić publicznie, jest Irene Roggero Ugues z Asti w północnych Włoszech. Jej córka Rossella zmarła po głębokim kryzysie psychicznym. Rodzice twierdzą, że dopiero po tragedii zobaczyli, jak intensywnie dziewczynka korzystała z mediów społecznościowych i jak wiele treści związanych z cierpieniem psychicznym trafiało do niej przez algorytmiczne rekomendacje.

Pozew nie sprowadza się do pytania, czy platformy powinny usuwać konkretne materiały. Rodziny i wspierająca je organizacja rodziców MOIGE idą krok dalej. Twierdzą, że aplikacje są projektowane tak, aby utrzymywać uwagę dziecka jak najdłużej, nawet wtedy, gdy system widzi sygnały pogorszenia samopoczucia albo zainteresowania ryzykownymi treściami.

W centrum sprawy są rzeczy, które dla większości z nas są po prostu częścią każdej aplikacji: nieskończony feed, rekomendacje, lajki, powiadomienia i kolejne podsuwane treści. To właśnie one decydują o tym, co dziecko zobaczy za chwilę i czy algorytm pokaże mu coś nowego, czy raczej będzie wciąż kierował je w tę samą stronę.

Prawnicy rodzin chcą udowodnić, że platformy nie są bierną tablicą ogłoszeń. Jeśli system rekomendacyjny widzi zainteresowanie określonym tematem i konsekwentnie podaje podobne treści, to nie tylko pokazuje internet. On aktywnie układa doświadczenie użytkownika.

Dla dorosłego może to oznaczać kolejną godzinę zmarnowaną na filmiki. Dla dziecka w kryzysie może oznaczać znacznie groźniejszą pętlę: więcej treści podobnych do tych, które już odzwierciedlają trudny stan psychiczny, mniej wyjść z tej bańki i więcej samotnego kontaktu z materiałami, których rodzice często nawet nie widzą.

Jak można podejrzewać, Meta i TikTok nie przyjmują oskarżeń. Obie firmy podkreślają, że mają zasady dotyczące ochrony młodych użytkowników, usuwają szkodliwe treści, ograniczają ekspozycję na ryzykowne materiały i rozwijają narzędzia dla rodzin.

Meta wskazuje m.in. na konta nastolatków i wbudowane zabezpieczenia. TikTok mówi o egzekwowaniu wytycznych, usuwaniu treści naruszających zasady oraz rozwiązaniach, które mają dywersyfikować rekomendacje, blokować ryzykowne wyszukiwania i kierować użytkowników do źródeł pomocy.

To tak naprawdę będzie jedna z głównych osi sporu. Czy te zabezpieczenia rzeczywiście chronią młodych użytkowników, czy są tylko dodatkiem do systemu, który przede wszystkim ma sprawić, żeby ludzie spędzali w aplikacji jak najwięcej czasu?

Rodzice twierdzą, że same narzędzia kontroli nie wystarczają. Dzieci potrafią omijać limity, zakładać dodatkowe konta i korzystać z urządzeń poza wiedzą dorosłych. A jeśli pilnowanie mediów społecznościowych staje się pełnoetatową pracą, to trudno udawać, że odpowiedzialność spoczywa wyłącznie na rodzinie.

Sprawa toczy się w czasie, gdy Unia Europejska coraz mocniej patrzy platformom na ręce. Akt o usługach cyfrowych, czyli DSA, wymaga od dużych platform oceny i ograniczania ryzyk systemowych, w tym zagrożeń dla małoletnich. Komisja Europejska opublikowała też wytyczne dotyczące ochrony dzieci online, w których szczególne miejsce zajmują systemy rekomendacji i ryzyko wciągania młodych użytkowników w niebezpieczne treści.

Włoski pozew może więc stać się praktycznym testem tego, co te regulacje znaczą poza językiem urzędowych dokumentów. Czy sąd uzna, że platforma odpowiada tylko za usunięcie zakazanej treści? Czy także za to, jak jej algorytm zachowuje się wobec dziecka, które zaczyna wykazywać niepokojące zainteresowania?

Przeczytaj także:

To pytanie będzie wracać w całej Europie. Zwłaszcza że coraz więcej państw rozmawia nie tylko o kontroli wieku, ale też o odpowiedzialności projektantów aplikacji za mechanizmy uzależniające, wzmacnianie szkodliwych treści i brak przejrzystości rekomendacji.

*Źródło grafiki wprowadzającej: Juan Pablo Serrano, Pexels / AndreyPopov, Getty Images, Canva Pro