Pedofile czują się świetnie na YouTubie, a algorytmy im w tym pomagają

Aktualizacja z 22.02 znajduje się pod koniec tekstu. YouTube przesłał swoje oficjalne oświadczenie w tej sprawie.

YouTube nie po raz pierwszy ma problemy z nieodpowiednimi treściami i ich moderacją. Tym razem chodzi jednak o wyjątkowo wrażliwe treści. Matt Watson zamieścił wstrząsający film, na którym pokazuje, jak łatwo znaleźć na platformie nagrania, którymi dzielą się i zachwycają pedofile.

Nagrania takie same w sobie nie muszą być pornograficzne. Małe dzieci uprawiające jogę lub gimnastykę, jedzące lody na patyku czy grające w Twistera dla większości z nas będą mało interesujące. W internecie są tysiące takich filmów.

Dla większości, ale nie dla wszystkich. Bo my patrzymy na nie inaczej. Wypowiadający się pod filmem użytkownicy oznaczają minuty, w których widać kawałek nagiego ciała dziecka, strefę erogenną lub erotyczną pozę. To zwykle te najbardziej polubione komentarze. W innych wymieniają się linkami do podobnych treści albo przekazują sobie numery telefonów, pod którymi obiecują przekazać podobne materiały za pomocą WhatsAppa.

W odkrywaniu coraz to nowych filmów z małymi dziećmi pomaga zresztą pedofilom sam algorytm YouTube'a. Wystarczy kilka niewinnych haseł takich jak girls yoga czy biki haul i klikniętych filmów, a sznur rekomendowanych treści oferowanych hojnie przez platformę zapełnia się filmami popularnymi wśród pedofilów. W końcu taki jest jego cel, żeby oferować nam to, co może się nam spodobać na podstawie poprzednich wyszukiwań. Misja zakończona sukcesem.

Słyszeliście o (tak, to nie literówka) Adpokalipsie? Mowa o sytuacji, która miała miejsce na YouTube'ie w 2017 r., gdy media zwróciły uwagę na to, w jakich kontekstach są reklamowane produkty znanych marek. Wiele z tych kontekstów było w najlepszym razie kontrowersyjnych. Firmy oprotestowały wtedy nie dość dokładny system moderacji i monetyzacji treści, korzystając ze swojego najpoważniejszego argumentu — portfela. Google zmienił regulamin i zaostrzył działanie algorytmu wyszukującego podejrzane treści. Wygląda na to, że teraz historia się powtarza.

Grammarly powiedziało Wired, że zwróciło się do YouTube'a o natychmiastowe naprawienie sytuacji. Epic Games oznajmiło zaś, że już wycofało reklamy Fortnite'a puszczane przed filmami użytkowników.

YouTube broni się, że robi wszystko, żeby jak najszybciej usuwać treści, które zagrażają dzieciom lub na nich żerują. A jednak gdzieś w firmie nie zapaliła się czerwona lampka, gdy powinna. Nikogo nie zastanowiło, że filmy, na których 5 lub 6-letnie dzieci po prostu bawią się w basenie lub rozciągają na matach, mają nagle po setki tysięcy wyświetleń i setki bardzo szczególnego rodzaju komentarzy.

Aktualizacja z 22.02: 

YouTyube przesłał oświadczenie w tej sprawie.

Wszelkie treści, w tym także komentarze, które zagrażają nieletnim, są nieakceptowalne i mamy jasne zasady zabraniające tego typu zachowań na YouTube. Natychmiast podjęliśmy szereg działań, usuwając konta i kanały, zgłaszając nielegalne działania władzom oraz blokując komentarze pod dziesiątkami milionów filmów z udziałem osób nieletnich. Jest jeszcze wiele do zrobienia, ale stale ulepszamy nasze mechanizmy, aby wykrywać nadużycia szybciej i skuteczniej.