REKLAMA
  1. SPIDER'S WEB
  2. Koronawirus
  3. Nauka

Widzisz marchewki na Fejsie? Uciekaj, bo wpadniesz w toksyczne miejsce

Usługi społecznościowe prowadzą nierówną walkę ze szkodliwą dezinformacją. Z uwagi na mnogość udostępnianych treści, dodatkowo multiplikowaną przez boty, usuwaniem bzdur z Internetu najczęściej zajmuje się sztuczna inteligencja. Okazuje się, że ta od Mety ma pewną wadę.

antyszczepionkowcy covid marchewka
REKLAMA

Osoby często korzystające z Facebooka i Twittera zapewne kojarzą kampanie trolli, często inspirowane na zlecenie rosyjskiej agentury, skierowane przeciwko akcji szczepień na COVID-19. Jedną z częściej powielanych bzdur są rzekome powikłania u znajomych autora posta: matka umarła na miejscu, ojciec męczył się w agonii dwa tygodnie, brat stracił płodność, a krowa się przestała cielić.

REKLAMA

Czytaj też:

Operatorzy mediów społecznościowych, by chronić swój wizerunek, starają się cenzurować swoje usługi i usuwać z nich tego rodzaju szkodliwe treści. Ich wysiłki są jednak niewystarczające, zwłaszcza że muszą działać ostrożnie i zachować równowagę między eliminowaniem szkodliwych zjawisk a zapewnieniem wolności wypowiedzi i swobody dyskusji.

Mając na uwadze fakt, że każdej minuty w tego rodzaju usługach pojawia się tysiące nowych wpisów, ich ręczna moderacja i weryfikacja nie jest możliwa. Zadanie to powierza się więc algorytmom. Te analizują, czy dany post nie generuje zbyt wielu skarg ze strony innych użytkowników oraz także skanują ich treści w poszukiwaniu typowych dla trolli fraz. Trolle jednak o tym wiedzą i stosują coraz to nowe pomysły, by obchodzić cenzurę. Niedawno odkryli, że SI Mety jest kompletnie niewrażliwa na emoji.

Jak zamaskować grupę przeciwników szczepień? Wystarczy użyć emoji. Aktualnie trendy jest 🥕.

Brytyjscy dziennikarze z BBC przeprowadzili badanie, by sprawdzić, gdzie podziały się społeczności zorganizowane wokół antyszczepionkowych guru. Okazało się, że by maskować się przed botami-cenzorami, wystarczy używać w nazwach emoji. Antyszczepionkowcy zastępują słowa COVID czy szczepionka emotkami ze standardu Unicode. Aktualnie znakiem rozpoznawczym jest marchewka, czyli 🥕. Jeśli algorytmy Facebooka się połapią, emotkę zmienią na nową.

Algorytmy moderacji Facebooka są wyczulone na posty zawierające takie frazy jak COVID, szczepionka czy dawka przypominająca. Potrafi też rozpoznawać, że chodzi o powyższe tematy, jeżeli używane do tego jest słowo zastępcze, starając się zrozumieć całą wypowiedź i kontekst. Najwyraźniej jednak z jakiegoś względu klawiaturowe piktogramy sprawiają, że ta się gubi i nie wykrywa fake newsów i trolli.

BBC zgłosiło się najpierw do Facebooka ze swoim odkryciem, zanim opublikowało swój materiał. Administracja usługi niezwłocznie usunęła grupki, na które natknęli się dziennikarze. Jednak te szybko wróciły i nie zmieniła się nawet emotka - to dalej marchewka. Choć ten znak rozpoznawczy może w każdej chwili się zmienić.

Czemu emotka ogłupia sztuczną inteligencję, a przekręcone słowa już nie?

Trudno powiedzieć. Pewna podpowiedź czai się w tej pracy naukowej, gdzie Hannah Rose Kirk bada algorytmy stosowane przez gigantów mediów społecznościowych. Autorka badania skupiła się na rasizmie wśród kibiców sportowych i tym, jak rasistowskie treści są przemycane w mediach społecznościowych. Jej badania wykazały, że stosowanie piktogramów w wypowiedziach nie pasuje do żadnego modelu, jakim przez lata szkolone były algorytmy Facebooka, Twittera, YouTube’a czy Twitcha.

REKLAMA

Materiały językowe, jakie są wykorzystywane do uczenia SI kontekstowego i intuicyjnego języka, to najczęściej teksty archiwalne. Książki, artykuły prasowe, wpisy na blogach czy Wikipedia. W tych tekstach nie ma emoji. I nawet po naprędce dokonanych korektach (zmniejszaj widoczność postów z marchewkami i frazami sugerującymi treści szkodliwe) SI nie zrozumie, czemu ma to robić, bo nie ma modeli stanowiących punkt odniesienia. Co najwyżej algorytm może przyjąć twardą zasadę, którą społeczność Facebooka szybko nauczy się obchodzić.

BBC nie zdołało uzyskać komentarza od Mety, właściciela Facebooka, więc my już nie próbowaliśmy. Otwartym więc pozostają pytania, co Meta zamierza zrobić z odkryciem dziennikarzy? Czy zamierza robić cokolwiek i jeśli tak, to kiedy można spodziewać się efektów? Jeżeli wierzyć cytowanej wyżej specjalistce, zadanie to jest trudniejsze, niż może się pozornie wydawać. A to oznacza, że antyszczepionkowcy mają tymczasową przepustkę na szerzenie szkodliwej propagandy.

REKLAMA
REKLAMA
REKLAMA
REKLAMA
REKLAMA
REKLAMA