Algorytm prawdę powie. Sztuczna inteligencja uczy się rozpoznawać teorie spiskowe

Taki pomysł miała niewielka grupka analityków z Uniwersytetu Kalifornijskiego, którzy postawili sobie dość interesujące pytanie: czy algorytm maszynowego uczenia się będzie w stanie nauczyć się rozróżniać teorie spiskowe od tych prawdziwych? Badacze twierdzą, że udało im się opracować zautomatyzowany system, który potrafi określić, kiedy rozmowy w mediach społecznościowych zawierają charakterystyczne oznaki teorii spiskowych.

Algorytm opracowany na Uniwersytecie Kalifornijskim potrafi łączyć i analizować jako całość tysiące wpisów, konwersacji i artykułów udostępnianych za pomocą mediów społecznościowych. Na podstawie tak przeanalizowanej treści tworzy on następnie tzw. narrację przewodnią dla danej teorii, traktując jej każdy pojedynczy wątek jako fragment większej historii. Ponadto, oprogramowanie identyfikuje również ludzi, miejsca inne istotne dla danej historii rzeczy w analizowanych postach i dzieli je na kluczowe oraz poboczne. Mając już tak posortowane dane, na samym końcu analizuje, czy dana historia nosi znamiona zmyślonej teorii spiskowej, czy też posiada cechy świadczące o tym, że wydarzyła się naprawdę.

Żeby przetestować algorytm w praktyce, badacze z Uniwersytetu Kalifornijskiego dali mu do przeanalizowania dwie spiskowe historie: Pizzagate i Bridgegate. Mogliście słyszeć o obu. Pizzagate to teoria spiskowa o kręgu pedofilskim (do którego należały oczywiście bardzo wpływowe osoby w USA), który urządzał swoje regularne spotkania (korzystając z klauzuli sumienia nie będę wchodził w szczegóły) w pizzeriach, praktykując tam przy okazji satanizm. Całość okazała się zmyślona, jednak w sieci na temat tej historii można znaleźć kilkaset tysięcy wpisów publikowanych w latach 2016 - 2018.

Bridgegate to z kolei prawdziwa historia, która wywołała urzędniczy skandal w stanach. W 2013 r. podwładni gubernatora stanu New Jersey Chrisa Christie wydali decyzję o zamknięciu górnych bramek, przy których uiszczało się opłatę za przejazd przez most Jerzego Waszyngtona łączący Fort Lee z Manhattanem. Działanie to miało zaowocować niezadowoleniem (lekko mówiąc) tamtejszych mieszkańców, a to z kolei miało doprowadzić do spadku poparcia dla Marka Sokolicha, ówczesnego burmistrza Fort Lee. Brzmi niedorzecznie, ale to prawda.

Jakie różnice pomiędzy tymi dwoma historiami znalazł algorytm? Po pierwsze, podczas gdy opracowywanie wykresu narracyjnego dla Bridgegate bazowało na wpisach publikowanych od 2013 do 2020 roku, wykres Pizzagate został w pełni uformowany i wypełniony wszystkimi kluczowymi (dla narracji przewodniej) informacjami, które pojawiły się w sieci na przestrzeni… jednego miesiąca. Po drugie, narracja kluczowa Bridgegate pozostawała niezaburzona po usunięciu z niej praktycznie dowolnego wątku. W przypadku Pizzagate narracja ta nie była tak integralna i rozpadała się na niepowiązane ze sobą, często bezsensowne historie po usunięciu z niej losowych wątków.

Sami twórcy kilkukrotnie zaznaczają, że opracowany przez nich system pełni tylko i wyłącznie rolę wygodnego narzędzia do analizy poszczególnych historii publikowanych w sieci i ułatwia rozbieranie je na czynniki pierwsze. Jednak bez nadzoru ludzi, analizujących na bieżąco wyniki pracy maszyny, algorytm nierzadko potrafił zwracać całkowicie bezsensowne wyniki analizy. Możemy więc myśleć o nim jako o systemie wczesnego ostrzegania przed wyjątkowo głupimi teoriami spiskowymi, który najlepiej sprawdza się w rękach doświadczonych analityków.

Nie to jest jednak najważniejsze. Ciekawszym wątkiem w całym tym badaniu jest już sama analiza samej budowy teorii spiskowych. Przyjrzyjmy się przykładowi Pizzagate: wszystkie kluczowe informacje na temat tego makabrycznego spisku ukazały się w sieci błyskawicznie - tj. na przestrzeni kilku miesięcy. Uparty internauta bez trudu, oczywiście surfując po najróżniejszych forach internetowych od 4chana do reddita mógł dowiedzieć się, które konkretnie wpływowe osoby były zamieszane w całą aferę, gdzie odbywały się spotkania, jak wyglądały, co było celem grupy itd.

Drugim ważnym wątkiem w całym badaniu jest odkrycie, że większość historii spiskowych to dość luźno powiązany ze sobą zlepek dość nieprawdopodobnych stwierdzeń w stylu: Bill Gates chce depopulować planetę szczepionkami na koronawirusa, który nie istnieje, ale na pewno wywołuje go sieć 5G. Idea, że ten sam człowiek wydaje fortunę na produkcję i dystrybucję szczepionek przyczyniających się z bardzo wymiernym skutkiem do ratowania życia w krajach Trzeciego Świata oczywiście musi zostać tutaj pominięty, bo psuje całą narrację.

Warto o tym pamiętać, kiedy następny raz traficie na niestworzoną historię opisaną na jakiejś niszowej grupce na Facebooku.