AI w służbie neonazistów. Hitler przemawiający nienaganną angielszczyzną
Wydaje się wątpliwym, by Microsoft, Meta czy Google tak widziały przyszłość technologii GenAI. Z drugiej strony nie powinno też nikogo dziwić, że internetowy rynsztok w końcu ją ujarzmił. I wykorzystuje ją do szerzenia najobrzydliwszej możliwej propagandy.
Czy są państwo skłonni porozmawiać o wielkim filozofie i wizjonerze, Adolfie Hitlerze? A może życzą sobie państwo posłuchać mądrości tego myśliciela w przystępnej wersji, w znanym państwu języku, niekoniecznie niemieckim? Po pierwsze, mam nadzieję, że wyłapali państwo sarkazm w tych pytaniach. Po drugie, żywię szczerą nadzieję, że odpowiedzi na te pytania to jedno zbiorcze nie! Jest jednak niestety kłopotliwe po trzecie.
Generatywna sztuczna inteligencja jest coraz częściej wykorzystywana do szerzenia skrajnie prawicowych treści. Niektóre prezentują się wręcz groteskowo - trudno jakkolwiek poważnie patrzeć na przemawiającego nienaganną angielszczyzną Hitlera, opowiadającego o fundamentalnych wadach narodu żydowskiego czy o przewadze rasy aryjskiej nad pozostałymi. Problem w tym, że te stają się coraz popularniejsze na social mediach. Generują duże zaangażowanie, a w komentarzach… głosy poparcia.
To też jest ważne:
Tęsknię za wujaszkiem Adolfem, był bohaterem
To tylko jeden z tysięcy komentarzy, jakie wyłuskał The Washington Post pod postami z wygenerowanym przez GenAI przywódcą nazistowskich Niemiec. Algorytmy sztucznej inteligencji oczyszczają głos niemieckiego zbrodniarza a następnie tłumaczą go na angielski, zachowując brzmienie, tembr, manieryzmy i wymowę.
Ktoś mógłby uznać, że tego rodzaju filmiki to w najlepszym razie kuriozum. Internet bywa specyficznym miejscem, w którym skrajnie szkodliwe treści są z premedytacją przeciągane do absurdu i tym samym zamieniane w żart lub trolling. Tyle że według badania przeprowadzonego przez amerykańskie Strategic Dialogue oraz SITE Intelligence Group jasno wykazują, że mają efekt polityczny. Dość skuteczny.
Jak wynika z badania, przez dwa tygodnie wygenerowane przez GenAI przeróbki z Hitlerem odnotowały 25 mln odsłon na X, TikToku i Instagramie. Stanowią punkt wyjścia do prowadzonych całkiem na serio dyskusji o czystkach rasowych czy stosowaniu przemocy wobec imigrantów z innych krajów. Szczególnie o innym kolorze skóry niż biały.
W wyniku interwencji dziennikarzy, GenHitler zniknął z Sieci. Na chwilę. I tylko ten
Jak zauważają uczeni, przemowy Hitlera padające bezpośrednio z jego ust, na wideo i w sposób zrozumiały dla odbiorcy mają niezestawialnie większy wpływ niż czytanie tłumaczeń jego przemów jako tekst. Czego efekty widać po zaangażowaniu odbiorców tych postów.
Dziennikarze Washington Post, którzy zainspirowali to badanie, odezwali się do Eleven Labs (AI tej firmy posłużyło jako narzędzie dla skrajnej prawicy), czego skutkiem było zbanowanie użytkowników, którzy niefortunnie złamali regulamin usługi. Poproszono też o komentarz operatorów Instagrama, TikToka, YouTube’a i X-a.
Rzecznicy prasowi pierwszych trzech wyrazili oburzenie, potępili te treści i na skutek ich interwencji filmy zostały usunięte. X zignorował dziennikarzy, nie wystosował oświadczenia i nie zrobił nic. Niestety żaden z wymienionych podmiotów nie był w stanie zapewnić, że podobny incydent nie będzie miał już w przyszłości miejsca.
Co gorsza żaden nie mógł wykluczyć, że trwają podobne kampanie, których automatyczne systemy moderacji nie wyłapują. Autorzy reportażu zauważają przy tym, że niedługo przed zakończeniem jego redakcji sam Elon Musk repostował na swoim koncie na X materiał wideo kwestionujący istnienie Holokaustu.
Z komentarzem warto obejrzeć.
