Nadchodzi nowy rodzaj spamu. Od AI slopów się nie opędzisz

Spam to jedno z najbardziej ikonicznych słów internetu, oznaczające stos niepożądanych lub niechcianych wiadomości elektronicznych. Jeszcze kilkanaście lat temu o spamie mówiliśmy głównie w kontekście wiadomości email, ale obecnie spam odnosi się do każdego nagromadzenia niechcianych treści - na komunikatorach, w SMS-ach, a nawet śmieciowych postów w mediach społecznościowych. Tak jak w języku angielskim, tak w języku polskim na kanwie rzeczownika spam powstał czasownik spamować, który oznacza uporczywe i nachalne rozsyłanie niepożądanych wiadomości.

Jednak obawiam się, że słowo spam powoli staje się przeżytkiem. Bo dzięki sztucznej inteligencji tworzą nam się właśnie slopy. Konkretnie AI slopy.

Od kilku tygodni przewijając Facebooka zauważam, że algorytm stale podsuwa mi posty z obrazkami generowanymi przez AI, publikowanymi przez fanpage-słupy. Każdy z nich publikuje dziennie po kilkanaście postów o tym samym charakterze, zachęcającym (poprzez opis lub wizualną atrakcyjność) do polubienia, albo dotykającym społecznie i moralnie ważnych kwestii (np. zachęcania dzieci do działalności artystycznej, więzi pomiędzy ludźmi a zwierzętami), by wywołać reakcję w postaci komentarza.

Z początku nie myślałam o tym zjawisku zbyt wiele, przypisywałam je temu, że mój algorytm musi mieć problem z targetowaniem treści. Bo jak na swój wiek nie podpadam pod wiele stereotypów, ale i podsuwam Facebookowi sprzeczne dane, choćby stale w domu mówiąc w języku angielskim, ale fizycznie przebywając w Polsce. Wyświetlające mi się ochłapy były po prostu sposobem sprawdzenia przez algorytm "czy może to mnie zainteresuje" - pomiędzy interesującymi mnie treściami i reklamami wyskakiwały babcie proszące o lajki na 96 urodziny lub niemowlaki obejmujące zdeformowane psy.

Nie wchodziłam w interakcję z owymi abominacjami, a jedynie robiłam im zrzuty ekranu, z uśmiechem przyglądałam się komentarzom i od czasu do czasu zaglądałam w profile je publikujące. Te nie publikują nic poza obrazkami wygenerowanymi przez AI, z opisami atrakcyjnymi dla statystycznego użytkownika nieobytego ze standardami i trendami współczesnego internetu.

Wkrótce zauważyłam problem - mój folder ze zrzutami ekranu badziewnych tworów AI na Facebooku miał już ponad 50 plików. A to tylko zrzuty ekranu tych najbardziej oczywistych i kiepskich postów.

Nazywałam je "śmieciami", "abominacjami", "farmami użytkowników", "spamem AI", bo brakowało mi słowa, by trafnie określić spam, który pojawiał się po mniej niż minucie przewijania Facebooka. Tu jednak z pomocą przyszedł przypadek, bo przeczesując zasoby internetu natrafiłam na artykuł The Washington Post, który wspomina nazwę tych mniej lub bardziej absurdalnych grafik. To AI slopy, z których tworzą się boomertrapy.

Słowo "slop" w tym kontekście można przetłumaczyć jako "pomyje", co idealnie opisuje wygląd prezentowanych treści. AI slopy są niskie jakościowo, prezentują kardynalne błędy - zdeformowane dłonie, nienaturalne proporcje twarzy i ciała, bezsensownie umieszczone elementy budynków, dokładają części ciała lub wręcz je ujmują. Creme de la creme tego, z czym utożsamia się beznadziejnie, szybko i od niechcenia wygenerowane przez AI obrazy.

W kontekście Facebooka (na którym znajdziemy zdecydowaną większość AI slopów i boomerów na nie reagujących) AI slopy zwykle mają jeden z dwóch charakterów - zaskakujący, przykuwający oko swoją nietypowością, lub po prostu byciem "ładnym". Inne można nazwać wręcz końmi trojańskimi, bo poprzez prowokacyjny opis ("Nikt nie złożył mi życzeń") lub treść samego obrazka (bezdomne, wychudzone dziecko lub motywy religijne czy polityczne) mają na celu sprowokować reakcję użytkownika. Osoby je publikujące (w domyśle również generujące, bo to trudne nie jest) nawet nie starają się, by obraz miał jakąkolwiek wiarygodność - zwykle wystarczy, że wygląda względnie "realistycznie", by przeszedł "kontrolę jakości".

Kontrolę jakości przeprowadza hipotetyczny Omar. Omar, bo w większości strony z AI slopami są zarządzane właśnie przez osoby z krajów bliskiego wschodu i trzeciego świata, które w tego typu stronach widzą nic innego jak biznes - jak wspomniałam, prawdopodobnie oparty na tworzeniu boomertrapów i późniejszej sprzedaży fanpage z dużym zaangażowaniem użytkowników, co już od pierwszych lat istnienia systemu fanpage'ów na Facebooku było lukratywnym biznesem.

Boomertrap to kolejny neologizm, który powstał, by odpowiedzieć na zmieniający się spam. Strony pokroju Łatwe Przepisy i inne Płatki Śniegu publikowanymi przez siebie treściami celują w osoby mało biegłe w internecie. Stereotypowych "boomerów", osoby w wieku 50 plus, które są podatnym gruntem na manipulację i prowokacje ładnymi lub kontrowersyjnymi obrazkami. Dlatego strony publikujące AI slopy nazywa się boomertrapami - pułapkami (trap) na osoby niedoświadczone z internetem niewiedzące, jak odróżnić obrazek wygenerowany przez AI od prawdziwej fotografii, a które zareagują na bodziec w postaci niemowlaka tulącego kotka lub obrazek Jezusa.

Co łączy każdy boomertrap to fakt, że posty nigdy nie są jedynie grafiką, lecz zawierają opis nadający obrazkowi historię. "Mój mąż wyrzeźbił tę papugę, ale nie uważa, że jest wystarczająco dobra", "Ten mężczyzna wyrzeźbił Jezusa w śniegu własnymi rękoma", "Jestem z sierocińca i tort zrobiliśmy z resztek w lodówce", "Mam 109 urodziny i upiekłam swój własny tort" - w scenariuszach boomertrapów i AI slopów można przebierać bez końca.

Problem AI slopów jest bardzo złożony i głównym powodem istnienia zjawiska jest nic innego jak ograniczenie dostępu do narzędzi generatywnej sztucznej inteligencji poprzez tylko jeden czynnik: pieniądze. Mając pieniądze, można albo skorzystać z narzędzi online, takich jak Midjourney czy DALL-E 3 w ramach subskrypcji ChatGPT Plus, albo po prostu zakupić wystarczająco dobry komputer, by lokalnie uruchomić choćby Stable Diffusion. Nigdy wcześniej w historii internetu nie było tak łatwo (i nie bójmy się tego słowa: tanio) masowo generować wizualnie atrakcyjnych treści, jakkolwiek by nie były odklejone od rzeczywistości.

Inna kwestia to fakt, że generowanie AI slopów i powstawanie kolejnych boomertrapów to nic innego jak kolejny etap tworzenia się syntetycznego internetu, gdzie człowiek wchodzi w interakcję nie z treściami pochodzącymi od innych ludzi, ale pochodzącymi w prostej linii od maszyn. Choć do internetu podłączona jest większość ludzkości - 67 proc., lub jak kto woli, 5,4 miliarda osób. Ale nie przekłada się to na ilość ruchu w internecie, który w prawie połowie generowany jest przez boty - z czego większość z nich uważana jest za "szkodliwe boty". Kiedy chcemy wejść w interakcję z obsługą klienta linii lotniczych czy sklepu internetowego, najpierw musimy przejść przez gehennę interakcji z maszyną, która ma "odfiltrować" osoby zadające oczywiste i błahe pytania.

To crawlery Google'a - boty stale okrążające internet, a nie ludzie przeszukują internet w celu indeksowania kolejnych witryn internetowych. Choć nadal to (w większości) ludzie tworzą treści, które wyszukujemy w Google'u, to za ich obecność tam również odpowiadają zautomatyzowane systemy. Na każdym etapie korzystania z internetu wchodzimy w interakcję z czymś, co jest syntetyczne lub ma zautomatyzowaną naturę, i AI slopy nie są tu wyjątkiem, lecz nową inkarnacją istniejącego już problemu.

Wreszcie jest problem klasyfikacji AI slopów. Obiektywnie można przyznać, że zalew boomertrapów to problem, bo obniża jakość nie tylko doświadczenia użytkownika końcowego, ale i jakość Facebooka (ale i potencjalnie innych mediów, gdzie AI slopy mogą zyskać popularność) jako medium. Z tym że próbując zgłosić obrazek dziwnego drewnianego orła trzymającego flagę Polski, co zaznaczysz w zgłoszeniu? Spam? To pojedynczy obrazek na prywatnej stronie, a nie seria takich samych wrzuconych na grupę - Facebook oleje AI slop ciepłym moczem. Obraza uczuć? No też nie. To może przekazywanie fałszywych informacji? Mówimy tu o ładnych obrazkach estetycznie przyjemnych dla oka twojej babci, a nie promocji fałszywych teorii o zdrowiu i polityce.

AI slopom nie da się skutecznie przeciwdziałać również z kwestii dość... filozoficznych. Bo mówiąc o jednych obrazach wygenerowanych przez AI jako "ładnych" (nie bójmy się tego słowa, pomimo antypatii do generatywnej AI, niektóre twory są wizualnie atrakcyjne) a o innych jak o "AI slopach", ocieramy się także o kwestie estetyki, bo co dla jednego jest AI slopem i boomertrapem, dla innej osoby jest czymś, co - przez nieświadomość pochodzenia treści - wywołuje w niej pozytywne emocje i cieszy się, że ma to na Facebooku. A wygląda na tyle ładnie i wiarygodnie, że można pominąć cztery palce na dłoni czy fakt, że kokosy są za małe, by trzymać w nich niemowlaki.

No, a treści nie można usuwać tylko dlatego, że ktoś uważa je za kiczowate, nie?

Może zainteresować cię także: