Musk ma poważny problem. Grok przerabiał zdjęcia, posypały się pozwy

Jednym z popularniejszych ostrzeżeń dotyczących publikowania zdjęć dzieci w Internecie „od zawsze” było to, że fotografia raz wrzucona do sieci może zostać skopiowana i już nigdy nie odzyskamy nad nią pełnej kontroli. Generatywna sztuczna inteligencja nadała temu ostrzeżeniu znacznie bardziej ponury wymiar. Nie trzeba już bowiem znaleźć kompromitującego zdjęcia. Nie trzeba nawet znaleźć zdjęcia, którego właściciel chciałby się wstydzić. Wystarczy najzwyklejsza fotografia z zakończenia szkoły, albumu rodzinnego albo mediów społecznościowych. Resztę może stworzyć model generatywny.

Bloomberg opisuje przypadki młodych osób, które twierdzą, że właśnie w ten sposób użyto Groka, chatbota stworzonego przez xAI. Jedna z opisanych przez redakcję kobiet dowiedziała się od śledczego, że jej zdjęcie z ukończenia szkoły podstawowej, wykonane, gdy miała 14 lat, zostało wykorzystane przez dorosłego brata jednej z jej koleżanek do stworzenia przy pomocy Groka materiałów przedstawiających ją w sposób seksualny. Kobieta ma dziś 18 lat i dołączyła do pozwu przeciwko xAI.

Czytaj też:

Przypadek opisany przez Bloomberga jest szczególnie wymowny właśnie dlatego, że materiałem wejściowym nie była żadna fotografia o intymnym charakterze. Chodziło o zwyczajne zdjęcie grupy uczniów wykonane podczas szkolnej uroczystości. Według relacji Bloomberga kobieta przez lata praktycznie o nim nie myślała i nic dziwnego. Dopiero funkcjonariusz organów ścigania pokazał jej fotografię i wyjaśnił, do czego została wykorzystana. Grok miał posłużyć do przekształcenia normalnego zdjęcia przedstawiającego 14-letnią dziewczynę w fałszywy materiał przedstawiający wykorzystywanie dziecka. Materiał został następnie rozpowszechniony w Internecie.

Najbardziej przerażającym elementem tej historii może być przy tym nie sama możliwość wygenerowania obrazu, ale utrata kontroli nad jego dalszym losem. W pozwie zwrócono uwagę, że nie sposób ustalić, ile osób mogło wejść w posiadanie materiału ani jak szeroko został on dalej rozpowszechniony. Kiedyś warunkiem wykorzystania czyjegoś intymnego materiału było przede wszystkim zdobycie takiego materiału - dziś określona kategoria fałszywych treści może powstać na podstawie niewinnej fotografii. A tych zostawiamy w Internecie tysiące.

Przeciwko xAI występuje coraz więcej młodych osób i ich rodzin. Bloomberg opisuje sprawy z kilku stanów USA. W marcu nieletnie osoby z Tennessee pozwały firmę, zarzucając, że Grok został wykorzystany do seksualizowania ich zwyczajnych fotografii. Pozew został później rozszerzony o kolejnych powodów. Rodzice i nieletni z Arkansas również skierowali przeciwko xAI podobne roszczenia.

W sierpniu pojawił się z kolei ogólnokrajowy pozew zbiorowy w Kalifornii. Skarżąca twierdzi między innymi, że materiały przedstawiające przemoc seksualną wobec niej z okresu dzieciństwa znalazły się w danych wykorzystanych przy tworzeniu systemu, a Grok miał następnie generować kolejne treści wykorzystujące jej podobiznę. Prawnicy reprezentujący powodów szacują, że potencjalnie poszkodowanych mogą być tysiące. Są to jednak twierdzenia przedstawione w pozwach i na tym etapie należy je traktować właśnie jako zarzuty kierowane wobec xAI.

Skala szerszego problemu jest wyjątkowo niepokojąca. Bloomberg przywołuje analizy, według których na X w pewnym momencie za pomocą Groka powstawały tysiące seksualizujących lub „rozbierających” obrazów na godzinę. Inne analizy wskazywały, że wśród rezultatów mogły znajdować się dziesiątki tysięcy realistycznych, seksualizowanych przedstawień dzieci.

Można byłoby na tym etapie wzruszyć ramionami i uznać, że historia Groka to kolejny rozdział bardzo amerykańskiego sporu: Elon Musk, pozwy zbiorowe, przepisy poszczególnych stanów i batalia o granice odpowiedzialności platform. Tyle że sam problem kończy się dokładnie tam, gdzie kończą się granice Internetu, czyli właściwie nigdzie.

Polski NASK alarmował w maju, że w ciągu zaledwie roku liczba wykrytych przez Dyżurnet.pl materiałów przedstawiających seksualne wykorzystywanie dzieci, które zostały wygenerowane przez AI, wzrosła o 300 proc. W całym 2025 r. do zespołu trafiło ponad 17 tys. zgłoszeń dotyczących potencjalnie nielegalnych treści. Coraz większą rolę w tej kategorii odgrywa właśnie sztuczna inteligencja.

Za procentami kryją się już całkiem konkretne przypadki. Według danych Dyżurnet.pl liczba wykrytych materiałów przedstawiających seksualne wykorzystywanie dzieci i wytworzonych przez AI wzrosła z 88 w 2024 r. do 250 w 2025 r.

I tutaj historia ze Stanów Zjednoczonych zaczyna brzmieć niepokojąco znajomo. Dyżurnet.pl zwraca uwagę między innymi na aplikacje typu „nudify”, służące do cyfrowego „rozbierania” ludzi uwiecznionych na normalnych fotografiach, oraz na materiały tworzone na podstawie wizerunków prawdziwych dzieci. Kierująca zespołem Dyżurnet.pl Martyna Różycka ostrzega wręcz, że fotografia dziecka opublikowana przez rodzica może później posłużyć do wykorzystania jego twarzy w fałszywym materiale seksualnym. A więc właściwie dokładnie tego rodzaju zagrożenie, które materializuje się w sprawach przeciwko xAI.

To przy okazji zupełnie zmienia dyskusję o sharentingu. Do niedawna ostrzegaliśmy rodziców przede wszystkim przed publikowaniem zdjęć odsłaniających zbyt wiele informacji o dziecku, jego miejscu pobytu czy życiu prywatnym. Generatywna AI dokłada do tego znacznie paskudniejsze ryzyko: niewinne zdjęcie nie musi przedstawiać niczego kompromitującego, aby zostało wykorzystane do wytworzenia kompromitującego materiału.

Problem dotarł również do polskiego parlamentu. 7 października do Sejmu trafił projekt zmian w Kodeksie karnym dotyczących seksualnych deepfake'ów. Jedną z proponowanych zmian jest objęcie odpowiedzialnością karną rozpowszechniania bez zgody cyfrowo wytworzonego lub zmodyfikowanego wizerunku osoby nagiej albo uczestniczącej w czynności seksualnej. Projekt wprost wymienia wykorzystanie sztucznej inteligencji.

Proponowana sankcja jest konkretna: od 3 miesięcy do 5 lat pozbawienia wolności, czyli taka sama jak przewidziana obecnie przez art. 191a Kodeksu karnego dla bezprawnego rozpowszechniania autentycznego nagiego wizerunku lub materiału przedstawiającego aktywność seksualną.

Polska znajduje się przy tym w nieco innej sytuacji niż Stany Zjednoczone również dlatego, że obejmują nas regulacje Unii Europejskiej. Od 2 sierpnia zaczęły obowiązywać wynikające z AI Act wymogi dotyczące przejrzystości treści generowanych przez sztuczną inteligencję. Podmioty udostępniające deepfake mają obowiązek informowania odbiorców, że materiał został wygenerowany lub zmodyfikowany przy pomocy AI, a dostawcy odpowiednich systemów mają zapewniać możliwość maszynowego rozpoznania takich treści jako wygenerowanych lub zmodyfikowanych przez sztuczną inteligencję.

Nie oznacza to oczywiście, że etykietka „wygenerowano przez AI” rozwiązuje problem seksualnego deepfake'a. Ofierze niewiele pomoże świadomość, że kompromitująca fotografia krążąca po szkolnej grupie została prawidłowo oznaczona jako syntetyczna. I chyba właśnie tutaj przypadki opisywane w Stanach Zjednoczonych powinny szczególnie zainteresować polskiego czytelnika. Nie dlatego, że za Grokiem stoi Elon Musk, ani nawet dlatego, że kolejna firma AI może dostać po kieszeni. Pokazują raczej, że epoka, w której zwyczajne zdjęcie twarzy było tylko zdjęciem twarzy, właśnie się skończyła. A zdjęć swoich dzieci, przyjaciół i samych siebie zostawiliśmy w Internecie wystarczająco dużo, żeby generatywna AI miała z czego korzystać.

W przypadku xAI trudno też oddzielić dyskusję o zabezpieczeniach od sposobu, w jaki Grok był pozycjonowany na rynku. Od premiery w 2023 r. Elon Musk przedstawiał go jako bardziej prowokacyjną alternatywę dla konkurencyjnych chatbotów, z mniejszą liczbą ograniczeń. Grok doczekał się również trybu Spicy przeznaczonego do bardziej odważnych materiałów, w tym treści NSFW. Obok niego funkcjonował również tryb Unhinged.

Sama obecność trybu pozwalającego dorosłym generować materiały dla dorosłych oczywiście nie oznacza automatycznie przyzwolenia na tworzenie materiałów przedstawiających wykorzystywanie dzieci. xAI utrzymuje zresztą, że takich zastosowań zabrania, podobnie jak inne czołowe firmy AI, i że stosuje techniczne zabezpieczenia mające je blokować.

Problem polega na tym, że oba podejścia zaczynają się coraz mocniej zderzać. Z jednej strony produkt jest sprzedawany za pomocą narracji o mniejszej liczbie ograniczeń i większej swobodzie. Z drugiej firma musi zbudować bariery na tyle skuteczne, by ta sama swoboda nie stała się przewagą produktu dokładnie dla tych użytkowników, których żaden producent AI nie powinien chcieć przyciągać.

Stanowisko Elona Muska sprowadza się do rozróżnienia pomiędzy narzędziem i osobą, która wydaje mu polecenia. Musk argumentował, że Grok nie generuje obrazów sam z siebie, lecz robi to na żądanie użytkownika. W styczniu twierdził również, że nie jest mu znany przypadek wygenerowania przez Groka nagich przedstawień osób nieletnich. Następnie xAI poinformowało o wyłączeniu możliwości tworzenia za pomocą Groka niekonsensualnych seksualizowanych obrazów prawdziwych ludzi.

Firma deklaruje przy tym „zero tolerancji” dla seksualnego wykorzystywania dzieci i twierdzi, że chce uczynić swoje produkty środowiskiem nieprzyjaznym dla osób próbujących wykorzystywać nieletnich. X deklaruje również zgłaszanie takich treści do amerykańskiej organizacji National Center for Missing & Exploited Children. Co więcej, xAI samo zaczęło pozywać użytkowników oskarżanych o wykorzystywanie Groka do takich celów.

Reuters opisywał w lipcu pozew xAI przeciwko mieszkańcowi Karoliny Południowej, którego firma oskarżyła o używanie Groka do tworzenia zakazanych materiałów na podstawie nieseksualnych fotografii dorosłych oraz dzieci. W pozwie xAI podało też konkretne dane dotyczące swoich działań moderacyjnych: w 2026 r. firma miała zawiesić 52 222 konta i przekazać NCMEC 73 604 zgłoszenia, które według xAI doprowadziły do co najmniej 244 aresztowań.

Te liczby można odczytać jako dowód działania mechanizmów bezpieczeństwa. Można również zadać mniej wygodne pytanie: jak duża jest skala nadużyć, skoro sama firma mówi o dziesiątkach tysięcy kont i zgłoszeń? Jedno nie musi zresztą przeczyć drugiemu.

Internet przez lata działał według dość łatwego do zrozumienia modelu: użytkownik tworzy treść, a platforma ją przechowuje i udostępnia. Oczywiście rzeczywistość dawno stała się bardziej skomplikowana, gdy algorytmy zaczęły aktywnie rekomendować materiały, ale podstawowy podział ról pozostał czytelny. Generatywna AI rozmywa go jeszcze bardziej.Użytkownik może bowiem dostarczyć zwykłe zdjęcie i polecenie. Treść końcową tworzy jednak model należący do firmy. To właśnie na tym rozróżnieniu opiera się jeden z kluczowych argumentów prawników reprezentujących powodów.

Bloomberg wskazuje, że w amerykańskich sporach może pojawić się słynna sekcja 230 Communications Decency Act, która przez dekady chroniła platformy internetowe przed odpowiedzialnością za znaczną część materiałów publikowanych przez ich użytkowników. Powodowie argumentują jednak, że obecna sytuacja jest inna: ich zdaniem xAI nie jest jedynie platformą przechowującą cudzą treść, ponieważ to Grok generuje końcowy obraz. To różnica znacznie większa, niż na pierwszy rzut oka może się wydawać.

Facebook nie pisze za użytkownika oszczerczego posta, a YouTube nie nagrywa za niego filmu. Natomiast generator AI faktycznie syntetyzuje wynik na podstawie otrzymanych danych i instrukcji. To nie przesądza jeszcze, jak sądy rozstrzygną odpowiedzialność xAI. Pokazuje natomiast, dlaczego przepisy stworzone z myślą o Internecie sprzed ery generatywnej AI zaczynają trzeszczeć.

Powodowie sięgają również po Masha's Law, federalne przepisy umożliwiające ofiarom seksualnego wykorzystywania dzieci dochodzenie odszkodowań od osób odpowiedzialnych za wyrządzoną im krzywdę. Problem ponownie polega na tym, że obecne prawo powstawało w świecie, w którym nikt nie zakładał istnienia konsumenckiego systemu zdolnego do syntetyzowania realistycznych zdjęć na żądanie.

Spór wychodzi już zresztą daleko poza konkretne pozwy ofiar. Według Bloomberga 35 prokuratorów generalnych amerykańskich stanów, reprezentujących obie główne partie polityczne, domagało się od xAI większych działań w związku ze szkodami powodowanymi przez tę technologię. Grok spotkał się także z ograniczeniami lub czasowymi blokadami w niektórych krajach.

Jednocześnie xAI walczy z przepisami, które jego zdaniem idą za daleko. Firma pozwała stan Minnesota w związku z ustawą dotyczącą tworzenia przez AI niekonsensualnych „rozbieranych” wizerunków ludzi, argumentując, że prawo w obecnej formie narusza konstytucyjną ochronę wolności słowa.

Powstaje więc dość osobliwy obraz. Firma deklaruje walkę z użytkownikami wykorzystującymi jej produkt do szkodliwych działań i sama kieruje sprawy do sądów, a równolegle podważa część regulacji mających ograniczać możliwość powstawania takich treści. Formalnie te stanowiska nie muszą być ze sobą sprzeczne. Politycznie i wizerunkowo wyglądają jednak jak stąpanie po wyjątkowo cienkiej linie.

Przez lata rozmowa o deepfake'ach obracała się wokół pytania, czy będziemy potrafili odróżnić prawdę od fałszu. Obawialiśmy się fałszywego nagrania polityka wypowiadającego słowa, których nigdy nie powiedział, albo prezesa firmy ogłaszającego decyzję, której nigdy nie podjął. Historie opisywane przez Bloomberga pokazują inną kategorię zagrożenia: treść nie musi nikogo przekonać, żeby wyrządzić krzywdę.

Nawet jeżeli każdy odbiorca wie, że obraz został wygenerowany przez sztuczną inteligencję, osoba wykorzystana do jego stworzenia nadal może stać się przedmiotem nękania, szantażu czy dalszego rozpowszechniania materiału. A raz opublikowanej treści praktycznie nie da się zagwarantowanie usunąć ze wszystkich miejsc, do których trafiła. To dlatego sprawa wykracza daleko poza pytanie o to, czy Grok ma odpowiednio agresywny filtr NSFW. Chodzi o coś bardziej podstawowego: co właściwie oznacza posiadanie zdjęcia w czasach generatywnej AI?

Zdjęcie z zakończenia szkoły, wakacji czy rodzinnego spotkania zawsze mogło zostać skradzione. Teraz może również stać się surowcem dla generatora zdolnego stworzyć coś, czego nigdy nie sfotografowano.

Jest pewna pokusa, by historie tego rodzaju sprowadzać do argumentu: „technologia jest neutralna, winny jest człowiek”. Tyle że generatywna AI komplikuje również tę wygodną odpowiedź. Młotek można wykorzystać do zbudowania stołu albo do wyrządzenia komuś krzywdy, ale młotek nie został wytrenowany na miliardach przykładów i nie syntetyzuje na żądanie nowego obrazu. Model generatywny jest produktem zaprojektowanym, wytrenowanym, ograniczonym określonymi mechanizmami bezpieczeństwa i udostępnionym według konkretnych zasad.

Nie oznacza to automatycznie, że każda firma AI odpowiada za każde przestępstwo popełnione przy użyciu jej technologii. Byłoby to równie prostą odpowiedzią jak twierdzenie, że nie odpowiada nigdy. Właśnie dlatego sprawy przeciwko xAI mogą okazać się tak ważne dla całej branży. Sądy będą musiały zmierzyć się z granicą pomiędzy odpowiedzialnością człowieka używającego narzędzia a odpowiedzialnością firmy, która zbudowała system zdolny do wygenerowania rezultatu.

I nawet jeśli konkretne pozwy zakończą się ugodami albo zostaną oddalone, samo pytanie nie zniknie. Generatory stają się coraz szybsze, tańsze i bardziej realistyczne. Jeszcze niedawno stworzenie przekonującego deepfake'a wymagało odpowiedniego sprzętu, modeli i pewnej wiedzy technicznej. Dziś barierą wejścia może być kilka kliknięć. Dla większości użytkowników oznacza to fantastyczne nowe możliwości kreatywne. Dla niewielkiej części oznacza niestety równie potężne możliwości wyrządzania krzywdy. Problem polega na tym, że technologicznie obie grupy korzystają dokładnie z tego samego wynalazku.