Elon Musk przykręca Groka. Koniec swobodnego rozbierania ludzi
Należące do Elona Muska X i xAI zmieniają zasady działania Groka po fali krytyki i interwencjach organów regulacyjnych. Nowe zabezpieczenia mają ograniczyć deepfejki, ale część funkcji znika tylko dla użytkowników bez subskrypcji.
Po kilku dniach narastającej krytyki i serii międzynarodowych interwencji xAI oraz należąca do Elona Muska platforma X ogłosiły zmiany w działaniu chatbota Grok. Firma deklaruje, że narzędzie nie będzie już umożliwiać edycji zdjęć prawdziwych osób w sposób prowadzący do ich "rozbierania" ani generowania wizerunków w bikini czy bieliźnie. Równolegle niemal wszystkie funkcje generowania obrazów zostały przeniesione za paywall - subskrypcję X Premium.
Grok rozbierał ludzi. X w końcu podjął działania
Decyzja jest odpowiedzią na falę oburzenia po pojawienia się na platformie X trendu, w którym Grok był wykorzystywany do tworzenia niekonsensualnych, seksualizowanych deepfake’ów kobiet, a także treści sugerujących seksualizację nieletnich. Użytkownicy X w komentarzach do różnych fotografii prosili czatbota Grok by ten edytował daną grafikę, usuwając z niej ubrania i zastępując je bielizną lub bikini. Czatbot bez żadnych uprzedzeń ani ostrzeżeń wykonywał polecenia. W przestrzeni internetowej krążyły również obrazy wygenerowane przez Groka przedstawiające znanych polityków - w tym prezydenta Polski i pierwszej damy - w kostiumach kąpielowych, co stało się symbolem problemu z brakiem skutecznych barier po stronie narzędzia.
Sprawa szybko przestała być jedynie problemem wizerunkowym. W Stanach Zjednoczonych śledztwo wszczął prokurator generalny Kalifornii Rob Bonta, a publiczne wezwanie do jego rozpoczęcia wystosował gubernator Gavin Newsom. Według przywoływanych przez urząd analiz ponad połowa z około 20 tysięcy obrazów wygenerowanych przez Groka na przełomie roku miała przedstawiać osoby w minimalnym ubraniu, w tym postacie wyglądające na dzieci.
W Wielkiej Brytanii, po tym jak po internecie zaczęły krążyć deepfejki premiera Keira Sarmera w bikini, sprawą zajął się lokalny regulator Ofcom. Malezja i Indonezja zdecydowały się natomiast na całkowitą blokadę Groka, wskazując wprost na zagrożenia związane z nieograniczonym generowaniem treści o charakterze seksualnym.
xAI zapewnia dziś o "zerowej tolerancji" dla treści naruszających prawo, w tym pornografii dziecięcej oraz niekonsensualnej nagości. Wobec czego X poinformował o założeniu blokady edytowania zdjęć prawdziwych osób w "odsłaniających strojach" dla wszystkich użytkowników - także płacących - oraz geoblokadę takich funkcji w krajach, gdzie są one nielegalne. Jednocześnie generowanie i edycja obrazów na X mają być dostępne wyłącznie dla subskrybentów, co - jak tłumaczy firma - ma zwiększyć rozliczalność osób nadużywających narzędzia.
Elon Musk widzi we wszystkim cenzurę
Sam Elon Musk początkowo bagatelizował zarzuty, twierdząc, że nie ma wiedzy o generowaniu nagich wizerunków nieletnich i sugerując, że krytyka i działania regulacyjne to próba "ograniczenia wolności słowa" i służy jedynie jako "wymówka" by nałożyć cenzurę. Dopiero po uruchomieniu dochodzeń i realnym ryzyku sankcji prawnych firma zdecydowała się na ostrzejsze ograniczenia.
Dlatego trudno oprzeć się wrażeniu, że te działania są spóźnione i połowiczne. Jakiekolwiek działania ze strony należących do Elona Muska podmiotów się dopiero wtedy, gdy w grę wchodzą konsekwencje ze strony władz Kalifornii i innych organów, a nie jako efekt wewnętrznej odpowiedzialności za projektowanie narzędzi AI. Co więcej, kluczowy problem możliwości przerabiania wizerunku prawdziwych osób nie znika całkowicie - zostaje jedynie przeniesiony za paywall.
Wobec obecnej sytuacji, a także po ubiegłorocznych ekscesach "MechaHitlera" i serii wyzwisk w stronę polskich polityków dziwi mnie już tylko jedno: dlaczego Grok wciąż nie został zablokowany w Polsce?
Może zainteresować cię także:
