Apple grozi Elonowi Muskowi. "X na wylocie z App Store"
Apple wyciąga najcięższe działa: groźbę wyrzucenia aplikacji Grok i X z App Store. Powód? Seksualizowane deepfake’i, w tym obrazy kobiet i nieletnich, generowane na życzenie użytkowników.
Grok to chatbot rozwijany przez xAI - firmę Elona Muska - mocno zintegrowany z X-em (dawniej Twitterem). Jedną z jego funkcji jest generowanie i przerabianie obrazów. I właśnie ta funkcja stała się w styczniu epicentrum afery. Grok bez większego oporu „rozbiera” ludzi na zdjęciach: przerabia zwykłe fotografie na seksualizowane, w tym w kontekście przemocy, upokorzenia, a nawet śmierci. W wielu przypadkach chodziło o osoby, które nigdy nie wyraziły zgody na takie wykorzystanie swojego wizerunku - w tym kobiety i dzieci.
Grok potrafił generować tysiące takich obrazów na godzinę, zalewając X-a falą nielegalnych i skrajnie nieetycznych treści, co w praktyce umożliwia cyfrową przemoc na skalę, jakiej wcześniej nie było. Trzech senatorów z ramienia Demokratów - Ron Wyden, Ed Markey i Ben Ray Luján - napisało wówczas otwarty list do szefów Apple’a i Google’a, wprost wzywając ich do wyrzucenia X i Groka z App Store i Sklepu Google Play, dopóki problem nie zostanie rozwiązany. W liście padło zdanie, które dobrze streszcza ich stanowisko: „Przymykanie oka na rażące zachowanie X uczyniłoby z waszych zasad moderacji kpinę”.
Apple wtedy nie zrobił nic. Przynajmniej tak się wydawało.
Czytaj też:
Za kulisami wojna. Apple bezpośrednio odezwał się do władz X-a
Dopiero teraz, dzięki ujawnionemu przez NBC News listowi Apple’a do tych samych senatorów, wiemy, co działo się za kulisami. Firma z Cupertino przyznała, że uznała zarówno X, jak i Groka za aplikacje naruszające zasady App Store, skontaktowała się z zespołami odpowiedzialnymi za obie aplikacje, zażądała planu poprawy moderacji treści i wprost zagroziła usunięciem aplikacji z App Store, jeśli zmiany nie będą wystarczające.
X i xAI przesłały do Apple aktualizację Groka, ale ta została odrzucona - Apple uznał, że „zmiany nie zaszły wystarczająco daleko”. Dopiero kolejna runda poprawek sprawiła, że X został uznany za „w dużej mierze zgodny”, a Grok - po dalszych modyfikacjach - ostatecznie dostał zielone światło. Tymczasowo.
Niestety firma Muska nie podołała zadaniu i po chwili spokoju Grok xnów potrafi generować seksualizowane obrazy prawdziwych osób bez ich zgody. Różnica polega na tym, że wolumen takich obrazów znacząco spadł w porównaniu ze styczniem, ale wciąż istnieje grupa użytkowników, która potrafi obchodzić ograniczenia. A Apple wraca do swojej „groźby”.
Na dziś X i Grok są nadal dostępne w App Store, zarówno w amerykańskiej, jak i polskiej wersji tego sklepu. Apple nie komentuje sprawy dla amerykańskich mediów, nie prosiliśmy więc sami o komentarz. Tym niemniej X - cokolwiek by o nim nie myśleć - jest jedną z najważniejszych i najpopularniejszych mediów społecznościowych na świecie. Jeżeli Apple faktycznie spełni swoje groźby i usunie X-a z iPhone’ów i iPadów oznaczałoby to znaczące osłabienie znaczenia tej platformy. Mając na uwadze dominujące tam treści… może to i lepiej?
