Na fotce Trump zdradzał żonę z jakimś mężczyzną. Twórca tych grafik złapał bana na narzędzie AI
Jak długo kompromitujące prezydenta Stanów Zjednoczonych deepfake'i mogą przeleżeć na serwerach Midjourney? Jak pokazuje przykład pewnego satyryka, parę miesięcy, o ile nie lat - i prawdopodobnie pozostałyby niezauważone gdyby ich twórca nie pochwalił się nimi w mediach społecznościowych.
Pamiętasz papieża Franciszka w kurtce Balenciagi? Czy fałszywe zdjęcia płonącego Pentagonu? W sumie nawet nie trzeba ich pamiętać, bowiem patrząc na różne twory Midjourney, model ma przerażająco dobry potencjał na tworzenie szeroko pojętych deepfake. Wiedzą o tym także sami twórcy modelu, którzy - jak pokazuje historia pewnego artysty - nie zawahają się zbanować użytkowników, którzy nadużywają tego potencjału. Pod warunkiem, że dany twórca się ujawni.
Niepokojąco dobre deepfake amerykańskich polityków tuż pod nosem Midjourney. Firma reaguje dopiero po kilku miesiącach
Justin T. Brown to twórca satyrycznego kanału na YouTube, w którym tworzy prześmiewcze treści prezentujące najważniejszych amerykańskich polityków i nie tylko. Bowiem na jego kanale goszczą również treści satyryczne z udziałem Elona Muska, Marka Zuckerberga czy króla Karola.
Brown posiadał także wykupioną subskrypcję modelu generatywnej sztucznej inteligencji Midjourney, którą wykorzystał do wygenerowania serii zdjęć o wspólnej nazwie "Sztuczna inteligencja zrewolucjonizuje branżę szantażu". Spreparowane fotografie przedstawiają amerykańskich polityków w kompromitujących sytuacjach - w pokojach hotelowych, przyłapanych na zdradach. Przedstawieni na nich politycy to głównie działacze ubiegający się o fotel prezydencki w następnych wyborach.
Jak powiedział Brown w zeszłotygodniowej wypowiedzi dla serwisu PetaPixel, wybór amerykańskich polityków był nieprzypadkowy, gdyż zagrożenia płynące z zastosowania AI można pokazać najlepiej na "potężnych ludziach z Waszyngtonu".
- Stworzyłem tę serię w celu wciągnięcia niektórych z najbardziej wpływowych osób w Ameryce do rozmowy na temat zagrożeń związanych ze sztuczną inteligencją i dotarcia do jak największej liczby odbiorców
- wyjaśnił James T. Brown.
Choć spreparowane fotografie zostały wygenerowane parę miesięcy temu, Brown dopiero w maju zdecydował się na ich publikację w serwisie Reddit, na forum dedykowanemu Midjourney.
Deepfake'i mogłyby przeleżeć niezauważone przez lata
Warto jednak zaznaczyć jak działa generowanie treści przez Midjourney. Aby wygenerować grafikę za pomocą modelu, należy zalogować się na stronie poprzez konto Discord i dołączyć do serwera Midjourney na owej platformie. Po dołączeniu i wykupieniu subskrypcji użytkownicy mają dwie możliwości generowania treści: poprzez przestrzeń wspólną na serwerze Discord oraz w wiadomościach prywatnych, dzięki funkcjom botów na Discordzie. Lecz nawet w tym przypadku nie tworzy się całkowicie anonimowo, gdyż ilustracje zrobione w Midjourney trafiają na serwery firmy odpowiedzialnej za model i tak użytkownik, jak i twórcy modelu mogą w każdej chwili uzyskać do nich dostęp.
Dwa dni po publikacji w serwisie Reddit otrzymał on bana od Midjourney.
- Po zdobyciu pewnej popularności na Reddicie, seria została usunięta przez moderatorów [forum Midjourney], a ban na Midjourney nastąpił niemal natychmiast. Nie otrzymałem bezpośredniego powodu bana od Midjourney, a jedynie wiadomość, że zostałem zablokowany, ale czas publikacji na Redditcie i blokady są bezpośrednio powiązane
- kontynuował Brown.
Jak mówi artysta, nigdy nie twierdził on, że prezentowane przez niego fotografie są prawdziwe i zaznaczał, że są tworami generatywnej AI. Jednocześnie zauważył, że są one na tyle realistyczne, iż "nie zdziwiłby się gdyby ktoś pomyślał, że [fotografie] są prawdziwe".
- Aczkolwiek do pewnego stopnia jest to część projektu. Ten rodzaj dezinformacji będzie nadal miał miejsce, następnym razem przez złych ludzi o złych intencjach, więc zacznijmy interesować się tym problemem.
Zdjęcie główne: DIA TV / Shutterstock
