Aplikacja ZAO pozwala wkleić swoją twarz w miejsce postaci z filmów. Rozprzestrzenia się viralowo

Po raz pierwszy pojawiła się w sklepie z aplikacjami tydzień temu, a już teraz jest najczęściej ściąganą aplikacją w chińskim AppStorze.

W ZAO można wygenerować 10-sekundowe filmy lub GIF-y z naszą twarzą podmienioną w miejsce twarzy celebryty. To proste i szybkie jak nałożenie na zdjęcie zabawnego filtra na Instagramie. Niestety mniej bezpieczne.

Klipy stworzone przez aplikacje płyną prosto do chmury, z której użytkownik nie może ich w żaden sposób usunąć. Z drugiej strony każdy, dysponujący odpowiednim linkiem, może je bez problemu obejrzeć. A to tylko ten mniejszy z problemów z aplikacją.

Wzbudziła ona poważne zastrzeżenia w związku ze zgodami, jakich wymagała od użytkowników. Korzystanie z niej wiązało się z przekazaniem nie tylko jej twórcom całości praw do każdego obrazka stworzonego w aplikacji, ale też każdej firmie trzeciej, która by się z nimi dogadała. W końcu, po licznych protestach użytkowników, twórcy wycofali się z tego zapisu.

WeChat zakazał użytkownikom wgrywania filmów z ZAO na platformę, twierdząc, że są one zagrożeniem dla bezpieczeństwa.

Tworzenie deep fake'ów dobrej jakości z czasem będzie coraz łatwiejsze. Zabawne filmiki i gify, które można dzięki nim stworzyć, nie są dostateczną przeciwwagą dla zagrożeń, które niesie z sobą rozwój tej technologii.

O deep fake'ach głośno zrobiło się, gdy gwiazdy Hollywood zauważyły, że w sieci pojawia się coraz więcej filmów pornograficznych, w których jakoby miały występować. Ich nazwiska, twarze i sława zostały zagarnięte przez twórców takich materiałów i wykorzystane do zarabiania na cudzym wizerunku. Podobnego wykorzystania czyjegoś zdjęcia mogą się obawiać nie tylko celebryci, co pośrednio udowodniła aplikacja Deep Nude.

Jeśli czyjąkolwiek twarz można będzie wiarygodnie wstawić w dowolny film, będzie się to wiązało z nowymi zagrożeniami. Ośmieszenie kogoś i pokazanie go w kompromitującej sytuacji nie będzie wymagało przyłapania go na gorącym uczynku. Wystarczy do tego aplikacja, zdjęcie ofiary i film, na którym można go wykorzystać.Istniejący już problem revenge porn stanie się jeszcze bardziej kłopotliwy i palący. Jeszcze poważniejszym problemem będzie deep fake polityczny. Jego potencjał w szerzeniu dezinformacji wśród społeczeństwa i opinii publicznej będzie ogromny, gdy na wyciągnięcie ręki otrzymamy program umożliwiający włożenie w usta polityka dowolnej bzdury.

Trzeba się na to przygotować.