Deepfake

Telefony od rodziny i znajomych z prośbą o pieniądze mogą być próbą oszustwa. Generatory głosu naśladujące prawdziwych ludzi to już nie potencjalny, tylko realny problem, a będzie tylko gorzej. Tyle dobrego, że polski język jest dla sztucznej inteligencji trudniejszy niż angielski, ale i tak powinniśmy mieć się na baczności.

Najpotężniejsze siły zbrojne na świecie, planują wykorzystanie technologii deepfake. Chodzi o sianie dezinformacji i zamętu w szeregach wroga i wrogich społeczeństwach. Jednakże, pomimo potencjalnych korzyści, ta kontrowersyjna technologia budzi obawy związane z etycznymi implikacjami.

Jak wykryć deep fake? Zdaniem Intela odpowiedzią nie są jedynie surowe dane, ale to, co czyni nas ludźmi i odróżnia od robotów: krew. Firma opracowała właśnie pierwszy na świecie detektor deep fake’ów działający w czasie rzeczywistym, który analizie poddaje przepływ krwi pod skórą twarzy. FakeCatcher wykazał się w testach niezwykle wysoką skutecznością, a Intel ma nadzieję wdrożyć rozwiązanie w praktyce, bo na materiały deep fake nabieramy się jak dzieci.

Czasami żałujemy, że technologia nie oferuje nam tego, co zapowiadały filmy czy książki science-fiction sprzed lat. Są jednak rzeczy, które wprawiają w osłupienie i sprawiają, że stwierdzenie „żyjemy w dziwnych czasach” samo ciśnie się na usta. Tak jest teraz: w podkaście rozmawiają ze sobą Joe Rogan i Steve Jobs. Mimo że ten drugi od dawna nie żyje.

To Neo? To John Wick? Nie, to… wygenerowany komputerowo deepfake. Jeżeli jesteś zaskoczony łudzącym podobieństwem modelu, nie jesteś sam – deepfake podbił TikToka osiągając ponad 300 milionów wyświetleń. Tylko skąd wiemy, że to deepfake? Sztuczną inteligencję zdradza jeden, mały szczegół.

Choć deepfake’i mają bogatą historię oszukiwania ludzkich oczu i uszu, to zdaniem naukowców podświadomie jesteśmy w stanie odróżnić prawdziwe zdjęcie od wytworu sztucznej inteligencji. Nowego światła na sprawę rzuca popularna metoda obrazowania EEG, która według uczonych może zostać wykorzystana do walki z oszustami.

W filmie Top Gun: Maverick cameo zaliczył Val Kilmer. Dzięki technologii Deep Fake bohater przemówił, chociaż aktor w 2014 r. stracił głos.

Podrobienie konferencji z Witalijem Kliczką czy sfabrykowanie pornografii to wierzchołek góry lodowej w wykorzystaniu deep fake’ów. FBI ostrzega rekruterów branży IT przed rekrutowaniem fałszywych kandydatów, których celem jest jedynie wykradnięcie danych firmy.

Nowa aplikacja pokazuje, że każdy może dziś brzmieć jak słynny aktor i nie trzeba do tego specjalistycznej wiedzy czy umiejętności. Voicemod AI Voices wzbudza mieszane uczucia.

Spotify wybrał się na zakupy. Jego najnowszy nabytek to firma Sonantic, dzięki której bohater grany przez Vala Kilmera, czyli Tom „Iceman” Kazansky, mógł przemówić w filmie Top Gun: Maverick. Nie zdziwię się, jeśli na platformie, która nadal kojarzy się głównie z muzyką, pojawią się teraz podcasty i audiobooki generowane z użyciem technologii Deep Fake.

Wyglądają jak zwykli ludzie, ale tak naprawdę nie istnieją. Wystarczy dosłownie kilka kliknięć, aby stworzyć przekonujące zdjęcie. Patrzysz na awatar, widzisz poważną twarz, a tak naprawdę to wykreowany przez sztuczną inteligencję portret, za którym kryje się propagandowy bot.

Rosjanie w akcie desperacji mogą sięgnąć po deepfake’i. Centrum Strategicznych Komunikacji i Bezpieczeństwa Informacyjnego ostrzega, by nie dawać wiary filmom, w których prezydent Wołodymyr Zełenski ogłasza kapitulację. Ukraina nie ma zamiary składać broni.

Deepfake to technologia wykorzystywana do preparowania twarzy, ale sztuczna inteligencja może także podrobić czyjś głos. Nowocześni rabusie zrobili z tego użytek i podszyli się pod szefa dużej firmy, wyłudzając w ten sposób olbrzymie pieniądze z banku.

Młody Luke Skywalker został cyfrowo odtworzony w nowym serialu Disneya, ale wyglądał nieco sztucznie. Fan serii zrobił deepfake’a, którego obejrzały miliony widzów. Teraz zdolny grafik dostał pracę w Lucasfilm.

To musiało się wydarzyć. W dobie wideokonferencji i rosnącej powszechności deepfake’ów mogliśmy tylko czekać, aż oszukańcza technologia zostanie wykorzystana na szczeblu państwowym. Politycy czterech krajów zostali oszukani przez Rosjan.

Czy w twoich mediach społecznościowych też widzisz coraz więcej śpiewających celebrytów? To efekt Wombo.ai, aplikacji do tworzenia deepfake’ów, która właśnie ma swoje pięć minut.

Statyczne portrety animowane w taki sposób, że wyglądają jak nagrania wideo z głosem to już nie melodia przyszłości, a teraźniejszość. Swoją cegiełkę do tego popularnego trendu dokłada nowa aplikacja Tokkingheads.

Generatory sztucznych twarzy można wykorzystać na wiele sposobów, a stworzenie fikcyjnej postaci staje się łatwiejsze niż kiedykolwiek. Powstał algorytm, który zmienia nasz szkic w deep fake wyglądający niczym żywa osoba.

Google idzie tropem Apple’a i zmienia zasady gry. Aplikacje dodawane do sklepu Play będą musiały spełniać nieco bardziej wyśrubowane normy.

Facebook zauważył problem tzw. deepfake’ów. To dobra wiadomość, bo największy serwis społecznościowy, a także należący do niego Instagram, idealnie nadają się do rozprzestrzeniania tego typu dezinformacji.