Deepfake

Minister cyfryzacji Krzysztof Gawkowski zaprezentował nowe podejście do walki z dezinformacją w Polsce, która ma nas obronić przed fałszywymi informacjami. W czasach wszechobecnego internetu i fake newsów może być to niezwykle trudne zadanie.

Oszustwa na prokuratora, pracownika banku czy na policjanta już nie są faworytem oszustów. Za sprawą deepfejków na popularności zbiera kolejny typ oszustwa. Skala wykorzystania scenariusza jest na tyle duża, że zainteresowało się nim nawet FBI.

„Jesteś jednym z nielicznych wybrańców, którzy otrzymają szansę zmienienia swojego życia” – mówi fałszywy szef inPostu. Deepfake z udziałem Rafała Brzoski miał być wiarygodny, ale potem coś się popsuło. I było słychać, ale po rosyjsku.

YouTube wprowadził narzędzie dla twórców filmów, które da oglądającemu pewność, że wideo nie jest prawdziwe. Treści wygenerowane przez sztuczną inteligencją będą oznaczane specjalną plakietką już w nadchodzących tygodniach.

Marilyn Monroe wraca do żywych - dosłownie i w przenośni. Firma, która odpowiada za stworzenie "hiperrealistycznego" deepfejka obiecuje niezapomniane doświadczenia dla fanów gwiazdy Hollywood.

Nad polityką nie wisi już widmo - to jest po prostu fakt, że sztuczna inteligencja wpływa na życie publiczne, a przede wszystkim na wybory. I nie chodzi o jedynie wulgarne TikToki prezentujące deepfejki, a o szersze spektrum zastosowań, które nagina rzeczywistość.

Jednym z problemów, który napotykają twórcy wieloczęściowych sag filmów i gier jest fakt, iż aktorzy mogą okazać się niedysponowani i nie dokończyć swojej roli. Nowo podpisane porozumienie pomiędzy związkiem zawodowym zrzeszającym pracowników i twórców w branży filmowej a firmą tworzącą AI repliki ludzkiego głosu ma zapewnić nieśmiertelność aktorów.

Deepfejki zadomowiły się w Polsce. Kolejne znane osobistości występują na filmikach i zachęcają do inwestowania bądź też kupowania produktów – często tych medycznych. Sęk w tym, że tak naprawdę to nie oni, a ich wizerunki i głosy zostały skradzione. Ofiara jednak myśli, że telewizyjna gwiazda swoim autorytetem uwiarygadnia przedsięwzięcie.

Kubuś Puchatek śpiewający Gangnam Style czy Nirvana powracająca na scenę po trzydziestu latach wkrótce mogą pożegnać się z YouTube'em. Wszystko za sprawą nowej polityki, która pozwoli na zgłaszanie roszczeń wobec nieautoryzowanego użycia AI. Filmiki, które nie zostaną usunięte z serwisu, będą witać widzów specjalnymi oznaczeniami.

Elżbieta Jaworowicz, prowadząca program „Sprawa dla reportera”, to prawdziwa legenda Telewizji Publicznej. Pewnie dlatego jej autorytet próbują wykorzystać oszuści. Przy pomocy sztucznej inteligencji podrobili wizerunek i głos słynnej redaktorki.

Przed deepfake’ami ostrzegano od dłuższego czasu, ale technologia stała się już na tyle łatwo dostępna, że przestępcy wykorzystują ją też w Polsce. Na Twitterze zauważono, jak wygenerowany przez sztuczną inteligencję Aleksander Kwaśniewski zachęca do inwestycji.

Deepfejki prowadzą nie tylko do wiary w nieprawdziwe słowa i wydarzenia, ale także podważają autentyczność faktycznych zdarzeń. Stojąc w obliczu takich wyzwań Leica stworzyła aparat z ciekawym systemem. Szyfrowane certyfikaty pozwolą prześledzić historię zdjęć i udowodnić ich autentyczność.

Deepfejki już same w sobie stanowią ogromny problem dla szeroko pojętych mediów. Jednak sytuacji nie pomaga fakt, że same platformy kiepsko radzą sobie w odsiewaniu nieautoryzowanych treści. Jak mówi MrBeast, "to jest poważny problem" gdyż TikTok dopuścił do publikacji kampanii reklamowej, w której deepfejk youtubera promuje oszustwo.

Chris Pratt jako Indiana Jones i Will Smith jako Neo. Brzmi jak fantazja i internetowa przeróbka - i tak jest. Mimo to naukowcom udało się przekonać uczestników eksperymentu, że takie produkcje powstały naprawdę. Badanych przekonały nie tylko spreparowane nagrania wideo, ale i tekstowe opisy. Uczeni wyjaśniają, co to oznacza dla dalszych badań nad wpływem deepfake na społeczeństwo.

Hollywood już teraz zarzuca się, że przedstawia nieprawdziwy, oderwany od rzeczywistości obraz świata. Jak się okazuje, najwięksi producenci filmowi i serwisy streamingowe również są od niej oderwane, proponując aktorom przełomową umowę dotyczącą sztucznej inteligencji. Aktorzy będą pracować jeden dzień, w trakcie którego będą oddawać swój wizerunek wytwórniom, a te będą z niego korzystać bez ograniczeń, bez kosztów i bez potrzeby konsultacji.

Czy uwierzylibyście, gdyby znana twarz zaczęła reklamować oszustwa? Albo co najmniej hazard? Tak? W sumie nie dziwię się. Acz w obliczu rozwijania się sztucznej inteligencji, problem tylko narasta.

Jak długo kompromitujące prezydenta Stanów Zjednoczonych deepfake'i mogą przeleżeć na serwerach Midjourney? Jak pokazuje przykład pewnego satyryka, parę miesięcy, o ile nie lat - i prawdopodobnie pozostałyby niezauważone gdyby ich twórca nie pochwalił się nimi w mediach społecznościowych. Pamiętasz papieża Franciszka w kurtce Balenciagi? Czy fałszywe zdjęcia płonącego Pentagonu? W sumie nawet nie trzeba ich...

Już nie SMS-y o niedopłatach za prąd czy dziwne oferty składane przez OLX, a generowane przez sztuczną inteligencję deepfake w rozmowach ze znajomymi będą przyszłością oszustw internetowych. Udana próba wyłudzenia pieniędzy odbiła się szerokim echem w Chinach i pokazała, że ciężko zaufać nawet znajomej twarzy.

Sprawa jest wyjątkowo bulwersująca, bo mówimy o człowieku, który żyje, ale z powodów zdrowotnych nie jest w stanie komunikować się ze światem. Tymczasem tabloid jak gdyby nic publikuje z nim wywiad, fabrykując odpowiedzi. To jeszcze jeden dowód na to, jak sztuczna inteligencja będzie w stanie dodatkowo namieszać w trwającej erze postprawdy.

Telefony od rodziny i znajomych z prośbą o pieniądze mogą być próbą oszustwa. Generatory głosu naśladujące prawdziwych ludzi to już nie potencjalny, tylko realny problem, a będzie tylko gorzej. Tyle dobrego, że polski język jest dla sztucznej inteligencji trudniejszy niż angielski, ale i tak powinniśmy mieć się na baczności.