Rosyjskie trolle wkręciły europejskich polityków. Myśleli, że rozmawiają z prawdziwym człowiekiem
To musiało się wydarzyć. W dobie wideokonferencji i rosnącej powszechności deepfake’ów mogliśmy tylko czekać, aż oszukańcza technologia zostanie wykorzystana na szczeblu państwowym. Politycy czterech krajów zostali oszukani przez Rosjan.
Technologia deepfake - w telegraficznym skrócie - to technologia umożliwiająca zmianę tożsamości na wideo. Przy użyciu uczenia głębokiego sztuczna inteligencja jest w stanie wygenerować bądź imitować ludzką twarz, a nawet odtwarzać ludzkie zachowanie. Jeśli kojarzycie popularne niedawno wideo z tańczącym Tomem Cruise’em, widzieliście ją w akcji: już dziś deepfake może być tak wiarygodny, iż nie sposób odróżnić prawdziwego człowieka od jego cyfrowej „podróbki”.
Na taką podróbkę dali się nabrać politycy Holandii, Wielkiej Brytanii, Litwy, Łotwy i Estonii. Mieli oni odbyć wideokonferencję z Leonidem Wołkowem, szefem sztabu Aleksieja Nawalnego, rosyjskiego opozycjonisty, który aktualnie przebywa w kolonii karnej, co spotkało się z szerokim sprzeciwem demokratycznych państw.
Deepfake Leonida Wołkowa - jak politycy dali się nabrać?
O całej sprawie poinformował opinię publiczną holenderski dziennik De Volkstrand. Ofiarą oszustwa padł m.in. Rihard Kols z litewskiego ministerstwa spraw zagranicznych, który skomentował całą sprawę na Twitterze.
Podobnie jak inni politycy, Kols otrzymał mailową wiadomość pochodzącą rzekomo od Wołkowa, w której szef sztabu zapraszał do dyskusji na temat aneksji Krymu i wyrażenia wsparcia dla politycznych więźniów w Rosji. Rozmowy odbyły się w środę i nie wzbudziły niepokoju wśród uczestników
Udostępnione przez Kolsa zrzuty ekranu pokazują, że rozmówca istotnie był nie do rozróżnienia od „oryginału” - zwłaszcza że jakość transmisji była dość niska, a pikselizacja obrazu skutecznie zasłaniała typowe dla deepfake’ów artefakty obrazu.
Do sprawy odniósł się sam Leonid Wołkow, wskazując potencjalnych winnych całej sytuacji - duet rosyjskich trolli działających pod pseudonimami Lexus i Vovan. Jak donosi The Guardian, zapytany na Facebooku Lexus nie zaprzeczył, iż brał udział w rozmowie z Kolsem, ale oczywiście konkretnych informacji zabrakło.
W oficjalnym oświadczeniu parlamentów Estonii, Litwy i Łotwy politycy nazywają zaistniałą sytuację „prowokacją”, wykonaną w celu szerzenia dezinformacji i zdyskredytowania rosyjskiej opozycji, a także wsparcia udzielanego jej przez polityków krajów nadbałtyckich.
Oświadczenie kończy się przestrogą, aby w komunikacji pozostawać otwartym, acz czujnym, gdyż nowoczesne technologie mogą być wykorzystywane przez cyberprzestępców.
Deepfake będzie plagą naszych czasów.
Zważywszy na to, jak powszechna jest dziś komunikacja wideo i jak dużo treści konsumujemy oglądając nagrania, deepfake ma potencjał, by stać się nowym „fake newsem”, a może nawet czymś znacznie gorszym.
Już dziś ta technologia jest tak zaawansowana i jednocześnie tak przystępna, że nie trzeba nawet szczególnych umiejętności, by podszyć się pod inną osobę w sieci. Wystarczy odrobina wprawy w programach takich jak Adobe After Effects, albo… aplikacja na smartfona, którą pobrać może absolutnie każdy.
Do niedawna deepfake używany był raczej w kontekście śmiesznych filmików i demonstracji możliwości technologicznych, ale dziś widzimy już, że jego zastosowanie może być znacznie szersze i znacznie bardziej złowieszcze. Skoro na fałszywe nagranie już dziś nabierają się politycy wysokiego szczebla, co będzie za 5-10 lat, gdy technologia ta stanie się jeszcze bliższa doskonałości?
Potrzebne są ścisłe regulacje i możliwość błyskawicznego odróżniania fake’ów od prawdziwych nagrań. Pierwsze kroki w tym kierunku już zostały podjęte: w Stanach Zjednoczonych kongres przygotowuje DEEPFAKES Accountability Act, który przewiduje odpowiedzialność karną za stosowanie deepfake’ów. Z kolei Adobe opracowuje metody, które pozwolą identyfikować fałszywe nagrania i dodawać stosowną adnotację po ich publikacji, np. w social mediach.
Problem jednak jest dużo głębszy i ani technologia, ani legislatura nie rozwiążą go same. Na przestrzeni ostatnich lat platformy społecznościowe wręcz karmiły nas dezinformacją, umożliwiając (a czasem wręcz promując) rozprzestrzenianie fałszywych/nieścisłych wiadomości. Jesteśmy jako internauci nie tyle podatni na fałszywki, co zwyczajnie nie przywiązujemy już wagi do prawdziwości informacji - np. podając dalej posty, których nawet nie przeczytaliśmy i filmy, których nie obejrzeliśmy. Formułujemy opinie w oparciu o nagłówki i nie poddajemy w wątpliwość tez stawianych przez znajomych.
Jeśli przyrównamy deepfake do wirusa, to nasza internetowa społeczność jest najlepszym środowiskiem rozwoju, jakie tylko ów wirus mógł sobie wymarzyć.
