Bezpieczeństwo  /  Artykuł

Rosyjskie trolle wkręciły europejskich polityków. Myśleli, że rozmawiają z prawdziwym człowiekiem

Picture of the author

To musiało się wydarzyć. W dobie wideokonferencji i rosnącej powszechności deepfake’ów mogliśmy tylko czekać, aż oszukańcza technologia zostanie wykorzystana na szczeblu państwowym. Politycy czterech krajów zostali oszukani przez Rosjan.

Technologia deepfake - w telegraficznym skrócie - to technologia umożliwiająca zmianę tożsamości na wideo. Przy użyciu uczenia głębokiego sztuczna inteligencja jest w stanie wygenerować bądź imitować ludzką twarz, a nawet odtwarzać ludzkie zachowanie. Jeśli kojarzycie popularne niedawno wideo z tańczącym Tomem Cruise’em, widzieliście ją w akcji: już dziś deepfake może być tak wiarygodny, iż nie sposób odróżnić prawdziwego człowieka od jego cyfrowej „podróbki”.

Na taką podróbkę dali się nabrać politycy Holandii, Wielkiej Brytanii, Litwy, Łotwy i Estonii. Mieli oni odbyć wideokonferencję z Leonidem Wołkowem, szefem sztabu Aleksieja Nawalnego, rosyjskiego opozycjonisty, który aktualnie przebywa w kolonii karnej, co spotkało się z szerokim sprzeciwem demokratycznych państw.

Deepfake Leonida Wołkowa - jak politycy dali się nabrać?

O całej sprawie poinformował opinię publiczną holenderski dziennik De Volkstrand. Ofiarą oszustwa padł m.in. Rihard Kols z litewskiego ministerstwa spraw zagranicznych, który skomentował całą sprawę na Twitterze.

Podobnie jak inni politycy, Kols otrzymał mailową wiadomość pochodzącą rzekomo od Wołkowa, w której szef sztabu zapraszał do dyskusji na temat aneksji Krymu i wyrażenia wsparcia dla politycznych więźniów w Rosji. Rozmowy odbyły się w środę i nie wzbudziły niepokoju wśród uczestników

Udostępnione przez Kolsa zrzuty ekranu pokazują, że rozmówca istotnie był nie do rozróżnienia od „oryginału” - zwłaszcza że jakość transmisji była dość niska, a pikselizacja obrazu skutecznie zasłaniała typowe dla deepfake’ów artefakty obrazu.

Do sprawy odniósł się sam Leonid Wołkow, wskazując potencjalnych winnych całej sytuacji - duet rosyjskich trolli działających pod pseudonimami Lexus i Vovan. Jak donosi The Guardian, zapytany na Facebooku Lexus nie zaprzeczył, iż brał udział w rozmowie z Kolsem, ale oczywiście konkretnych informacji zabrakło.

W oficjalnym oświadczeniu parlamentów Estonii, Litwy i Łotwy politycy nazywają zaistniałą sytuację „prowokacją”, wykonaną w celu szerzenia dezinformacji i zdyskredytowania rosyjskiej opozycji, a także wsparcia udzielanego jej przez polityków krajów nadbałtyckich.

Oświadczenie kończy się przestrogą, aby w komunikacji pozostawać otwartym, acz czujnym, gdyż nowoczesne technologie mogą być wykorzystywane przez cyberprzestępców.

Deepfake będzie plagą naszych czasów.

Zważywszy na to, jak powszechna jest dziś komunikacja wideo i jak dużo treści konsumujemy oglądając nagrania, deepfake ma potencjał, by stać się nowym „fake newsem”, a może nawet czymś znacznie gorszym.

Już dziś ta technologia jest tak zaawansowana i jednocześnie tak przystępna, że nie trzeba nawet szczególnych umiejętności, by podszyć się pod inną osobę w sieci. Wystarczy odrobina wprawy w programach takich jak Adobe After Effects, albo… aplikacja na smartfona, którą pobrać może absolutnie każdy.

Do niedawna deepfake używany był raczej w kontekście śmiesznych filmików i demonstracji możliwości technologicznych, ale dziś widzimy już, że jego zastosowanie może być znacznie szersze i znacznie bardziej złowieszcze. Skoro na fałszywe nagranie już dziś nabierają się politycy wysokiego szczebla, co będzie za 5-10 lat, gdy technologia ta stanie się jeszcze bliższa doskonałości?

Potrzebne są ścisłe regulacje i możliwość błyskawicznego odróżniania fake’ów od prawdziwych nagrań. Pierwsze kroki w tym kierunku już zostały podjęte: w Stanach Zjednoczonych kongres przygotowuje DEEPFAKES Accountability Act, który przewiduje odpowiedzialność karną za stosowanie deepfake’ów. Z kolei Adobe opracowuje metody, które pozwolą identyfikować fałszywe nagrania i dodawać stosowną adnotację po ich publikacji, np. w social mediach.

Problem jednak jest dużo głębszy i ani technologia, ani legislatura nie rozwiążą go same. Na przestrzeni ostatnich lat platformy społecznościowe wręcz karmiły nas dezinformacją, umożliwiając (a czasem wręcz promując) rozprzestrzenianie fałszywych/nieścisłych wiadomości. Jesteśmy jako internauci nie tyle podatni na fałszywki, co zwyczajnie nie przywiązujemy już wagi do prawdziwości informacji - np. podając dalej posty, których nawet nie przeczytaliśmy i filmy, których nie obejrzeliśmy. Formułujemy opinie w oparciu o nagłówki i nie poddajemy w wątpliwość tez stawianych przez znajomych.

Jeśli przyrównamy deepfake do wirusa, to nasza internetowa społeczność jest najlepszym środowiskiem rozwoju, jakie tylko ów wirus mógł sobie wymarzyć.

przeczytaj następny tekst


przeczytaj następny tekst


przeczytaj następny tekst


przeczytaj następny tekst


przeczytaj następny tekst