Facebook ruszył na wojnę z deepfake'ami. Ogłoszono, co będzie ukrywane i odpowiednio oznaczane
Facebook zauważył problem tzw. deepfake'ów. To dobra wiadomość, bo największy serwis społecznościowy, a także należący do niego Instagram, idealnie nadają się do rozprzestrzeniania tego typu dezinformacji.
Dezinformacja ma niejedno imię. Od kilku lat karierę robi określenie fake news, które w bardzo szerokim ujęciu oznacza fałszywe informacje produkowane z premedytacją, by wprowadzić czytelnika lub widza w błąd. Fake newsy są stare jak świat. Od zawsze istniały jednostki i grupy ludzi, które osiągały różnorodne cele za pomocą dezinformacji.
W dobie serwisów społecznościowych zagrożenie stało się jednak groźniejsze, bo wiadomości rozprzestrzeniają się już nie tylko za pośrednictwem mediów tradycyjnych - prasy, telewizji itp.
Deepfake to wyższy poziom dezinformacji polegający na manipulacji obrazem. Pół żartem, pół serio można powiedzieć, że to twórcze rozwinięcie tego, co w latach 40. ubiegłego wieku zaprezentowali Rosjanie, retuszując zdjęcie Stalina w towarzystwie Nikołaja Jeżowa z 1937 r.
Deepfake sprawi, że będziesz miał problem z odróżnieniem prawdy od manipulacji
Usunięcie obiektu ze zdjęcia to dziś żadna sztuka. Fotomontaże stosowane były powszechnie w czasach fotografii analogowej, ale to fotografia cyfrowa otworzyła niespotykane dotąd możliwości. Dziś nawet aplikacja mobilna na smartfona poradziłaby sobie z usunięciem „krwawego karła” (jak nazywano Jeżowa) ze zdjęcia.
Deepfake idzie dalej - to manipulacja umożliwiająca łączenie obrazów w taki sposób, że użytkownicy będą mieli problem z rozpoznaniem fałszerstwa. Deepfake może np. pokazać polityka w miejscu, w którym nigdy nie był lub okolicznościach mu całkowicie obcych. Stworzyć arcyoszustwo trudne do weryfikacji - z obrazem, a nawet głosem „ofiary”.
Facebook walczy z deepfake'ami
Od kilku lat Facebook oskarżany jest o to, że stał się platformą rozprzestrzeniania fake newsów. Zarzuty zwielokrotniły się po kampanii prezydenckiej w Stanach Zjednoczonych oraz kampanii wokół referendum w sprawie brexitu. Dziś Facebook staje przed znacznie trudniejszym zadaniem, bo deepfake jest bardziej perfidny i trudniejszy do wyłapania.
We wpisie na blogu przedstawiciele największego serwisu społecznościowego świata przypominają, że:
Manipulacji można dokonać za pomocą prostej techniki, takiej jak Photoshop lub zaawansowanych narzędzi, wykorzystujących sztuczną inteligencję lub techniki deep learning do tworzenia filmów zniekształcających rzeczywistość - zwykle nazywanych „deepfake'ami”. Chociaż filmy te nadal stanową rzadkość w internecie, są znaczącym wyzwaniem dla naszej branży i społeczeństwa w miarę wzrostu ich wykorzystania - czytamy.
Facebook tłumaczy w jaki sposób walczy ze zjawiskiem. Informuje, że podjął współpracę z 50 ekspertami z różnych dziedzin i z całego świata, by ulepszać sposoby wykrywania oszustw i przystosować reguły serwisu do do walki z tym wyzwaniem. Na podstawie tej współpracy powstały wytyczne.
Filmy tego typu zostaną usunięte jeżeli:
- zostały stworzone w sposób, który uniemożliwia weryfikację ich prawdziwości użytkownikowi i prowadzący go do wniosku, że występujący na filmie bohater wypowiedział słowa, które w rzeczywistości nie padły z jego ust.
- Są produktem sztucznej inteligencji lub uczenia maszynowego łączącym, zastępującym lub nakładającym treści na wideo, dzięki czemu wydaje się ono autentyczne.
Brzmi sensownie, ale życie nie jest czarno-białe, dlatego już w następnym akapicie Facebook tłumaczy, że powyższe wytyczne nie dotyczą parodii, satyry lub wideo, w którym dokonano zwykłego montażu. Serwis przypomina też, że bez względu na zgodność lub niezgodność z powyższymi wytycznymi, treści zostaną usunięte jeżeli naruszają zasady społeczności.
Treści niezakwalifikowane jako deepfake'i mają być badane przez ekspertów. Jeżeli okażą się częściowo fałszywe Facebook ograniczy ich wyświetlanie w aktualnościach i oznaczy.
Firma tłumaczy, że samo usunięcie treści nie jest wystarczające, bo będą one dostępne w innych miejscach w sieci, dlatego użytkownicy, którzy na nie natrafili otrzymają ostrzeżenie informujące o fałszerstwie. „Pozostawiając je i oznaczając je jako fałszywe, zapewniamy ludziom ważne informacje i kontekst” - tłumaczy Facebook.
Serwis informuje również, że oprócz usuwania już zamieszczonych deepfake'ów walczy z kontami, które je rozprzestrzeniają. Podjęto też współpracę z Reutersem, która ma pomóc w identyfikacji deepfake'ów.
