Social media  / News

Facebook ruszył na wojnę z deepfake'ami. Ogłoszono, co będzie ukrywane i odpowiednio oznaczane

Facebook zauważył problem tzw. deepfake'ów. To dobra wiadomość, bo największy serwis społecznościowy, a także należący do niego Instagram, idealnie nadają się do rozprzestrzeniania tego typu dezinformacji.

Dezinformacja ma niejedno imię. Od kilku lat karierę robi określenie fake news, które w bardzo szerokim ujęciu oznacza fałszywe informacje produkowane z premedytacją, by wprowadzić czytelnika lub widza w błąd. Fake newsy są stare jak świat. Od zawsze istniały jednostki i grupy ludzi, które osiągały różnorodne cele za pomocą dezinformacji.

W dobie serwisów społecznościowych zagrożenie stało się jednak groźniejsze, bo wiadomości rozprzestrzeniają się już nie tylko za pośrednictwem mediów tradycyjnych - prasy, telewizji itp.

Deepfake to wyższy poziom dezinformacji polegający na manipulacji obrazem. Pół żartem, pół serio można powiedzieć, że to twórcze rozwinięcie tego, co w latach 40. ubiegłego wieku zaprezentowali Rosjanie, retuszując zdjęcie Stalina w towarzystwie Nikołaja Jeżowa z 1937 r.

Deepfake sprawi, że będziesz miał problem z odróżnieniem prawdy od manipulacji

Usunięcie obiektu ze zdjęcia to dziś żadna sztuka. Fotomontaże stosowane były powszechnie w czasach fotografii analogowej, ale to fotografia cyfrowa otworzyła niespotykane dotąd możliwości. Dziś nawet aplikacja mobilna na smartfona poradziłaby sobie z usunięciem „krwawego karła” (jak nazywano Jeżowa) ze zdjęcia.

Deepfake idzie dalej - to manipulacja umożliwiająca łączenie obrazów w taki sposób, że użytkownicy będą mieli problem z rozpoznaniem fałszerstwa. Deepfake może np. pokazać polityka w miejscu, w którym nigdy nie był lub okolicznościach mu całkowicie obcych. Stworzyć arcyoszustwo trudne do weryfikacji - z obrazem, a nawet głosem „ofiary”.

Facebook walczy z deepfake'ami

Od kilku lat Facebook oskarżany jest o to, że stał się platformą rozprzestrzeniania fake newsów. Zarzuty zwielokrotniły się po kampanii prezydenckiej w Stanach Zjednoczonych oraz kampanii wokół referendum w sprawie brexitu. Dziś Facebook staje przed znacznie trudniejszym zadaniem, bo deepfake jest bardziej perfidny i trudniejszy do wyłapania.

We wpisie na blogu przedstawiciele największego serwisu społecznościowego świata przypominają, że:

Manipulacji można dokonać za pomocą prostej techniki, takiej jak Photoshop lub zaawansowanych narzędzi, wykorzystujących sztuczną inteligencję lub techniki deep learning do tworzenia filmów zniekształcających rzeczywistość - zwykle nazywanych „deepfake'ami”. Chociaż filmy te nadal stanową rzadkość w internecie, są znaczącym wyzwaniem dla naszej branży i społeczeństwa w miarę wzrostu ich wykorzystania - czytamy.

Facebook tłumaczy w jaki sposób walczy ze zjawiskiem. Informuje, że podjął współpracę z 50 ekspertami z różnych dziedzin i z całego świata, by ulepszać sposoby wykrywania oszustw i przystosować reguły serwisu do do walki z tym wyzwaniem. Na podstawie tej współpracy powstały wytyczne.

Filmy tego typu zostaną usunięte jeżeli:

  • zostały stworzone w sposób, który uniemożliwia weryfikację ich prawdziwości użytkownikowi i prowadzący go do wniosku, że występujący na filmie bohater wypowiedział słowa, które w rzeczywistości nie padły z jego ust.
  • Są produktem sztucznej inteligencji lub uczenia maszynowego łączącym, zastępującym lub nakładającym treści na wideo, dzięki czemu wydaje się ono autentyczne.

Brzmi sensownie, ale życie nie jest czarno-białe, dlatego już w następnym akapicie Facebook tłumaczy, że powyższe wytyczne nie dotyczą parodii, satyry lub wideo, w którym dokonano zwykłego montażu. Serwis przypomina też, że bez względu na zgodność lub niezgodność z powyższymi wytycznymi, treści zostaną usunięte jeżeli naruszają zasady społeczności.

Treści niezakwalifikowane jako deepfake'i mają być badane przez ekspertów. Jeżeli okażą się częściowo fałszywe Facebook ograniczy ich wyświetlanie w aktualnościach i oznaczy.

Firma tłumaczy, że samo usunięcie treści nie jest wystarczające, bo będą one dostępne w innych miejscach w sieci, dlatego użytkownicy, którzy na nie natrafili otrzymają ostrzeżenie informujące o fałszerstwie. „Pozostawiając je i oznaczając je jako fałszywe, zapewniamy ludziom ważne informacje i kontekst” - tłumaczy Facebook.

Serwis informuje również, że oprócz usuwania już zamieszczonych deepfake'ów walczy z kontami, które je rozprzestrzeniają. Podjęto też współpracę z Reutersem, która ma pomóc w identyfikacji deepfake'ów.

przeczytaj następny tekst


przeczytaj następny tekst


przeczytaj następny tekst


przeczytaj następny tekst


przeczytaj następny tekst