Deepfake na celowniku. Nowe polskie oprogramowanie zmieni zasady gry
W dobie wszechobecnej cyfryzacji rozmowy online stały się naszą codziennością - niestety, niosą ze sobą nowe zagrożenia. Coraz częściej słyszymy o deepfake'ach, czyli filmach lub nagraniach audio, w których sztuczna inteligencja manipuluje wizerunkiem i głosem realnych osób, tworząc złudne wrażenie, że mówią one coś, czego nigdy nie powiedziały.
Czy można sprawdzić, czy przez kamerę online rozmawialiśmy z prawdziwą osobą, a nie deepfake’iem? Naukowcy IDEAS NCBR - polskiego ośrodka badawczo-rozwojowego sztucznej inteligencji - opracowali prototyp oprogramowania, które pozwoliłby na bezpieczniejsze rozmowy online. Rozwiązanie ma być tanie, łatwe w skalowaniu (co oznacza, że może być powszechnie stosowane w różnych platformach komunikacyjnych) i nie wymagałoby zaufania pośrednikowi, jak w przypadku podpisów elektronicznych.
W ostatnich latach coraz częściej słyszymy o przypadkach oszustw wykorzystujących deepfake’i. W Polsce, w marcu 2024 r., fałszywe wideo z udziałem CEO InPost Rafała Brzoski, Andrzeja Dudy czy Roberta Lewandowskiego promowały oszukańcze "programy inwestycyjne" służące wyłudzaniu pieniędzy.
W styczniu pracownik banku w Hong Kongu wypłacił 25 mln dol. oszustom, którzy podczas wideokonferencji podszyli się pod dyrektora finansowego firmy. Deepfake’i stają się coraz bardziej zaawansowane, a ich wykrycie coraz trudniejsze, co stawia przed nami nowe wyzwania w zakresie bezpieczeństwa cyfrowego.
Obecnie, wraz z masową adopcją generatywnych modeli AI, trudno jest czasem zaufać filmowi, który oglądamy w wiadomościach, TikToku, YouTube itp. Dlatego musimy być w stanie zweryfikować autentyczność filmów, przynajmniej w ważnych tematach.
Więcej o problemie deepfake przeczytasz na Spider's Web:
Ochrona wizerunku na YouTubie
W odpowiedzi na te zagrożenia, naukowcy z IDEAS NCBR stworzyli eksperymentalny projekt o nazwie ProvenView. IDEAS NCBR to ośrodek badawczo-rozwojowy działający w obszarze sztucznej inteligencji, powołany przez Narodowe Centrum Badań i Rozwoju.
Twórcami rozwiązania są postdoc Shahriar Ebrahimi i doktorantka Parisa Hassanizadeh, badacze z Iranu pracujący w grupie "Bezpieczeństwo systemów i prywatność danych" kierowanej przez prof. Stefana Dziembowskiego. ProvenView zostało nagrodzone podczas hackathonu ZK Hack Kraków w maju 2024 r. w kategorii "best proof of provenance project".
ProvenView może znaleźć zastosowanie zarówno w codziennych interakcjach online, jak i w ochronie treści twórców. Na przykład, po zakończeniu spotkania online, użytkownik będzie mógł sprawdzić, czy wideo jego rozmówcy rzeczywiście pochodziło z jego kamery internetowej. Ale to nie koniec jego zastosowań.
To rozwiązanie może się przydać zarówno użytkownikom indywidualnym, którzy mogliby go użyć do autoryzacji spotkań online, jak i twórcom treści, którzy dzięki temu mogliby wzmocnić ochronę swojego wizerunku opublikowanego w filmie na YouTube przed kradzieżą i wykorzystaniem np. w pornografii
- mówi Shahriar Ebrahimi.
Sprawdzenie autentyczności na wyciągnięcie ręki
ProvenView to prototypowe oprogramowanie, które wykorzystuje technologię Zero-Knowledge Proofs (ZKP) do autoryzacji bez konieczności zaufania pośrednikowi. Na czym dokładnie polega ZKP? To technika kryptograficzna, która pozwala na udowodnienie prawdziwości pewnej informacji bez ujawniania jakichkolwiek szczegółów o niej.
Oto przykład działania: w pierwszym kroku autor oryginalnego wideo tworzy cyfrowy dowód jego autentyczności. To taki cyfrowy zapis, który mówi: "To wideo jest prawdziwe i ja je stworzyłem".
Oprogramowanie umożliwiające taki zapis może być wbudowane w aplikację do nagrywania wideo lub być osobnym programem.
Podrobienie dowodu autentyczności opartego na ZKP jest niezwykle trudne ze względu na zaawansowane mechanizmy kryptograficzne, które są w nich wykorzystywane.
W drugim kroku, kiedy ktoś chce sprawdzić autentyczność wideo, nie musimy mu pokazywać całego materiału. Zamiast tego, pokazujemy mu cyfrowy dowód. I właśnie tu pomaga nam Zero-Knowledge Proofs: dzięki zaawansowanej matematyce, dowód ten można sprawdzić bez potrzeby oglądania samego wideo.
Autoryzacja bez pośrednika
Zaletą ZKP (Zero-Knowledge Proofs) jest to, że osoba tworząca dowód autentyczności nie musi mieć zewnętrznych potwierdzeń zaufania, jak podpis elektroniczny. Każdy może generować takie dowody autentyczności na swoim własnym urządzeniu.
Nazywa się to „generowanie dowodów po stronie klienta” (client-side proof generation). Dzięki temu rozwiązanie jest bardzo elastyczne i może obsłużyć wiele osób naraz, bez obciążania sieci. Niezależnie od tego, czy dowody generuje 10 osób, 10 tysięcy, czy nawet 10 miliardów osób, obciążenie sieci się nie zmienia
- wyjaśnia Shahriar Ebrahimi.
W przyszłości rozwiązanie mogłoby stać się dodatkiem do przeglądarki internetowej albo programu do edycji wideo.
Technologia Zero-Knowledge Proofs (ZKP) jeszcze dekadę temu uważana była za dziedzinę wyłącznie teoretyczną, bliższą czystej matematyce niż zastosowaniom informatyki. W ostatnich latach byliśmy świadkami dramatycznej zmiany w tej dziedzinie. Stało się to dzięki wielu przełomowym usprawnieniom tej technologii, a także dzięki jej popularyzacji za sprawą blockchaina. Rozwiązanie ProvenView stanowi jeszcze jeden spektakularny przykład tego, jak ZKP może być wykorzystane w walce z zagrożeniami współczesnego świata cyfrowego
- mówi prof. dr hab. Stefan Dziembowski.
Nowe możliwości
Nowe rozwiązanie otwiera szerokie możliwości zastosowań. Może być wykorzystywane w wideorozmowach biznesowych, w kontaktach z urzędami, a nawet w randkowaniu online. Zwiększy to bezpieczeństwo i zaufanie w cyfrowym świecie, chroniąc nas przed oszustami i dezinformacją.
Prototyp oprogramowania jest obecnie testowany i udoskonalany. Naukowcy z IDEAS NCBR liczą na to, że w najbliższej przyszłości rozwiązanie będzie dostępne dla szerokiego grona użytkowników.
Walka z deepfake'ami to jedno z najważniejszych wyzwań współczesnej cyfryzacji. Nowe oprogramowanie z NCBR może stać się kluczowym elementem w tej walce, chroniąc naszą prywatność i bezpieczeństwo w online'owym świecie.
