Łatwo rozpoznasz obraz wygenerowany przez AI. Ma sześć kluczowych cech
Zapomnij o liczeniu palców i wypatrywaniu krzywych kolczyków. Naukowcy przekonują, że obrazy stworzone przez sztuczną inteligencję zdradza dziś coś zupełnie innego.
Jeszcze niedawno jedną z najłatwiejszych metod rozpoznawania obrazów wygenerowanych przez sztuczną inteligencję były nadmierne palce, zdeformowanych dłoniach, zdeformowana biżuteria czy tło. Te metody jednak nie są już skuteczne, ponieważ współczesne modele AI coraz lepiej radzą sobie z eliminowaniem podobnych błędów. Dlatego Australijscy naukowcy proponują zupełnie inne podejście - zamiast szukać pojedynczych defektów, warto zwracać uwagę na ogólny charakter twarzy.
Australijscy naukowcy: szukanie detali to marnowanie czasu. Te cechy zdradzą fejki
Badacze z Australisjkiego Uniwersytetu Narodowego opracowali metodę szkolenia ludzi, która znacząco poprawia skuteczność wykrywania twarzy wygenerowanych przez sztuczną inteligencję.
Dotychczas stosowane metody wykrywania deepfake'ów opierały się przede wszystkim na wyszukiwaniu charakterystycznych artefaktów pozostawianych przez generatory obrazów. Autorzy badania zwracają jednak uwagę, że takie podejście ma coraz mniejszą wartość. Modele AI szybko eliminują najbardziej oczywiste błędy, a osoby przygotowujące fałszywe materiały mogą dodatkowo odrzucać wadliwe grafiki lub ręcznie je poprawiać. Również komercyjne narzędzia do wykrywania obrazów wygenerowanych przez AI nie gwarantują pełnej skuteczności, a ich sposób działania często pozostaje nieprzejrzysty.
Dlatego zespół naukowców z Australii zaproponował odejście od analizowania pojedynczych detali. Uczestników szkolenia uczono zwracać uwagę na sześć ogólnych cech twarzy: symetrię, proporcjonalność, atrakcyjność, ekspresyjność, charakterystyczność oraz zapamiętywalność.
Badacze wskazują, że twarze wygenerowane przez AI są zazwyczaj bardziej symetryczne, lepiej proporcjonalne i bardziej atrakcyjne. Z kolei fotografie prawdziwych ludzi częściej wydają się bardziej charakterystyczne, łatwiejsze do zapamiętania oraz bogatsze w ekspresję.
Dlaczego AI tworzy właśnie takie twarze?
Według autorów publikacji wynika to ze sposobu działania generatorów obrazów. Modele uczą się na ogromnych zbiorach fotografii i podczas tworzenia nowych twarzy opierają się na statystycznych zależnościach między tysiącami przykładów.
W efekcie wygenerowane twarze są bliższe matematycznej średniej całego zbioru danych niż wyglądowi konkretnej osoby. Z tego powodu często sprawiają wrażenie bardziej harmonijnych i typowych niż twarze prawdziwych ludzi.
Krótkie szkolenie przyniosło wyraźną poprawę
W badaniu uczestnicy najpierw samodzielnie oceniali, czy prezentowane twarze zostały stworzone przez AI. Następnie przeszli serię krótkich ćwiczeń, podczas których oceniali fotografie pod kątem sześciu wskazanych cech. Badacze nie przekazywali prostych reguł ani gotowych odpowiedzi. Zadaniem uczestników było samodzielne dostrzeżenie powtarzających się wzorców.
Średnia skuteczność rozpoznawania nieznanych wcześniej twarzy wzrosła z 41,4 proc. przed szkoleniem do 81,1 proc. po jego zakończeniu. Najlepsi uczestnicy osiągnęli niemal stuprocentową skuteczność. Jednocześnie skrócił się czas podejmowania decyzji, a badani lepiej oceniali, kiedy ich odpowiedź była prawidłowa.
Metodę potwierdzono w niezależnym badaniu
Uzyskane wyniki zostały następnie odtworzone przez zespół z Uniwersytetu Wiktorii w Kanadzie. Podobną skuteczność odnotowano również podczas szkolenia prowadzonego przez internet, co według autorów otwiera drogę do przygotowania szeroko dostępnych materiałów edukacyjnych uczących rozpoznawania obrazów generowanych przez AI.
Naukowcy podkreślają jednocześnie, że badanie dotyczyło twarzy wygenerowanych przez model StyleGAN. Dalsze prace naukowców mają pokazać, czy opracowana metoda równie dobrze sprawdzi się w przypadku nowszych generatorów obrazów oraz materiałów audio i wideo wykorzystujących technologię deepfake.
Czytaj też:
Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską, przybliżając czytelnikom Spider's Web tematykę smartfonów, smartwatchy, oprogramowania i sztucznej inteligencji. Prywatnie miłośniczka psów, gotowania i literatury faktu.