AI tworzy obraz nie wiadomo z czego. Jest problem

Generator tworzy portret człowieka. Wiemy, na jakim zbiorze danych był uczony, ale próbujemy odpowiedzieć na pozornie proste pytanie: które zdjęcie albo dzieło najbardziej odpowiada za ten konkretny obraz? Naukowcy z MIT pokazali, że przy odpowiednio dużych zbiorach taka odpowiedź może po prostu nie istnieć.

Ten problem od dawna przewija się w sporach dotyczących generatywnej AI. Artyści chcieliby wiedzieć, czy konkretny wygenerowany obraz wykorzystuje ich twórczość, firmy potrzebują sposobu na wykazywanie pochodzenia wyników, a sądy próbują ustalić, kiedy mamy do czynienia z nowym dziełem, a kiedy z kopią lub utworem zależnym.

Dotychczas próbowano przede wszystkim szacować wpływ poszczególnych przykładów treningowych. MIT podeszło do sprawy znacznie bardziej bezpośrednio. Pytanie brzmi jednak co stworzyłby model, gdyby nigdy nie zobaczył konkretnego obrazu?

Najpewniejszy eksperyment wymagałby wyjęcia go ze zbioru, ponownego wytrenowania całego modelu i porównania rezultatów. Potem trzeba byłoby zrobić to samo dla drugiego obrazu, trzeciego i kolejnych setek tysięcy. Przy współczesnych modelach taki eksperyment szybko staje się absurdalnie kosztowny obliczeniowo.

Badacze stworzyli więc architekturę nazwaną diffusion ensemble. Zamiast jednego wielkiego modelu składa się ona z wielu mniejszych części, które uczą się na różnych fragmentach danych.

Jeżeli naukowcy chcą sprawdzić, co stałoby się bez konkretnego obrazu, mogą wyłączyć wszystkie komponenty, które go widziały. Dostają wtedy rzeczywisty model, z którego wpływ badanego przykładu został usunięty, bez konieczności rozpoczynania całego treningu od początku.

Zespół zbudował 24 układy, wykorzystując zbiory od zaledwie 256 do ponad 160 tys. obrazów. Dane pochodziły z 7 publicznych kolekcji zawierających m.in. twarze, dzieła sztuki i zwykłe fotografie. Następnie dla wygenerowanego obrazu tworzono mnóstwo alternatywnych wersji. Za każdym razem z procesu treningowego usuwany był inny przykład.

Badacze sprawdzali później, jak daleko któraś z tych alternatyw odchodzi od pierwotnego wyniku. Różnice mierzono zarówno na poziomie pikseli, jak i znaczenia przedstawionej sceny. Pojawiła się bardzo wyraźna zależność: im większy był zbiór treningowy, tym mniejszy wpływ miał pojedynczy jego element. Naukowcy nazwali to attribution decay, czyli zanikiem atrybucji.

Przy odpowiednio dużej liczbie danych można było usunąć konkretny obraz, a wygenerowany rezultat praktycznie się nie zmieniał. Jeszcze ciekawiej zrobiło się wtedy, gdy eksperyment rozszerzono z pojedynczych plików na całe grupy.

W części eksperymentów naukowcy usuwali nie pojedynczą pracę, ale wszystkie obrazy należące do określonej kategorii. Mogły to być wszystkie dzieła danego artysty albo wszystkie fotografie konkretnej osoby. W jednym z eksperymentów wykorzystano dzieła z domeny publicznej stworzone przez 744 artystów.

Przy odpowiednio dużym zbiorze usunięcie twórczości jednego z nich często nie powodowało zauważalnej zmiany konkretnego wygenerowanego obrazu. Brzmi to trochę paradoksalnie. Model przecież rzeczywiście widział te prace podczas treningu. One były częścią danych, z których nauczył się rozpoznawania wzorców. Mimo to nie można wskazać ich jako przyczyny powstania konkretnego rezultatu, skoro po całkowitym ich usunięciu rezultat pozostaje niemal taki sam.

To trochę jak próba ustalenia, która z tysięcy przeczytanych książek odpowiada za konkretne zdanie napisane wiele lat później. W pewnym momencie wiedza i wzorce mieszają się na tyle mocno, że prosta droga od jednego źródła do jednego wyniku znika.

Badacze sprawdzili również, czy efekt nie jest przypadkiem sztuczką wynikającą z nietypowej konstrukcji ich modelu. Na mniejszą skalę wykonali więc wyjątkowo kosztowną wersję eksperymentu. Wytrenowali 1282 osobne modele, rzeczywiście usuwając wybrane dane przed rozpoczęciem każdego treningu. Efekt nadal występował.

Powtórzono testy przy różnych sposobach generowania obrazów, kilku miarach podobieństwa i innych ustawieniach treningu. Zależność pozostawała ta sama: wraz ze wzrostem zbioru wpływ pojedynczych przykładów szybko stawał się coraz trudniejszy do wskazania.

To nie oznacza jednak, że modele generatywne nigdy niczego nie zapamiętują. Przy mniejszych zbiorach poszczególne przykłady miały znacznie większe znaczenie. Z wcześniejszych badań wiemy też, że modele mogą w określonych warunkach reprodukować bardzo podobne fragmenty danych treningowych. Najnowsza praca nie kasuje tego problemu. Pokazuje raczej, że nie każdy wygenerowany obraz musi dać się rozłożyć na zestaw konkretnych prac, z których został zrobiony.

Właśnie na danych treningowych od kilku lat koncentruje się ogromna część konfliktu pomiędzy artystami a producentami modeli. Na Spider’s Web opisywaliśmy już pozwy artystów przeciwko Stability AI, Midjourneyowi i DeviantArtowi. Twórcy zarzucali firmom wykorzystywanie chronionych prac bez zgody podczas budowania modeli.

Później konflikt wszedł na jeszcze wyższy poziom. Disney i Universal pozwały Midjourney, wskazując m.in. obrazy przedstawiające postacie chronione prawem autorskim. Nowe badanie nie rozstrzyga tych sporów.

Przeczytaj także:

Samo stwierdzenie, że konkretnego wyniku nie można przypisać do konkretnej pracy, nie oznacza automatycznie, że wolno było użyć tej pracy podczas treningu. To dwa różne zagadnienia prawne. Komplikuje natomiast ocenę samego rezultatu. Jeżeli usunięcie każdej pojedynczej pracy po kolei nie zmienia wygenerowanego obrazu, ustalenie jego jednego albo nawet kilku autorów źródłowych może być po prostu technicznie niemożliwe.

*Źródło zdjęcia wprowadzającego: Alex Segre, Shutterstock