OpenAI ożywia zmarłych. Przekroczono wszelkie granice
OpenAI uruchomiło usługę Sora 2, która pozwala na tworzenie realistycznych wideo z udziałem zmarłych sław - bez ich zgody ani kontroli rodzin. Efektem jest prawdziwy zalew syntetycznych zmartwychwstań, które bawią widzów, a ranią bliskich.
OpenAI nazwał swój najnowszy wynalazek Sora 2, podkreślając jego kreatywny potencjał i niezwykłą szybkość generowania klipów. W praktyce aplikacja trafia na szczyty list pobrań, kiedy tylko użytkownicy odkrywają, że mogą ożywić legendarne postaci: od Malcolma X, przez Amy Winehouse, aż po Freda Rogersa rapującego z Tupakiem.
Jednak pod maską imponującej technologii kryje się moralny impas. Twórcy zdecydowali się ominąć limit konsensusu dla historycznych postaci, tłumacząc to ochroną wolności słowa. W konsekwencji zabawne filmiki szybko przybierają formę obraźliwych memów, które zamiast hołdu składają raczej profanację czyichś pamięci. Coraz częściej pojawiają się też deepfejki z udziałem zwykłych osób.
Czytaj też:
Ból rodzin i rynek, który tego nie rozumie
Reakcje bliskich ożywionych gwiazd mówią same za siebie. Córka Malcolma X, Ilyasah Shabazz, nazwała filmiki pogardliwymi pytając twórców, gdzie podziała się empatia wymagana wobec własnych rodzin. Z kolei Zelda Williams, córka Robina Williamsa, błaga na Instagramie: Przestańcie wysyłać mi te wideo z tatą.
Niestety komercyjna kalkulacja wygrywa z szacunkiem. W sieci królują memy, które generują kliknięcia i reklamy, bez pytania o zgodę czy uczucia. AI-owi memesterzy, a czasem zwykli trollujący użytkownicy, nie widzą problemu tam, gdzie przekracza on granice ludzkiej godności.
Obecnie w Stanach Zjednoczonych prawo zezwala na ochronę publicznego wizerunku zmarłych przez wiele dekad po śmierci, lecz większość przepisów nie nadąża za tempem rozwoju AI. OpenAI zapowiada blokowanie kontentu na żądanie rodzin świeżo zmarłych postaci, lecz nie określiło, co znaczy świeżo.
Adwokaci rozważają jednak inne strategie: czy transformacyjny charakter wideo (parodia, satyra) chroni twórców przed roszczeniami? Czy prawa do wizerunku powinny być ważniejsze niż wolność słowa? A co z krzywdą emocjonalną potomków, oglądających nieautoryzowane bluźnierstwa skierowane do ich bliskich?
Sora 2 pokazuje, jak chciwość platform i wyścig o uwagę użytkowników może przysłonić etykę
To nie tylko problem rodzin celebrytów - to ostrzeżenie dla całej branży: jeśli nie wprowadzimy sensownych zabezpieczeń czeka nas zalew deepfejków, które dezinformują, obrażają i zacierają granicę między prawdą a fikcją. Sora 2 to z jednej strony niezwykłe wręcz narzędzie do kreatywnej pracy.
Z drugiej jednak może być aż zbytnio niezwykłe, jakkolwiek to brzmi. Za jego sprawą każdy może stworzyć całkiem przekonujące wideo z dowolną postacią w roli głównej. Dziś królują zmarli celebryci jako upiorny trend. Jutro, w twoich lokalnych kręgach socialmediowych, królować możesz ty lub twoi zmarli bliscy.
*Zdjęcie otwierające: Rokas Tenys / Shutterstock
