Oszuści ukradli głos znanego YouTubera, by stworzyć "recenzję" produktu. To początek lawiny
Deepfejki promujące oszustwa są co najmniej nudne. Teraz internauci z całego świata muszą przygotować się na kolejny etap syntetycznego internetu - podrobione głosy influencerów reklamujące produkty-buble.
Nagonka medialna na wygenerowane z pomocą sztucznej inteligencji deepfejki, ale i kuriozalność niektórych prób oszustw sprawiły, że istnieje stosunkowo duża świadomość, że jeżeli Marek Czyż proponuje pobranie aplikacji do hazardu, Mr. Beast rozdaje telefony za bezcen, a Elon Musk mówi o inwestycjach w kryptowaluty, to jest to oszustwo. Jeżeli nie zdradzi go niska jakość generowanej treści, to próba złapania ofiary spali na panewce przez samo użycie autorytetu do reklamy czegoś, z czym kompletnie byśmy danej osobistości nie powiązali.
Jednak to dopiero wierzchołek góry lodowej możliwości wykorzystania AI do tworzenia deepfejków reklamujących scam. Przekonał się o tym znany amerykański youtuber Marques Keith Brownlee.
Następny etap rozwoju treści w internecie? Deepfejki influencerów sprzedające buble
Marques Keith Brownlee, znany lepiej jako MKBHD, zamieścił w serwisie Threads nagranie ekranu pokazujące rolkę na Instagramie. Rolka to krótki filmik opublikowany przez firmę dot.cards promujący jej główny produkt, wizytówki NFC. W rolce nie byłoby nic nadzwyczajnego gdyby nie fakt, że głos narratora w filmie to głos samego MKBHD.
To już się dzieje. Istnieją prawdziwe firmy, które wykorzystują mój głos stworzony przez sztuczną inteligencję do promowania swoich produktów. I tak naprawdę nie ma za to żadnych reperkusji poza byciem znanym jako ta szumowina, która jest gotowa upaść tak nisko, aby sprzedać jakiś produkt
- powiedział Brownlee.
Dot.cards w filmiku ani słowem nie wspomniało o użyciu AI czy o samym youtuberze. To co najmniej niepokojące ze względu na fakt, iż rolka posiada typową narrację pierwszoosobową, gdzie z reguły narrator jest także osobą na filmie. Tak więc istnieje całkiem słuszne przypuszczenie, że dot.cards wiedziało czyj głos kopiuje i użyło go świadomie. Kilka godzin po wpisie MKBHD na Threads rolka zniknęła z profilu firmy.
Niesmak pozostał, zwłaszcza że próba wykorzystania głosu MKBHD była co raczej nieudolna. Dłonie osoby pokazującej wizytówkę były całkowicie białej karnacji, podczas gdy MKBHD jest czarnoskóry. Dodatkowo sam tekst czytany przez AI prawdopodobnie został przez nią wygenerowany, gdyż w filmiku zawarto absurdalne stwierdzenie "Stal nierdzewna sprawia, że praca w sieci jest płynna i bardziej wydajna".
Na wpis Marquesa odpowiedział inny youtuber, Jeff Geerling, który na swoim kanale zajmuje się różnymi projektami "zrób to sam" (DIY) związanymi z elektroniką i komputerami. Mający znacznie mniejszą publikę niż Brownlee Geerling również padł ofiarą kradzieży głosu. W jego przypadku kradzieży dokonał Elecrow - kanał sklepu z częściami elektronicznymi, w tym potrzebnymi do projektów DIY. Głos youtubera został wykorzystany w narracji filmików Elecrow pokazujących możliwe wykorzystanie ich produktów.
W przypadku Geerlinga sprawa była o tyle bardziej pozytywna, że dyrektor generalny Elecrow osobiście napisał do youtubera z wyjaśnieniami i przeprosinami. Osoba, która stworzyła feralne filmiki - przy okazji wygenerowała wypowiedzi "Geerlinga" - to stażysta, który chciał wykorzystać głos popularnego youtubera, by uczynić wideo bardziej atrakcyjnymi.
Można się uśmiechnąć, ale MKBHD i Jeff Geerling pokazują, jak będzie wyglądała reklama w mediach społecznościowych
O youtuberach i influencerach, ale i o samych publikowanych przez nich treściach można mieć różne zdanie. Jednak niezależnie czy jest się entuzjastą wolności tworzenia i publikacji w internecie, czy wręcz przeciwnie i postrzega się youtuberów oraz influencerów jako szkodniki, nie możemy odmówić im jednego - ich działalność wpływa na nasze decyzje zakupowe. Niezależnie czy chodzi o dobór kolorów do ścian w salonie, szampon do włosów, nowy smartfon, czy przyprawy do wędzenia mięsa, twórcy internetowi mniej lub bardziej świadomie mają wpływ na to, co kupujemy. Wobec tego faktu nie pozostają bierne firmy ani ich działy marketingu, dla których promocja - nawet w formie krótkiego "unboxingu" - na stosunkowo dużym kanale to niczym złapanie pana Boga za nogi.
Samo w sobie nie jest to złe - w końcu gdyby reklamy z użyciem znanych i lubianych twarzy oraz głosów były zakazane, te nie istniałyby w radiu czy telewizji. Jednak generatywna sztuczna inteligencja po raz kolejny udowadnia, że ten sam efekt można uzyskać minimalnym nakładem czasu, pracy i środków finansowych. Jeff Geerling w swoim nagraniu pokazał, że zatrudnienie profesjonalnego lektora czy współpraca ze znanymi celebrytami to koszt idący w tysiące dolarów za pojedyncze nagranie. A syntezator głosu od ElevenLabs? 99 dolarów miesięcznie za maksymalnie 8 godzin głosu, który niczym nie różni się od oryginału. A próbki głosu można ściągnąć bez wiedzy samego właściciela - wystarczy pobrać filmiki z YouTube'a czy innego serwisu.
My Polacy mamy swego rodzaju przywilej bycia w stosunkowo małym kraju i z niezbyt popularnym językiem, co póki co chroni nas przed tego typu wybrykami osób zajmujących się promocją - po prostu nie jesteśmy atrakcyjni jako "target" tych treści, a i zajmuje trochę czasu, by zorientować się kto ma głos godny zaufania. Trzeba nieco więcej, by wygenerować tekst, który ma językowy ład i skład. Trzeba być jednak naiwnym, by myśleć, że nas to ominie. Nie zdziwiłoby mnie, gdyby w ciągu najbliższych miesięcy jakiś lokalny producent wędlin nie pokusił się o skorzystanie z głosu Tomasza Strzelczyka lub gdy to głos Red Lipstick Monster pojawi się w prezentacji debiutanckiego producenta kosmetyków do pielęgnacji tatuaży.
Ale zanim to nastąpi, o wiele bardziej prawdopodobne jest to, że swoich sił we wciskaniu nam bubli spreparowanymi głosami spróbują firmy daleko spoza Europy.
Więcej o syntetycznych treściach generowanych przez AI:
