Szokująca kradzież tożsamości. Odkryła swojego klona sprzedającego rosyjskie towary w chińskim internecie
W cyfrowej erze, gdzie sztuczna inteligencja staje się coraz bardziej wyrafinowana, granice między rzeczywistością a fikcją zacierają się. Boleśnie przekonują się o tym kolejne osoby. YouTuberka niedowierzaniem odkryła właśnie, że jej cyfrowy klon został wykorzystany do sprzedawania towarów w Chinach.
W nowym, cyfrowym świecie niewiele potrafi zaskoczyć. Ale co, jeśli twój sobowtór AI nie tylko wygląda jak ty, ale również mówi twoim głosem, do tego w obcym języku, którego nie znasz i zachwala kraj, który napadł na twoją ojczyznę? To właśnie przydarzyło się ukraińskiej YouTuberce o imieniu Olga.
Czym innym jest zobaczyć śmieszne deepfake w Instagram Reels, a czym innym otrzymać wiadomość, że Twoja twarz została wykorzystana w Chinach w celach propagandowych
- opowiada Olga Loiek.
Przerażające odkrycie
Olga Loiek, 20-letnia studentka kognitywistyki na Uniwersytecie Pensylwanii, prowadzi kanał na YouTube, na którym dzieli się swoimi przemyśleniami na temat zdrowia psychicznego i filozofii życia. Jednak pewnego dnia zaczęła otrzymywać wiadomości od swoich obserwujących i subskrybentów, którzy twierdzili, że widzieli ją na chińskich platformach społecznościowych.
Więcej niesamowitych historii o sztucznej inteligencji przeczytasz na Spider`s Web:
Tam nie była już jednak Olgą Loiek, ale rosyjską kobietą, która mówi po mandaryńsku, kocha Chiny i pragnie wyjść za mąż za Chińczyka. Jej imię to Natasza lub Anna, w zależności od platformy społecznościowej, na której ją znajdziesz w Chinach.
Zaczęłam tłumaczyć filmy za pomocą Tłumacza Google i zdałam sobie sprawę, że większość z tych relacji mówi o Chinach, Rosji i dobrych stosunkach między Chinami a Rosją. W niektórych filmach awatary opowiadają o tym, jak bardzo cenią bliskie więzi Rosji i Chin. W innych filmach chwalą chińską historię i kulturę lub opowiadają o tym, jak bardzo Rosjanki chcą poślubić Chińczyka
- mówi Olga.
Ciemna strona technologii
Filmiki zazwyczaj prowadzą też do sklepów internetowych, w których kupić można rosyjskie towary. Na Bilibili, największej chińskiej witrynie z filmami, niektóre wideo wykorzystujące twarz Loiek są oznaczone logo HeyGen, co oznacza, że wideo zostało wygenerowane na stronie internetowej firmy.
HeyGen to firma zajmująca się sztuczną inteligencją z siedzibą w Los Angeles, która została założona w Chinach w 2020 r. Specjalizuje się w realistycznych awatarach cyfrowych, generowaniu głosu i tłumaczeniu wideo.
Technologia opracowana przez HeyGen została wykorzystana w filmach wygenerowanych przez sztuczną inteligencję, na których Donald Trump i Taylor Swift mówią doskonale po mandaryńsku. Stały się one wiralami w chińskich mediach społecznościowych w październiku 2023 r.
Na początku 2023 r. chiński rząd wprowadził przepisy regulujące usługi deepfakes. Prawo zabrania generowania deepfakes bez zgody osób, których wizerunek jest wykorzystywany. Po tym jak Olga zgłosiła filmiki z jej klonem, część z nich została w serwisach społecznościowych usunięta.
Technologia deepfake w akcji
Tę koszmarną przygodę Olga opowiedziała na swoim kanale na YouTube. Wideo, w którym kobieta mówi jak zareagowała na wiadomość o swoim klonie i co zrobiła, by usunąć nagrania, zobaczycie niżej.
Historia Olgi Loiek to przykład, jak technologia może wpływać na naszą tożsamość i jak łatwo jest manipulować treściami w erze internetu. Jej doświadczenie pokazuje, że klony AI mogą mieć realne konsekwencje dla ludzi. Dlatego warto zastanowić się, jakie mechanizmy obrony możemy opracować, aby chronić naszą tożsamość w cyfrowym świecie.
