Skandaliczna sytuacja. Bot przerabia normalne zdjęcia kobiet na rozbierane fotki
Sztuczna inteligencja i technologia zwyczajowo określana jako deepfake mogą być wykorzystane do czegoś więcej niż tylko do produkcji internetowych memów. Coraz więcej kobiet skarży się na krążące po Sieci ich rozebrane zdjęcia – przerobione przez wyspecjalizowanego do tego celu bota.
Rozwój sztucznej inteligencji to nie tylko ogromne korzyści dla świata nauki czy dla rozwoju cyfrowych narzędzi mających poprawić nasz dobrostan. Technologia ta jest też wykorzystywana do celów rozrywkowych. Dla przykładu, niezwykle popularne są mobilne aplikacje typu face swap, pozwalające – na przykład – wkleić naszą bądź czyjąś twarz w scenę z ulubionego filmu.
Powyższa zabawa jest dość niewinna i może sprawiać frajdę. Jest jednak i mroczniejsza strona tej technologii. Magazyn Wired informuje o działającym w ramach sieci Telegram bocie, który potrafi przerobić zdjęcia kobiet na nudesy. Innymi słowy, wysyłamy botowi zdjęcie dziewczyny, a ten zwraca owo zdjęcie w wersji nagiej – wykorzystując sztuczną inteligencję i mechanizmy typu deep fake do zastępowania ubrania nagim ciałem. Efekt końcowy jest ponoć bardzo przekonujący.
Ponad 100 tys. kobiet ofiarą zboczonego bota.
Przeróbki wykonane przez telegramowego bota są na tyle przekonujące, że mogą być wykorzystane do szantażowania rozebranych w ten sposób kobiet. Postronni nie będą mieli pojęcia, że prezentowane im zdjęcia nie są autentyczne i mogą uwierzyć, że właśnie oglądają nudesy danej osoby. Ofiara tego rodzaju molestowania może być zatem szantażowana – a pomysłowy szantażysta żądać od niej gratyfikacji finansowej w zamian za niepublikowanie rzeczonych przeróbek.
Bot nie zwraca przy tym uwagi, czy widoczna na zdjęciu osoba jest pełnoletnia. Nie potrafi za to rozbierać mężczyzn – specjalizuje się wyłącznie w przerabianiu zdjęć kobiet. Jak wynika z analizy firmy Sensity, zajmującej się wykrywaniem deep fake’ów i cytowanej przez Wired, ponad 104 tys. przerobionych przez bota zdjęć trafiło do publicznego obiegu. Nie jest możliwym sprawdzenie, ile fotografii jeszcze nie zostało opublikowanych.
Bot w podstawowej swojej wersji jest darmowy – pozwala na przerabianie 10 zdjęć dziennie za darmo. Po wpłacie 8 dol. limit jest podnoszony do 112 zdjęć. Uważa się, że bot wykorzystuje technologię DeepNude – jej autor przerażony tym, co stworzył, zamknął projekt i usunął aplikację z Internetu. W Sieci jednak nic nie ginie, i choć DeepNude oficjalnie nie istnieje, kod aplikacji został pobrany, zarchiwizowany i jest rozpowszechniany.
Telegram poproszony przez Wired o komentarz odmówił jego udzielenia. Usunął jednak z kanału bota wszystkie opublikowane przez niego nagie zdjęcia, bo tych – w myśl regulaminu usługi – nie można rozpowszechniać. Sam kanał pozostał jednak aktywny.
