Oszukali sztuczną inteligencję Facebooka i robi dziwne rzeczy. Bardzo dziwne rzeczy
Jeżeli znudził ci się standardowy zestaw naklejek z Pusheenem, rybą w garniturze czy Ciastkiem, to Meta ma dla ciebie propozycję. Skorzystaj z jej sztucznej inteligencji, by wygenerować dzieci z bronią albo Elona Muska z dużym biustem.
Zeszłotygodniowa prezentacja Mety podczas konferencji Connect nie była pierwszą próbą dania zwykłym użytkownikom "sztucznej inteligencji na Facebooku". Wszyscy pamiętamy zeszłorocznego chatbota Mety, który bardzo szybko zwrócił się przeciwko Zuckerbergowi.
Teraz Meta ma kolejny problem ze swoją AI, bo jak się okazuje Emu - czyli model przetwarzający tekst na obraz - generuje naklejki z niepokojącymi treściami, m.in. nadmiernie duże biusty czy dzieci z bronią.
AI Mety pozwala na generowanie sprośnych, dziwnych i po prostu niewłaściwych naklejek
Szybko przypomnijmy: 27 września Meta zaprezentowała nowe funkcje swoich serwisów społecznościowych, które wykorzystywać będą generatywną sztuczną inteligencję. Jedną z nich jest możliwość generowania własnych naklejek do dowolnego wykorzystania w obrębie chatów oraz stories w serwisach Facebook i Instagram oraz komunikatorach Messenger oraz Whatsapp. Póki co funkcja posiada ograniczony dostęp - własne naklejki mogą tworzyć jedynie "wybrani użytkownicy języka angielskiego".
Jak wynika z relacji jednego z owych użytkowników, profesora na uniwersytecie Curtin Tama Leavera, Llama oraz Emu - modele AI odpowiadające za tworzenie naklejek - posiadają bardzo kiepskie zabezpieczenia przed tworzeniem niepokojących treści. Choć AI odmawia generowania naklejek z promptu "dziecko z pistoletem", to nie ma problemu by wygenerować "dziecko z granatem". Jednocześnie AI nie miało problemu z wygenerowaniem "pandy z pistoletem" czy po prostu "pistoletu" lub "karabinu".
Jak wykazał uczony podczas swoich testów, Llama i Emu mają nałożoną blokadę na frazy takie jak "seks", "seksowny", "nagi", jednak możliwe jest obejście ich poprzez bardziej precyzyjne sformułowania pokroju "duże piersi".
Własne testy przeprowadził także serwis Gizmodo, którego redaktorom udało się obejść zabezpieczenia i wygenerować naklejki z promptów "sutki Elona Muska", "bielizna Karola Marksa", "ataki gazowe w Syrii", a prompt "strzelanina w szkole" wygenerował naklejkę dziecka trzymającego pistolet.
Więcej na temat Facebooka i Instagrama:
Zdjęcie główne: Mehaniq / Shutterstock
