Założyli sztucznej inteligencji kaganiec. Nici z realizowania chorych fantazji
Generator grafiki DALL-E 3 w wersji hostowanej przez Microsoft właśnie stał się grzeczniejszy. Używając usług takich, jak Microsoft Designer czy Copilot nie będzie możliwe już uzyskanie niektórych co bardziej kontrowersyjnych ilustracji.
DALL-E 3 to zaawansowany system sztucznej inteligencji stworzony przez OpenAI, który generuje obrazy i grafiki na podstawie opisów tekstowych. Może tworzyć obrazy z niemal każdego tekstu, od prostych opisów po bardziej skomplikowane i abstrakcyjne pomysły. SI rozumie kontekst podanego opisu, co pozwala na tworzenie szczegółowych i spójnych obrazów.
Copilot i Designer nie będą już generować kontrowersyjnych grafik. Podobno.
Generator obrazków w wykonaniu Microsoftu będzie teraz bardziej wyczulony na niektóre słowa kluczowe w wydawanych poleceniach. Próby wprowadzenia opisów, które zawierają takie frazy, jak pro-choice, 4:20 czy pro-life (a więc w języku angielskim mające też inne znaczenia niż slangowe lub ideologiczno-polityczne) zakończą się informacją od Microsoftu, że tego typu treści są sprzeczne z polityką firmy i nie zostaną udostępnione proszącemu o nie użytkownikowi.
Co jeszcze zmalowała sztuczna inteligencja?
Powyższe to reakcja Microsoftu na protest… jego własnego pracownika, który niedawno zwrócił uwagę amerykańskich mediów. Shane Jones, bo o nim mowa, pokazał niedawno dziennikarzom grafiki wygenerowane przez Designera zawierające elementy seksu i przemocy. Jones apeluje do swojego szefostwa, by to wycofało DALL-E z oferty, bo jego zdaniem zdecydowanie nie jest dostatecznie dopracowany, by można było go udostępnić zwykłym ludziom.
CNBC, które jako pierwsze opisało sprawę, zdecydowało się poddać Designera testom. I, jak twierdzi, zabezpieczenia wprowadzone przez Microsoft nie są skuteczne. Dziennikarzom za pośrednictwem usługi Microsoftu udało się wygenerować zdjęcie wypadku samochodowego z ciałami ze zmutowanymi twarzami a także Elsę z filmów Disneya stojącą przed zburzonymi budynkami.
- Stale monitorujemy, wprowadzamy korekty i wprowadzamy dodatkowe kontrole, aby jeszcze bardziej wzmocnić nasze filtry bezpieczeństwa i ograniczyć niewłaściwe użycie systemu - tłumaczy Microsoft w oświadczeniu wysłanym do CNBC. Może zamiast tego lepiej ograniczyć usługę, przynajmniej na razie, do osób pełnoletnich?
*Ilustracja otwierająca: Poetra.RH / Shutterstock
