Nie wpisuj w Google: monkey holding box. Google pomylił czarnego chłopca z małpą
Osoby z ciemną skórą mają nierzadko problemy z korzystaniem z nowych technologii. Niektórzy skarżą się, że systemy rozpoznawania twarzy ich wręcz nie widzą. Inni muszą mierzyć się z tym, że algorytmy mylą ich ze zwierzętami. Google właśnie zaliczył taką wpadkę.
Gdy wpiszesz w wyszukiwarkę Bing hasło „monkey holding box” i przełączysz wyniki wyszukiwania na zdjęcia, to znajdziesz tam różne grafiki z małpami, pudełkami i innymi pojemnikami.
Problem jest taki, że w Binga tego nie wpiszesz, bo nikt tam nic nie wpisuje.
Ludzkość jednogłośnie zadecydowała, że będzie korzystać z Google’a. No i korzysta. Google wygrywa tym, że daje najlepsze wyniki wyszukiwania. Gdy szukasz w Google’u knajpy, to znajdziesz knajpę. Gdy szukasz w Google'u numeru telefonu do mechanika, to znajdziesz numer telefonu do mechanika. Gdy szukasz w Google’u prognozy pogody, to znajdziesz prognozę pogody. A gdy szukasz w Google’u małpy trzymającej karton, to znajdziesz… czarnego chłopca z kartonem.
Te wyniki wyszukiwania jednych bulwersują, innych śmieszą. Na obronę Google’a można powiedzieć tylko, że wyszukiwarka zapewne przeczytała dane na stronie i połączyła dwa opisy. Z jednej strony mamy podpis zdjęcia:
Young boy holding box in new home smiling
a z drugiej strony mamy firmę, która sprzedaje fotkę:
Monkey Business
To nie pierwsza taka wpadka Google’a. Jakiś czas temu aplikacja Zdjęcia Google uczyła się katalogować fotografie użytkowników i wrzucała je do różnych worków. Algorytm wykazał się sporym brakiem taktu i wrzucił zdjęcia przedstawiające czarnoskóre osoby do katalogu Goryle.
Na Facebooku Spider’s Web (zapraszam, zapraszam, Państwo zajrzą, polajkują) chciałem pokazać problem z wynikami wyszukiwania „monkey holding box” w Google'u i… Facebook skasował mi posta ze zrzutem ekranu, ponieważ uznał to za treść rasistowską. Jak widać nawet algorytmy różnych korporacji trzymają razem - jeden zrobi błąd, to drugi go kryje.