Koniec z faworyzowaniem białych mężczyzn. Przynajmniej jeśli chodzi o technologię rozpoznawania twarzy IBM
IBM posypuje głowę popiołem. Po tym, jak ich rozpoznawanie twarzy zostało skrytykowane za faworyzowanie białych mężczyzn, firma postanowiła stworzyć lepsze bazy danych i udostępnić je publicznie.
To, czego nauczy się sztuczna inteligencja, zależy od danych, jakimi zostanie nakarmiona. Z różnych powodów czasami te dane mogą nie odzwierciedlać rzeczywistości, ale umacniać istniejące nierówności. Boleśnie przekonał się o tym w lutym tego roku IBM.
Rozpoznamy twarz w każdym kolorze, pod warunkiem, że będzie to biały.
Według badań przeprowadzonych w MIT Media Lab algorytm stosowany przez IBM radził sobie bardzo różnie, w zależności od tego, jakiego pochodzenia była osoba, której twarz miał rozpoznawać. Jeśli sztuczna inteligencja miała do czynienia z fotografią białego mężczyzny, trafiała niemal bez pudła (celność wysokości 99 proc.). Gorzej było z białymi kobietami, jeszcze gorzej z nie-białymi mężczyznami, a najgorzej rozpoznawane były nie-białe kobiety. Tutaj algorytm miał rację jedynie niewiele ponad 65 proc. razy.
To bardzo duża różnica i realne wykluczenie części społeczeństwa. Nie wynika to jednak z rasizmu firmy lub jej złych intencji, ale z braku refleksji nad różnorodnością wprowadzanych do systemu danych. Dominują w nich po prostu biali mężczyźni. W azjatyckich systemach rozpoznawania twarzy obserwujemy ten sam problem, choć w tym przypadku oczywiście na korzyść mężczyzn z Azji.
IBM posypuje głowę popiołem i udostępnia dwie nowe bazy zdjęć do uczenia sztucznej inteligencji.
Pierwsza zawiera ponad milion zdjęć. Są dobrane z wykorzystaniem tagów geograficznych zamieszczanych na Flickrze. Algorytm odpowiedzialny za wybieranie przykładów ma na ich podstawie zminimalizować faworyzowanie jednej grupy podczas ich doboru.
Druga baza jest skromniejsza, ale to właśnie ona ma pomóc sztucznej inteligencji nauczyć się rozpoznawać twarze należące do ludzi różnego pochodzenia. 36 tys. zdjęć twarzy zostało dobranych tak, by równie często pokazywać twarze białych mężczyzn, czarnoskórych kobiet czy dzieci z Azji. Dobierając fotografie do bazy, zwracano uwagę przede wszystkim na pochodzenie etniczne, płeć i wiek.
IBM udostępnia swoje bazy publicznie. Mogą z nich korzystać wszyscy, którzy chcą wytrenować sztuczną inteligencję w rozpoznawaniu twarzy, albo przetestować na jej podstawie, jak radzi sobie już istniejący algorytm.
