Autonomiczne pojazdy mają problem. Są rasistami
Sztuczna inteligencja nadal średnio sobie radzi z rozpoznawaniem widocznych w obiektywie kamery obiektów. To problem, z którym aktualnie zmagają się najlepsi informatycy na świecie. Jeżeli wierzyć jednemu z badań, owi inżynierowie dopuścili się nie lada niedopatrzenia.
Komputery nie mają poglądów i nie nienawidzą ani nie kochają nikogo. Posługują się wyłącznie matematyką i zapewnionymi przez użytkownika danymi. Nie zmienia to jednak faktu, że od czasu do czasu owym maszynom zdarzają się rozmaite obyczajowe wpadki. Takie jak czatbot Tay, który od swoich użytkowników nauczył się seksizmu i mowy nienawiści. Czy czujnik Kinect, który miał problemy z rozpoznawaniem czarnoskórych graczy.
Teraz szykuje się potencjalnie nowy skandal. Według jeszcze niezrecenzowanego badania przeprowadzonego przez uczonych z King’s Collage w Londynie, osiem badanych systemów przeznaczonych dla pojazdów autonomicznych radzi sobie znacznie gorzej z wykrywaniem ciemnoskórych przechodniów od osób posiadających jasną karnację. Prawdopodobieństwo niewykrycia czarnoskórej osoby jest o osiem proc. wyższe niż jasnoskórej, jak wynika z omawianego badania.
Czytaj też:
Prawdopodobieństwo potrącenia osoby czarnoskórej przez autonomiczny samochód jest wyższe niż innych osób.
Autorzy badania spekulują, że raczej nie chodzi tu o zamierzone działania rasistowskie, a raczej o niewystarczające testy samej technologii. Osoby czarnoskóre odbijają mniejszą ilość światła, co szczególnie widać w szczegółowych wynikach badań: im mniejszy kontrast z kamery i gorsze oświetlenie, tym niebezpieczeństwo dla czarnoskórego przechodnia wzrasta - w znacznie większym stopniu niż osoby o jaśniejszym kolorze skóry.
Badanie zostało jedna skrytykowane za nieprecyzyjne podejście. Uczeni wykorzystali bowiem open-source’owe modele sztucznej inteligencji, które z tego co wiemy są fundamentem systemów własnościowych opracowywanych przez liderów rynku pojazdów autonomicznych, a własnościowe systemy z pewnością mają podobne problemy. Niestety nie byli w stanie tego udowodnić.
Praca uczonych, nawet jeśli okaże się wadliwa w założeniach, powinna jednak pełnić rolę ważnego ostrzeżenia. Niedostatecznie przetestowany i przedwcześnie wydany kontroler do gier Kinect miał problemy z wykrywaniem czarnoskórych dzieci, co słusznie wywołało poważny problem wizerunkowy dla Xboxa w krajach, gdzie odsetek czarnoskórych mieszkańców jest wysoki. Żaden dostawca autonomicznych pojazdów nie chce trafić na nagłówki gazet sugerujące, że jego pojazdy częściej zabijają przedstawicieli danej rasy. Na szczęście testy tej technologii nadal trwają i minie jeszcze nieco czasu, zanim autonomiczne pojazdy staną się powszechne.
