Algorytm Amazonu porównał zdjęcia amerykańskich kongresmenów z listami gończymi. Okazali się przestępcami
Rekognition to algorytm rozpoznawania twarzy opracowany przez firmę Amazon i testowany aktualnie przez policję w Orlando. Niestety jego skuteczność pozostawia zbyt wiele do życzenia, żeby wykorzystywać go na sali sądowej.
Niezależne testy algorytmu zostały przeprowadzone przez organizację American Civil Liberties Union, zajmującą się ochroną praw obywatelskich gwarantowanych przez konstytucję Stanów Zjednoczonych. Test ACLU był bardzo prosty, jednak nie sposób zarzucić mu błędnej metodologii. Rekognition dostał zdjęcia amerykańskich kongresmenów i porównał je z aktualną bazą listów gończych.
Rekognition zidentyfikował amerykańskich kongresmenów, jako poszukiwanych przestępców.
Wynik? 28 kongresmenów okazało się poszukiwanymi przestępcami. Oczywiście tylko w oczach algorytmu. Taka niedokładność wystarczyła, żeby zakwestionować wykorzystanie algorytmu przez amerykańskie służby. Zdaniem przedstawicieli ACLU algorytm opracowany przez firmę Amazon może nieumyślnie zrujnować dobre imię przypadkowego Amerykanina, jeśli ten zostanie błędnie rozpoznany, jako poszukiwany przestępca.
Organizacje, takie jak American Civil Liberties Union mają tendencję do lekkiej przesady w takich sprawach. Rzeczywiście, policja w Orlando korzysta z systemu Rekognition, ale wyniki algorytmu są potem weryfikowane przez ludzkiego policjanta. Nie ma więc tutaj mowy o tym, że jakiś bogu ducha winny Amerykanin zostanie aresztowany za zbrodnie, których nie popełnił. No, przynajmniej nie na bazie rozpoznania go przez algorytm komputerowy.
Test algorytmu Rekognition wykonany przez UCLA pozostawia jednak wiele do życzenia...
Co więcej, wyniki testu doczekały się oficjalnego komentarza przez firmę Amazon. Rzecznik prasowy producenta algorytmu zauważa, że test ACLU został wykonany na domyślnych ustawieniach, które dopuszczają 80 proc. zgodność podczas rozpoznawania twarzy. W wersji używanej przez amerykańską policję, minimalna zgodność to 95 proc. Brzmi to bardzo przekonująco i będąc na miejscu ACLU, zleciłbym wykonanie drugiego testu, ze zmienionymi ustawieniami algorytmu.
Coś mi jednak mówi, że nic takiego się nie stanie. Całą sprawą zainteresowali się już zresztą członkowie amerykańskiego kongresu. Nic dziwnego. W końcu Rekognition 28 z nich rozpoznał jako przestępców. Kongresmeni Gutiérrez, DeSaulnier i Markey zwrócili się do prezesa firmy Amazon z prośbą o udostępnienie pełnej listy amerykańskich służb porządkowych, które aktualnie korzystają z algorytmu Rekognition.
Policyjna kariera algorytmu stoi pod znakiem zapytania.
Cała sprawa może zakończyć się nienajlepiej, jeśli chodzi wykorzystywanie nowych technologii w policji i innych służbach. I nie mówimy tutaj o dyskusyjnym wykorzystaniu tłumacza Google, które umożliwiło policjantowi z Utah przeszukanie samochodu podejrzanego.
Rekognition to narzędzie nadal nadzorowane przez człowieka, które przy odpowiedniej konfiguracji jest w stanie wyręczyć policjantów w żmudnym ale niezbyt skomplikowanym zadaniu, dzięki czemu mogą oni swój czas na służbie wykorzystać w znacznie lepszy sposób. Broniąc się przed nowymi technologiami i krytykując je na każdym froncie nikt nie sprawi, że świat będzie lepszy.
