Będą przewidywać zbrodnie, zanim się wydarzą. Wizja z "Raportu mniejszości" staje się faktem

Brytyjskie Ministerstwo Sprawiedliwości (MoJ) prowadzi badania nad algorytmem, który ma analizować dane tysięcy osób w celu identyfikacji tych, które stanowią największe ryzyko popełnienia poważnych przestępstw, w tym zabójstw. Projekt został pierwotnie nazwany homicide prediction project (projekt przewidywania zabójstw), jednak później zmieniono jego nazwę na sharing data to improve risk assessment (udostępnianie danych w celu usprawnienia oceny ryzyka).

Inicjatywa została zlecona przez biuro premiera Rishiego Sunaka i jest kontynuowana przez obecny rząd Partii Pracy. Projekt wykorzystuje dane o przestępstwach sprzed 2015 r., pochodzące z wielu oficjalnych źródeł, w tym od Służby Więziennej i policji Wielkiego Manchesteru. System ma analizować cechy przestępców, które zwiększają ryzyko popełnienia zabójstwa oraz badać alternatywne i innowacyjne techniki nauki o danych do oceny ryzyka zabójstwa.

To też jest ciekawe:

Ministerstwo Sprawiedliwości twierdzi, że projekt dostarczy dowodów na ulepszenie oceny ryzyka poważnych przestępstw i ostatecznie przyczyni się do ochrony społeczeństwa poprzez lepszą analizę. Władze podkreślają, że narzędzie jest obecnie wykorzystywane wyłącznie do celów badawczych i politycznych, a nie w systemie sądownictwa.

System analizuje rozległe zbiory danych dotyczące od 100 tys. do 500 tys. osób. Według dokumentów uzyskanych przez organizację Statewatch wykorzystywane informacje obejmują:

Ministerstwo Sprawiedliwości twierdzi, że używa wyłącznie danych osób, które mają co najmniej jeden wyrok skazujący. Jednak organizacja Statewatch utrzymuje, że w systemie wykorzystywane są również dane osób niekaranych, w tym informacje o ofiarach przemocy domowej i osobach, które same zgłosiły się po pomoc do policji.

Narzędzie do przewidywania morderstw jest częścią szerszego trendu wykorzystywania technologii predictive policing (prognozowania przestępczości) w Wielkiej Brytanii. Według badań Amnesty International, co najmniej 33 brytyjskie jednostki policyjne wdrożyły już podobne systemy.

W brytyjskim systemie prawnym funkcjonują dwa główne typy narzędzi prognozujących. Programy mapujące przestępczość  wykorzystują dane policyjne o przeszłych przestępstwach do identyfikacji gorących punktów na mapie, które następnie są częściej patrolowane przez policję. Programy oceny ryzyka indywidualnego przewidują zachowanie konkretnych osób, w tym prawdopodobieństwo popełnienia określonych przestępstw.

Przykładem istniejącego już systemu jest Offender Assessment System (OASys), używany w Anglii i Walii do oceny ryzyka osób przebywających w więzieniach i na probacji. Badania przeprowadzone przez samo Ministerstwo Sprawiedliwości wykazały, że algorytmy te są bardziej dokładne w przypadku białych przestępców, a mniej skuteczne wobec osób czarnoskórych i o mieszanym pochodzeniu etnicznym.

System przewidywania morderstw spotyka się z ostrą krytyką ze strony organizacji broniących praw człowieka i prywatności. Sofia Lyall, badaczka z organizacji Statewatch, określiła projekt jako mrożący krew w żyłach i dystopijny przykład intencji rządu do rozwijania systemów 'przewidywania' przestępczości.

Krytycy argumentują, że algorytmy nie są neutralne - odzwierciedlają i wzmacniają istniejące wzorce dyskryminacji, ponieważ opierają się na danych z systemu, który wykazuje uprzedzenia instytucjonalne wobec mniejszości etnicznych i społeczności o niskich dochodach. Amnesty International twierdzi, że narzędzia te napędzają rasizm poprzez ciągłe kierowanie działań policyjnych na już nadmiernie kontrolowane obszary i społeczności.

Wykorzystywanie wrażliwych danych, takich jak informacje o zdrowiu psychicznym, uzależnieniach i niepełnosprawności, budzi poważne obawy o naruszenie prywatności. Statewatch argumentuje, że budowanie zautomatyzowanego narzędzia do profilowania ludzi jako brutalnych przestępców jest głęboko niewłaściwe, a wykorzystywanie tak wrażliwych danych jest wysoce inwazyjne i alarmujące.

Badania wykazują, że algorytmiczne systemy przewidywania przestępczości są z natury wadliwe. Raport Ministerstwa Sprawiedliwości z 2023 r., który wykorzystywał analizę statystyczną do przewidywania morderstw na podstawie wcześniejszych przestępstw, stwierdził uprzedzenia etniczne w tych narzędziach predykcyjnych.

Idea przewidywania i zapobiegania przestępstwom zanim zostaną popełnione ma oczywiste zalety dla bezpieczeństwa publicznego, ale rodzi fundamentalne pytania o wolność, prywatność i praworządność. System przypomina dystopijną wizję z opowiadania Philipa K. Dicka Raport mniejszości (później zekranizowanego), w którym specjalna jednostka policji aresztuje potencjalnych morderców, zanim ci popełnią zbrodnię.

Władze brytyjskie zapowiadają publikację raportu oceniającego skuteczność systemu do użytku rządowego. Przyszłość projektu będzie prawdopodobnie zależeć od wyników tych badań oraz od reakcji społecznej i politycznej na kontrowersje, które wywołuje.