Rząd UK Opracowuje Kontrowersyjne Narzędzie AI do ‚Przewidywania Morderstw’

Rząd Wielkiej Brytanii pracuje nad kontrowersyjnym projektem, który wykorzystuje sztuczną inteligencję do przewidywania, kto może popełnić morderstwo w przyszłości.

Istnienie programu wyszło na jaw dzięki wnioskom o udostępnienie informacji, które uzyskała grupa monitorująca Statewatch.

Ich wnioski sugerują, że wykorzystywane są wrażliwe dane osobowe. Dotyczy to między innymi kart zdrowia, informacji o zdrowiu psychicznym, historii uzależnień oraz danych na temat osób, które nie zostały skazane za żadne przestępstwa.

Statewatch informuje, że Ministerstwo Sprawiedliwości (MoJ) stoi na czele tego planu, analizując istniejące akta osób w celu zapobiegania poważnym przestępstwom.

Pierwotnie nazwany „projektem prognozowania zabójstw”, obecnie nazywa się „współdzielenie danych w celu poprawy oceny ryzyka”. Projekt jest obecnie w fazie badawczej, ale kampanie i obrońcy prywatności wyrażają obawy, jak donosi Statewatch.

Jednak urzędnicy temu zaprzeczają. The Guardian informuje, że rzecznik Ministerstwa Sprawiedliwości stwierdził: „Ten projekt jest prowadzony wyłącznie w celach badawczych. Został zaprojektowany z wykorzystaniem istniejących danych gromadzonych przez Służbę Więzienną i Nadzoru Sądowego HM oraz siły policyjne na temat skazanych przestępców, aby pomóc nam lepiej zrozumieć ryzyko popełnienia poważnej przemocy przez osoby na zwolnieniu warunkowym. Raport zostanie opublikowany w odpowiednim czasie.”

Według Statewatch, policja w Greater Manchester udostępniła dane dotyczące nawet pół miliona osób. Wśród nich były ofiary, podejrzani oraz osoby znajdujące się w sytuacji podatnej na ryzyko.

Sofia Lyall, badaczka w Statewatch, ostro skrytykowała ten projekt, mówiąc: „Próba Ministerstwa Sprawiedliwości stworzenia tego systemu przewidywania morderstw to najnowszy mrożący krew w żyłach i dystopijny przykład dążenia rządu do rozwoju tak zwanych systemów ‚przewidywania’ przestępstw.”

Ostrzegła, że system pogłębi dyskryminację rasową i klasową: „Ten najnowszy model, który korzysta z danych pochodzących od naszej instytucjonalnie rasistowskiej policji i Home Office, wzmocni i zwiększy strukturalną dyskryminację leżącą u podstaw systemu prawa karnego.”

„Użycie tak wrażliwych danych na temat zdrowia psychicznego, uzależnień i niepełnosprawności jest wysoce inwazyjne i niepokojące” – dodała.

Rząd twierdzi, że narzędzia takie jak to mogą poprawić sposób, w jaki służby kuratorskie oceniają ryzyko i zapobiegają przestępstwom z użyciem przemocy. Krytycy jednak mówią, że system ten może prowadzić do niesprawiedliwego etykietowania ludzi jako potencjalnych morderców z powodu błędnych i stronniczych danych.

Rząd argumentuje, że te narzędzia poprawią zdolność służb kuratorskich do oceny ryzyka i zapobiegania przestępstwom z użyciem przemocy. Krytycy jednak ostrzegają, że system naraża na ryzyko oznaczenia ludzi jako potencjalnych morderców na podstawie złych i stronniczych danych.

Podczas gdy system jest nadal w fazie rozwoju, Statewatch informuje, że dokumenty wspominają o „futurystycznej operacyjności” systemu, co budzi obawy, że może on wkrótce być wykorzystywany w rzeczywistych decyzjach dotyczących policyjnych działań.