El Ministerio de Justicia del Reino Unido está desarrollando un algoritmo “escalofriante y distópico” que utiliza datos privados, posiblemente sensibles, de personas inocentes, aunque es un intento loable de crear una herramienta de “predicción de asesinatos” para identificar a individuos con mayor probabilidad de cometer homicidios.
“El intento del Ministerio de Justicia de construir este sistema de predicción de asesinatos es el último ejemplo escalofriante y distópico de la intención del gobierno de desarrollar sistemas de ‘predicción’ del crimen”, dijo Sofia Lyall, una investigadora de Statewatch.
El grupo de presión Statewatch descubrió la existencia del proyecto y algunos de sus funcionamientos a través de documentos obtenidos mediante solicitudes de Libertad de Información. Lyall criticó el proyecto porque, según ella, “una y otra vez, la investigación muestra que los sistemas algorítmicos para ‘predecir’ el crimen son inherentemente defectuosos.” Dijo que estos sistemas de inteligencia artificial perfilan a las personas como criminales antes de que hayan hecho algo malo.
Los investigadores del gobierno están presuntamente utilizando algoritmos de vigilancia que analizan la información de miles de personas, incluidas las víctimas de crímenes, para prevenir el crimen intentando identificar a aquellos con mayor riesgo de cometer delitos violentos graves.
Según una entrevista exclusiva del Guardian con un portavoz del gobierno, el Ministerio de Justicia “revisará las características de los delincuentes que aumentan el riesgo de cometer homicidios” y “explorará técnicas alternativas e innovadoras de ciencia de datos para la evaluación de riesgos de homicidio”.
El portavoz agregó: “El proyecto proporcionará evidencia para mejorar la evaluación de riesgos de delitos graves y, en última instancia, contribuirá a proteger al público a través de un mejor análisis.”
Pero Statewatch y otros activistas critican el proyecto como mal concebido, especialmente dado que utiliza datos de la “racista institucional” policía y Ministerio del Interior del Reino Unido, lo que Lyall dijo: “Reforzará y magnificará la discriminación estructural que subyace en el sistema legal penal.”
Statewatch pidió al Ministerio de Justicia que “detenga inmediatamente el desarrollo adicional de esta herramienta de predicción de asesinatos. En lugar de gastar dinero en desarrollar inteligencia artificial y algoritmos dudosos y racistas, el gobierno debe invertir en servicios de bienestar realmente de apoyo.”
La oficina del primer ministro del Reino Unido encargó el controvertido proyecto de vigilancia cuando Rishi Sunak estaba en el poder. Utiliza datos sobre el crimen de varias fuentes gubernamentales, como el Servicio de Libertad Condicional y la policía de Greater Manchester, anteriores a 2015.
El proyecto utiliza información privada de las personas, incluidos sus nombres, fechas de nacimiento, género, etnia y un número que los identifica en el ordenador nacional de la policía.