Un informe de la Inspección de la Policía de Su Majestad, el organismo que supervisa a los cuerpos policiales de Inglaterra y Gales, advierte de que los agentes pueden detener a personas inocentes si tratan los resultados del reconocimiento facial como pruebas. El riesgo es mayor para las personas de minorías étnicas, porque el algoritmo tiene más probabilidades de señalarlas por error.
El estudio se centra en el reconocimiento facial retrospectivo, que compara una imagen tomada en un caso concreto con una base de fotos ya guardadas, como las de detenciones anteriores. No es lo mismo que el reconocimiento en directo, que busca sospechosos en tiempo real en la calle y que genera mucha más polémica. La policía considera la técnica retrospectiva menos conflictiva y más sencilla de ajustar.
Coincidencias tratadas como pruebas
El problema de fondo es de interpretación. Los inspectores descubrieron que algunos investigadores no sabían que los resultados del reconocimiento facial son una pista y no una prueba, y que necesitan más comprobaciones antes de que los agentes actúen.
En algunos casos, los agentes se apoyaron demasiado en esos resultados, lo que llevó a actuaciones inadecuadas. Además, no siempre se hacían las verificaciones necesarias para confirmar cada coincidencia. El informe advierte de que «esto crea el riesgo de que las personas puedan ser identificadas o detenidas de forma incorrecta, lo que podría socavar la confianza del público en la tecnología».
La calidad de las imágenes también juega en contra. Los auditores encontraron casos en los que se subían fotos borrosas o con varias caras, lo que reducía la fiabilidad de las coincidencias que devolvía el sistema.
Un algoritmo que todavía sesga
El informe reconoce que el algoritmo sigue teniendo sesgos y que es más propenso a marcar por error a personas de minorías étnicas como sospechosas. Jasleen Chaggar, de la organización de defensa de la privacidad Big Brother Watch, sostiene que los ajustes actuales del sistema tienden a identificar mal a mujeres, personas asiáticas y personas negras.
El informe también detecta un fallo de conservación de datos: fotos de detenidos que deberían haberse borrado siguen almacenadas. Chaggar añade que la policía ni siquiera registra cuándo usa esta herramienta, de modo que alguien podría convertirse en sospechoso sin saber por qué.
Falta un marco legal claro
La inspección concluye que la legislación no ha seguido el ritmo de la tecnología. No existe un marco legal completo que regule su uso, lo que dificulta que los cuerpos policiales sepan en qué base legal se apoyan y qué salvaguardas necesitan. La inspectora jefe Kathryn Stone lo resume así: «Las fuerzas policiales deben poder demostrar que existen salvaguardas adecuadas, que los riesgos de sesgo y de conservación de datos se gestionan bien y que las decisiones siguen en manos de personas».
La Policía defiende la herramienta. Ben Russell, responsable de reconocimiento facial del Consejo Nacional de Jefes de Policía, asegura que su uso es ético, proporcionado y responsable, y celebra que el informe reconozca su potencial. Por su parte, Pete Fussey, profesor de la Universidad de Southampton y antiguo asesor policial en esta materia, recuerda que la revisión humana de los sistemas de IA es un requisito legal, y el informe muestra casos en los que los investigadores aceptaron las sugerencias del ordenador sin más comprobaciones.
El organismo pide ahora una ley más clara, normas nacionales más sólidas y una supervisión mejor organizada. Lo que pase después dependerá de si las recomendaciones se aplican antes de que otro error lleve a una detención injusta.




