Un Golpe en la Puerta Que Lo Cambió Todo
Alvi Choudhury estaba trabajando desde su casa familiar en Southampton en enero cuando agentes de policía del Thames Valley llegaron sin previo aviso, lo esposaron y lo transportaron a una estación a casi 100 millas de distancia. La acusación: un robo en una ciudad en la que nunca había estado. La evidencia: una coincidencia de reconocimiento facial que, según el equipo legal de Choudhury, lo confundió con un sospechoso que parecía tener aproximadamente 10 años menos.
Choudhury, un ingeniero de software de 26 años de origen del sur de Asia, pasó casi 10 horas en custodia policial antes de ser liberado a las 2 a.m. sin cargos. Ahora está buscando daños y perjuicios contra la policía del Thames Valley, argumentando que la tecnología sesgada que llevó a su arresto representa un fallo sistémico en cómo la aplicación de la ley del Reino Unido despliega la vigilancia automatizada.
Cómo Ocurren los Errores de Identificación del Reconocimiento Facial
Los sistemas de reconocimiento facial funcionan mapeando características geométricas de una cara — la distancia entre los ojos, la forma de la mandíbula, el contorno de los pómulos — y comparando esas mediciones contra bases de datos de individuos conocidos. Aunque la tecnología ha mejorado dramáticamente en años recientes, auditorías independientes han encontrado consistentemente tasas de error más altas al identificar personas de color, mujeres e individuos más jóvenes.
Un estudio decisivo de 2019 del Instituto Nacional de Estándares y Tecnología (NIST) encontró que muchos algoritmos comerciales de reconocimiento facial exhibían tasas de error 10 a 100 veces más altas para caras negras y asiáticas en comparación con caras blancas. A pesar de estos hallazgos, las fuerzas de policía en el Reino Unido han continuado expandiendo su uso de la tecnología, a menudo con supervisión pública mínima.
En el caso de Choudhury, el sistema aparentemente no pudo distinguir entre dos hombres de descendencia del sur de Asia a pesar de una diferencia de edad significativa y del hecho de que vivían en diferentes partes del país. Sus abogados argumentan que este es precisamente el tipo de fallo que las organizaciones de derechos civiles han advertido durante años.
El Reconocimiento Facial Policial del Reino Unido Bajo Escrutinio
El arresto injustificado llega en un momento particularmente contencioso para el reconocimiento facial en el Reino Unido. Varias fuerzas de policía, incluyendo la Policía Metropolitana y la Policía de Gales del Sur, han desplegado cámaras de reconocimiento facial en vivo en eventos públicos, estaciones de tren y centros comerciales. La tecnología escanea caras en tiempo real y las compara contra listas de vigilancia de individuos buscados.
Los defensores de la privacidad, incluyendo Liberty y Big Brother Watch, han presentado múltiples desafíos legales contra estos despliegues. En 2020, la Corte de Apelaciones dictaminó que el uso del reconocimiento facial por la Policía de Gales del Sur había violado derechos de privacidad y leyes de igualdad, aunque el fallo no resultó en una prohibición total de la tecnología.
La policía del Thames Valley no ha comentado públicamente sobre los detalles específicos del caso de Choudhury, citando los procedimientos legales en curso. Sin embargo, la fuerza ha defendido previamente su uso del reconocimiento facial como una herramienta proporcional para identificar delincuentes graves.
El Costo Humano de los Errores Algorítmicos
Para Choudhury, las consecuencias de la identificación errónea se extendieron mucho más allá de las 10 horas pasadas en custodia. En entrevistas con The Guardian, describió la experiencia como profundamente humillante y traumática, señalando que los vecinos fueron testigos de su arresto y que el incidente ha afectado su salud mental y su confianza en la aplicación de la ley.
Su caso no es aislado. En los Estados Unidos, al menos tres hombres negros — Robert Williams, Michael Oliver, y Nijeer Parks — han sido arrestados injustificadamente debido a errores del reconocimiento facial. Williams fue detenido frente a sus hijas pequeñas en Detroit después de que un algoritmo de robo lo identificara erróneamente. Parks pasó 10 días en la cárcel después de ser falsamente vinculado a un crimen en Nueva Jersey.
Estos casos comparten un hilo común: las víctimas fueron desproporcionadamente personas de color, y los oficiales que realizaron el arresto trataron la coincidencia algorítmica como evidencia casi segura en lugar de una pista de investigación que requería una verificación adicional.
Los Llamados a la Regulación se Intensifican
El caso de Choudhury probablemente alimentará nuevos llamados para una regulación más estricta de la tecnología de reconocimiento facial en el Reino Unido. La Ley de IA de la Unión Europea, que entró en vigor en 2024, incluye restricciones significativas sobre la identificación biométrica en tiempo real en espacios públicos, aunque con excepciones para la aplicación de la ley. El Reino Unido, habiendo dejado la UE, no está vinculado por estas reglas y ha tomado un enfoque notablemente más permisivo.
Varios miembros del Parlamento han pedido una moratoria sobre el uso de reconocimiento facial en vivo por parte de la policía hasta que se puedan establecer estándares independientes para pruebas de precisión y sesgo. La Oficina del Comisionado de Información también ha expresado preocupaciones sobre la falta de un marco legal claro que rija el uso de la tecnología.
- Los grupos de derechos civiles están pidiendo auditorías obligatorias de sesgo antes de que cualquier sistema de reconocimiento facial sea desplegado por la aplicación de la ley
- Los expertos legales argumentan que la legislación de igualdad existente debería exigir que la policía demuestre que el reconocimiento facial no afecta desproporcionadamente a las minorías étnicas
- Las empresas tecnológicas que suministran reconocimiento facial a la policía del Reino Unido han enfrentado una creciente presión para publicar datos de precisión desglosados por grupo demográfico
Qué Viene Después
El equipo legal de Choudhury ha presentado una demanda formal de daños y perjuicios contra la policía del Thames Valley. Si tiene éxito, el caso podría establecer un precedente legal importante para cómo los tribunales del Reino Unido tratan los arrestos injustificados resultantes de la identificación errónea algorítmica. También podría acelerar el impulso por una legislación integral que rija el uso de la policía del reconocimiento facial.
Mientras tanto, la tecnología continúa propagándose. Se estima que 20 fuerzas de policía en Inglaterra y Gales ahora tienen acceso a alguna forma de capacidad de reconocimiento facial, y la Oficina del Interior ha señalado apoyo para expandir su uso como parte de esfuerzos más amplios para modernizar la vigilancia policial.
Para Choudhury, la pregunta no es si el reconocimiento facial tiene aplicaciones legítimas en la aplicación de la ley — es si una tecnología con sesgos raciales documentados debe ser confiada para privar a las personas de su libertad sin salvaguardas robustas en su lugar. Su caso sugiere que, al menos por ahora, esas salvaguardas siguen siendo peligrosamente inadecuadas.
Este artículo se basa en reportajes de The Guardian. Leer el artículo original.
