Cuando una alerta de tienda se convierte en una acusación pública

Un nuevo conjunto de casos reportados en el Reino Unido está endureciendo el debate sobre el reconocimiento facial en el comercio cotidiano. Según la cobertura de The Guardian, a algunos compradores se les abordó en tiendas, se les pidió que se marcharan y se les informó que un sistema de reconocimiento facial en vivo los había identificado como sospechosos de robo en tiendas. Las personas involucradas dicen que eran inocentes y luego tuvieron dificultades para encontrar una vía práctica para impugnar la acusación o limpiar su nombre.

El artículo se centra en Facewatch, un sistema que se está desplegando en el comercio minorista del Reino Unido para ayudar a combatir el robo. Su sitio web afirma una precisión del 99,98% y dice que envió 50.288 alertas de infractores conocidos a tiendas participantes en un mes reciente. Pero las experiencias reportadas muestran que incluso un sistema promocionado como muy preciso puede volverse socialmente dañino cuando un error llega al piso de la tienda. Los porcentajes de precisión no borran las consecuencias de una coincidencia falsa para la persona a la que se le dice que deje sus artículos y se marche.

La brecha de gobernanza se está convirtiendo en la historia

Quizá el problema más importante aquí no sea el uso bruto del reconocimiento facial, sino la débil rendición de cuentas en torno a su despliegue. Uno de los compradores descritos en el informe, Ian Clayton, dijo que le informaron que aparecía en el sistema como ladrón mientras visitaba una tienda de Home Bargains. Tras intentar obtener respuestas, finalmente presentó una solicitud de acceso del interesado y descubrió que había sido asociado incorrectamente con un incidente previo. Describió la experiencia como sentirse culpable hasta que se demuestre lo contrario.

Esa frase captura el problema más profundo. En muchos debates públicos sobre IA, el énfasis recae en la precisión del modelo, las afirmaciones del proveedor y si la tecnología funciona en principio. Pero para las personas afectadas por una alerta falsa, las preguntas urgentes son procesales. ¿Quién tomó la decisión? ¿Fue un error del sistema o del personal? ¿Qué evidencia existe? ¿Con qué rapidez puede corregirse un error? ¿Quién es responsable del daño?

La respuesta reportada, al menos en estos casos, no fue tranquilizadora. Algunas personas dijeron que recibieron poca ayuda y no sabían cómo quejarse o demostrar su inocencia. Eso sugiere que la supervisión y la reparación para clientes no han seguido el ritmo del despliegue.