Un coup à la porte qui a tout changé
Alvi Choudhury travaillait depuis son domicile familial à Southampton en janvier quand des agents de police de Thames Valley sont arrivés sans prévenir, l'ont menotté et transporté dans un poste situé à près de 100 miles. L'accusation : un cambriolage dans une ville où il n'avait jamais mis les pieds. La preuve : une correspondance de reconnaissance faciale qui, selon l'équipe juridique de Choudhury, l'a confondu avec un suspect qui semblait avoir environ 10 ans de moins.
Choudhury, un ingénieur logiciel de 26 ans d'origine sud-asiatique, a passé près de 10 heures en garde à vue avant d'être libéré à 2 heures du matin sans charges. Il poursuit maintenant en dommages-intérêts contre la police de Thames Valley, arguant que la technologie biaisée qui a mené à son arrestation représente une défaillance systémique dans la façon dont les forces de l'ordre britanniques déploient la surveillance automatisée.
Comment la mauvaise identification par reconnaissance faciale se produit
Les systèmes de reconnaissance faciale fonctionnent en cartographiant les caractéristiques géométriques d'un visage — la distance entre les yeux, la forme de la mâchoire, le contour des pommettes — et en comparant ces mesures à des bases de données d'individus connus. Bien que la technologie se soit considérablement améliorée ces dernières années, les audits indépendants ont systématiquement découvert des taux d'erreur plus élevés lors de l'identification de personnes de couleur, de femmes et de jeunes individus.
Une étude marquante de 2019 du National Institute of Standards and Technology (NIST) a révélé que de nombreux algorithmes commerciaux de reconnaissance faciale présentaient des taux d'erreur 10 à 100 fois plus élevés pour les visages noirs et asiatiques par rapport aux visages blancs. Malgré ces résultats, les forces de police du Royaume-Uni ont continué à étendre l'utilisation de la technologie, souvent avec un contrôle public minimal.
Dans le cas de Choudhury, le système n'a apparemment pas pu distinguer deux hommes d'origine sud-asiatique malgré une différence d'âge significative et le fait qu'ils vivaient dans des parties différentes du pays. Ses avocats soutiennent que c'est précisément le type de défaillance que les organisations de défense des libertés civiles ont dénoncé depuis des années.
La reconnaissance faciale de la police britannique sous surveillance
L'arrestation injustifiée intervient à un moment particulièrement litigieux pour la reconnaissance faciale au Royaume-Uni. Plusieurs forces de police, dont la Metropolitan Police et la police du Pays de Galles du Sud, ont déployé des caméras de reconnaissance faciale en direct lors d'événements publics, de gares et de centres commerciaux. La technologie scanne les visages en temps réel et les compare à des listes de surveillance d'individus recherchés.
Les militants de la vie privée, y compris Liberty et Big Brother Watch, ont engagé des contestations juridiques répétées contre ces déploiements. En 2020, la Cour d'appel a statué que l'utilisation de la reconnaissance faciale par la police du Pays de Galles du Sud avait violé les droits à la vie privée et les lois sur l'égalité, bien que la décision n'ait pas entraîné une interdiction générale de la technologie.
La police de Thames Valley n'a pas publiquement commenté les spécificités du cas de Choudhury, citant les procédures judiciaires en cours. Cependant, la force a précédemment défendu son utilisation de la reconnaissance faciale comme un outil proportionné pour identifier les criminels graves.
Le coût humain des erreurs algorithmiques
Pour Choudhury, les conséquences de la mauvaise identification s'étendaient bien au-delà des 10 heures passées en garde à vue. Dans des entretiens avec The Guardian, il a décrit l'expérience comme profondément humiliante et traumatisante, notant que des voisins avaient assisté à son arrestation et que l'incident a affecté sa santé mentale et sa confiance envers les forces de l'ordre.
Son cas n'est pas isolé. Aux États-Unis, au moins trois hommes noirs — Robert Williams, Michael Oliver et Nijeer Parks — ont été arrêtés à tort en raison d'erreurs de reconnaissance faciale. Williams a été détenu devant ses jeunes filles à Detroit après qu'un algorithme de vol à l'étalage l'ait mal identifié. Parks a passé 10 jours en prison après avoir été faussement lié à un crime dans le New Jersey.
Ces cas partagent un fil conducteur : les victimes étaient de manière disproportionnée des personnes de couleur, et les agents d'arrêt ont traité la correspondance algorithmique comme une preuve quasi certaine plutôt que comme une piste d'enquête nécessitant une vérification ultérieure.
Les appels à la réglementation s'intensifient
L'affaire Choudhury est susceptible d'alimenter des appels renouvelés à une réglementation plus stricte de la technologie de reconnaissance faciale au Royaume-Uni. La Loi de l'Union européenne sur l'IA, qui est entrée en vigueur en 2024, comprend des restrictions importantes sur l'identification biométrique en temps réel dans les espaces publics, bien qu'avec des exceptions pour l'application de la loi. Le Royaume-Uni, ayant quitté l'Union européenne, n'est pas lié par ces règles et a adopté une approche notablement plus permissive.
Plusieurs membres du Parlement ont appelé à un moratoire sur l'utilisation par la police de la reconnaissance faciale en direct jusqu'à ce que des normes indépendantes pour les tests de précision et de biais puissent être établies. Le Bureau du commissaire à l'information a également exprimé des préoccupations concernant l'absence d'un cadre juridique clair régissant l'utilisation de la technologie.
- Les groupes de défense des libertés civiles demandent des audits de biais obligatoires avant que tout système de reconnaissance faciale ne soit déployé par les forces de l'ordre
- Les experts juridiques soutiennent que la législation sur l'égalité existante devrait exiger que la police démontre que la reconnaissance faciale n'affecte pas de manière disproportionnée les minorités ethniques
- Les entreprises technologiques fournissant la reconnaissance faciale à la police britannique ont fait face à une pression croissante pour publier des données de précision ventilées par groupe démographique
Que se passe-t-il ensuite
L'équipe juridique de Choudhury a déposé une demande officielle de dommages-intérêts contre la police de Thames Valley. Si elle aboutit, l'affaire pourrait établir un important précédent juridique quant à la façon dont les tribunaux britanniques traitent les arrestations injustifiées résultant d'une mauvaise identification algorithmique. Elle pourrait également accélérer l'effort visant à promulguer une législation complète régissant l'utilisation par la police de la reconnaissance faciale.
Entre-temps, la technologie continue de se propager. On estime qu'environ 20 forces de police en Angleterre et au Pays de Galles ont désormais accès à une forme de capacité de reconnaissance faciale, et le ministère de l'Intérieur a signalé son soutien à l'expansion de son utilisation dans le cadre des efforts plus larges de modernisation de la police.
Pour Choudhury, la question n'est pas de savoir si la reconnaissance faciale a des applications légitimes en matière d'application de la loi — c'est si une technologie avec des biais raciaux documentés devrait être fiable pour priver les gens de leur liberté sans des garanties robustes en place. Son cas suggère que, pour l'instant, ces garanties restent dangereusement inadéquates.
Cet article s'appuie sur les reportages de The Guardian. Lisez l'article original.
