面部识别错误导致英国冤案逮捕

一切改变的敲门声

阿尔维·乔杜里在1月份从他位于南安普顿的家中工作时,泰晤士河谷警察局的警官突然到达,将他铐起来,并将他运送到近100英里外的警察局。罪名:他从未去过的城市中的一起入室盗窃案。证据:一个面部识别匹配,根据乔杜里的法律团队,该匹配将他与一个看起来大约年轻10岁的嫌疑人混淆了。

26岁的南亚裔软件工程师乔杜里在警察拘留了近10个小时后,于凌晨2点被释放,没有提出任何指控。他现在正对泰晤士河谷警察局提起损害赔偿诉讼,辩称导致他被逮捕的有偏见的技术代表了英国执法部门部署自动监控的系统性失败。

面部识别系统通过映射面部的几何特征——眼睛之间的距离、下颌线的形状、颧骨的轮廓——并将这些测量与已知个人的数据库进行比较来工作。虽然该技术在近年来有了显著改进,但独立审计一致发现,在识别有色人种、女性和年轻个体时出现更高的错误率。

美国国家标准与技术研究院(NIST)在2019年进行的一项里程碑式研究发现,许多商业面部识别算法对黑人和亚洲人面孔的错误率比对白人面孔高10到100倍。尽管有这些发现,英国各地的警察部队仍继续扩大该技术的使用,通常几乎没有公众监督。

在乔杜里案件中,尽管存在明显的年龄差异以及他们住在该国不同地区的事实,该系统显然未能区分两名南亚后裔的男子。他的律师辩称,这正是民权组织多年来一直警告的那种失败。

这起冤案在英国面部识别备受争议之际发生。包括伦敦警察厅和南威尔士警察在内的多个警察部队已在公共活动、火车站和购物中心部署了实时面部识别摄像头。该技术实时扫描面部,并将其与通缉人员名单进行比较。

包括Liberty和Big Brother Watch在内的隐私倡导者已对这些部署提出了多次法律诉讼。在2020年,上诉法院裁定南威尔士警察对面部识别的使用违反了隐私权和平等法,尽管该裁决并未导致对该技术的全面禁止。

泰晤士河谷警察局因法律诉讼仍在进行中而未公开评论乔杜里案的具体情况。但是,该部队以前曾为其将面部识别作为识别严重罪犯的相称工具而进行过辩护。

对乔杜里而言,错误识别的后果远远超出了他在拘留中度过的10个小时。在接受《卫报》采访时,他将这次经历描述为深深的羞辱和创伤,指出邻居目睹了他的逮捕,该事件影响了他的心理健康和他对执法部门的信任。

他的案例并非孤立。在美国,至少三名黑人男性——罗伯特·威廉姆斯、迈克尔·奥利弗和尼杰·帕克斯——因面部识别错误而被错误逮捕。威廉姆斯在底特律因盗窃算法错误识别而被拘留在他年幼女儿面前。帕克斯在新泽西州因被错误地与一起犯罪联系起来而在监狱中度过了10天。

这些案件有一个共同点:受害者不成比例地是有色人种,逮捕警官将算法匹配视为几乎确定的证据,而不是需要进一步验证的调查线索。

乔杜里案件可能会促使人们对英国面部识别技术的更严格监管提出新的呼声。欧盟的AI法案于2024年生效,包括对公共场所实时生物识别的重大限制,尽管对执法部门有例外。英国已离开欧盟,不受这些规则约束,采取了明显更宽松的方法。

议会的几名成员呼吁对警察使用实时面部识别进行暂停,直到可以建立准确性和偏见测试的独立标准。信息专员办公室也对缺乏管理该技术使用的明确法律框架表示担忧。

乔杜里的法律团队已对泰晤士河谷警察局提起正式损害赔偿诉讼。如果成功,该案件可能会为英国法院如何处理由算法错误识别导致的冤案建立重要法律先例。它也可能加速推动管理警察使用面部识别的综合立法。

与此同时,该技术继续传播。据估计,英格兰和威尔士约20支警察部队现在可以访问某种形式的面部识别能力,内政部已表示支持扩大其使用,作为更广泛的警务现代化努力的一部分。

对乔杜里而言,问题不在于面部识别是否有合法的执法应用——而是是否应该相信一项有记录的种族偏见的技术在没有强大的保护措施的情况下剥夺人们的自由。他的案例表明,至少目前为止,这些保护措施仍然危险地不充分。

本文基于《卫报》的报道。阅读原文。