すべてを変えた扉のノック

Alvi Choudhuryは1月、Southampton の家族宅で遠隔勤務していた時、Thames Valley警察の警察官が予告なく到着し、彼を手錠をかけて、ほぼ100マイル離れた警察署に連行した。容疑は彼が一度も足を踏み入れたことのない都市での窃盗である。証拠：Choudhury の法的チームによると、彼を約10年若く見える容疑者と混同した顔認証マッチである。

南アジア系の26歳のソフトウェアエンジニアであるChoudhury は、警察の拘束下で約10時間を過ごした後、午前2時に何の容疑もなく釈放された。彼は現在、Thames Valley警察に対して損害賠償請求訴訟を起こしており、彼の逮捕につながった偏った技術が、英国の法執行機関がいかに自動監視を配備しているかの体系的な失敗を表しているとして異議を唱えている。

顔認証の誤認識がどのように発生するのか

顔認証システムは、顔の幾何学的特徴（目の間隔、あごのライン、頬骨の輪郭）をマッピングし、それらの測定値を既知の個人のデータベースと比較することで機能する。近年、技術は大幅に改善されているが、独立した監査では、人種、女性、および若い個人の識別時に、一貫して高い誤認識率が見出されている。

National Institute of Standards and Technology（NIST）による2019年の画期的な研究では、多くの商用顔認証アルゴリズムが、黒人およびアジア系の顔では白人の顔と比べて10～100倍高い誤認識率を示すことが明らかになった。これらの発見にもかかわらず、英国の警察力は引き続き技術の使用を拡大しており、しばしば最小限の公開監視である。

Choudhury のケースでは、システムは明らかに、2人の南アジア系の男性を区別することに失敗した。彼らの年齢差は大きく、国の異なる地域に住んでいた。彼の弁護士は、これはまさに市民自由組織が長年にわたって警告してきた種類の失敗だと主張している。

英国警察の顔認証が精査されている

不当な逮捕は、英国における顔認証について特に紛争が多い時期に起こっている。Metropolitan Police や South Wales Police を含むいくつかの警察力は、公共の場、駅、ショッピングセンターでライブ顔認証カメラを展開した。技術はリアルタイムで顔をスキャンし、指名手配個人のウォッチリストと比較する。

Liberty や Big Brother Watch を含むプライバシー擁護者は、これらの展開に対して繰り返された法的異議を起こしている。2020年、控訴裁判所は South Wales Police による顔認証の使用がプライバシー権および平等法に違反していると判断したが、この判断は技術の包括的な禁止をもたらさなかった。

Thames Valley Police は進行中の法的手続きを理由に、Choudhury のケースの詳細については公開コメントを出していない。ただし、同警察は以前、顔認証の使用を重大な犯人を識別するための適切な手段として擁護している。

アルゴリズムエラーの人間的コスト

Choudhury にとって、誤認識の結果は、拘束下で過ごした10時間をはるかに超えていた。The Guardian とのインタビューで、彼は経験を非常に屈辱的で外傷的であると説明し、隣人が彼の逮捕を目撃しており、その事件が彼の精神衛生と法執行機関への信頼に影響を与えたことを指摘している。

彼のケースは孤立していない。米国では、少なくとも3人の黒人男性——Robert Williams、Michael Oliver、Nijeer Parks——が顔認証エラーのため不当に逮捕されている。Williams はDetroit で小売窃盗アルゴリズムが彼を誤認識した後、彼の幼い娘の前で拘束された。Parks は New Jersey での犯罪と誤りなく関連付けられた後、10日間獄に入った。

これらのケースは共通のテーマを共有している。被害者は圧倒的に有色人種であり、逮捕警察官はアルゴリズムマッチをほぼ確実な証拠ではなく、さらなる検証を必要とする調査上の手がかりとして扱った。

規制への呼び声が高まる

Choudhury のケースは、英国における顔認証技術のより厳格な規制に対する更新された呼び声を燃料とする可能性が高い。2024年に施行された European Union の AI法には、公共の場での実時間生体認証識別に対する大幅な制限が含まれており、法執行機関の例外を含む。EU を離脱した英国はこれらのルールに拘束されず、著しく寛容なアプローチを採用している。

議会のいくつかのメンバーは、独立した精度およびバイアステストのための標準を確立できるまで、警察によるライブ顔認証の使用に対する一時停止を要求している。Information Commissioner's Office も、技術の使用を管理する明確な法的枠組みの欠如について懸念を表明している。

  • 市民自由グループは、法執行機関によって顔認証システムが配備される前に、必須のバイアス監査を要求している
  • 法の専門家は、既存の平等法制が警察に顔認証が民族少数派に不釣り合いに影響しないことを証明するよう要求すべきだと主張している
  • 英国警察に顔認証を提供する技術企業は、人口統計グループで分解された精度データを公表するよう成長する圧力に直面している

次に何が来るか

Choudhury の法的チームは Thames Valley Police に対して損害賠償の正式な請求を提出した。成功した場合、このケースは英国の裁判所がアルゴリズムの誤認識から生じた不当な逮捕をどのように扱うかについて重要な法的先例を確立することができた。また、顔認証の警察使用を管理する包括的な法制定の推進を加速させることもできた。

一方、技術は引き続き広がっている。イングランドおよびウェールズ全体の推定20の警察力は現在、何らかの形の顔認証能力にアクセスでき、Home Office は警察の近代化の一環としてその使用を拡大することへの支持を信号している。

Choudhury にとって、問題は顔認証が合法的な法執行の応用を持っているかどうかではなく、記録された人種差別の偏見を持つ技術が、堅牢な保障なしに人々の自由を奪うために信頼されるべきかどうかである。彼のケースは、少なくとも今のところ、これらの保障は危険なほど不充分なままであることを示唆している。

この記事は The Guardian による報道に基づいている。オリジナル記事を読む。