店内アラートが公的な非難になるとき

英国で相次いで報じられた新たな事例が、日常の商取引における顔認識をめぐる議論に、より厳しい視点をもたらしている。The Guardianの報道によると、いくつかの買い物客は店内で呼び止められ、退店を求められ、ライブ顔認識システムによって万引きの疑いがある人物として識別されたと告げられた。関係者は自分たちは無実だと主張し、その後、その非難に異議を唱えたり潔白を証明したりする現実的な手段を見つけるのに苦労したという。

記事は、窃盗対策のために英国小売業へ導入が進むFacewatchに焦点を当てている。同社のウェブサイトは99.98%の精度をうたっており、最近のある月には既知の違反者に関する警告を参加店舗へ50,288件送ったと述べている。しかし、報じられた体験は、高精度とうたわれるシステムであっても、誤りが売り場に届いた瞬間に社会的な害を生みうることを示している。精度の数値は、品物を置いて出て行くよう求められた本人にとっての誤一致の結果を消し去ることはできない。

問題の中心はガバナンスの欠如だ

ここで最も重要なのは、顔認識の利用そのものよりも、導入をめぐる説明責任の弱さかもしれない。報告書で取り上げられた買い物客の一人、Ian Clayton氏は、Home Bargainsの店舗を訪れていた際、自分が万引き犯としてシステムに表示されていると告げられたという。回答を求めて動いた後、最終的に本人開示請求を提出し、以前の出来事に誤って関連付けられていたことを知った。彼はこの体験を「無罪が証明されるまで有罪のように扱われる感覚」だと表現した。

この言葉は、より深い問題を捉えている。AIをめぐる多くの公開議論では、焦点がモデルの精度、ベンダーの主張、そして技術が原理的に機能するかどうかに当たる。しかし、誤ったアラートの対象になった人々にとって切実なのは手続き上の問題だ。誰が判断したのか。システムの誤りなのか、店員の誤りなのか。どんな証拠があるのか。どれだけ早く誤りを修正できるのか。誰が被害の責任を負うのか。

少なくともこれらの事例で報じられた答えは、安心できるものではなかった。十分な助けを得られず、どう苦情を申し立てればよいのか、どうやって無実を証明すればよいのか分からなかったという人もいた。これは、監督と顧客救済が導入の速度に追いついていないことを示している。