ダービーシャーの捜査で、AIの不正使用が証拠の連鎖の中に入り込む
ダービーシャーの警察官が、複数の事件で証拠資料を作成するために人工知能を使用したとされ、最前線の職務から外され、刑事捜査の対象となっている。ガーディアンが引用した報道によれば、この疑いは司法妨害の可能性として捜査されている。
警察は、この調査は初期段階にあり、逮捕者は出ておらず、影響を受けた可能性のある事件については王立検察局と緊密に連携していると述べた。警察官の氏名は公表されておらず、疑われている不正行為の具体的な内容も明らかにされていない。
そうした情報の空白があっても、この事件はすでに重大だ。英国で確認されている同種の捜査としては初めて、刑事手続きのための証拠資料を生成する目的でAIが使われた疑いがある事件のように見える。つまり、これは単なる内部懲戒問題ではない。警察と裁判所が依拠する信頼モデルそのものへの直接的な挑戦である。
この事件が一つの警察組織を超えて重要な理由
証拠は単なる情報ではない。真正性、証拠保管の連続性、説明責任を保つための規則に従って収集され、記録され、提示される情報だ。生成AIはこの三つすべてを複雑にする。警察官がAIシステムを使って、後に司法手続きに入る資料を起草、修正、要約、または作成した場合、中心的な問いは、その出力が現実、推論、それとも捏造を反映しているのかという点になる。
ダービーシャーの事件が重要なのは、疑いが単にAIを事務補助として使ったことではないからだ。報じられている問題は、証拠資料そのものの作成である。この表現は、刑事手続きの中で最も繊細な地点での失敗の可能性を示している。すなわち、生の事実が、裁判所が依拠しうる記録へと変換される局面だ。
CPSは、ダービーシャー警察と連携し、該当する事件では弁護側や裁判所とも協議していることを認めたが、調査が続いている間はそれ以上のコメントを控えた。これは、検察がすでに、進行中または過去の手続きに影響が及んだ可能性を評価していることを示唆している。
より広い警告は、すでに現れ始めていた
この調査は突然起きたわけではない。ガーディアンによれば、国家警察長協議会のPolice AIセンター責任者であるアレックス・マレー氏は、裁判所向け陳述書の作成などの業務でAIシステムの使用をやめるよう、複数の警察組織に指示が出されたのは、それらが十分に信頼できない可能性があるためだと述べていた。
その警告は今では予見的だったように見える。法的文脈における生成システムの問題は、単に誤りを起こすことだけではない。流暢に、説得力をもって、大規模に誤りうることだ。組織環境では、それが、機械生成の文章が正式で完成されて見えるというだけで、不当な権威を得てしまう危険を生む。
警察組織には、事務作業を自動化し、行政負担を減らしたいという明白な動機がある。しかし刑事司法は、効率化の利益が証拠の信頼性を犠牲にしてはならない領域だ。AIツールが厳格な手続き上の境界なしに導入されれば、準実質的な使い方をしたいという誘惑は、すぐに政策を上回りかねない。
裁判所と被告にとっての信頼の問題
この種の事件で最も直接的な結果は、技術的なものではなく法的なものだ。弁護側は、自分たちが受け取った供述書、要約、時系列、その他の資料がAIによって生成または改変されたのかを知りたがるだろう。裁判所は、開示の問題、証拠への異議、関与した警察官の信頼性を検討する必要があるかもしれない。
だからこそ、「影響を受けた可能性のある事件」という表現が非常に重要になる。証拠準備への信頼が揺らぐと、その影響は元の疑いを超えて広がりうる。その警察官に関連するすべての事件が再検討を要するかもしれず、それらに関わったすべての機関が、どの是正措置が必要かを判断しなければならない可能性がある。
リスクはさらに広い。警察への市民の信頼は、証拠が忠実に収集され記録されているという信念に大きく依存している。AIが不透明な操作と結びつけば、たとえ孤立した不正使用であっても、本来は低リスクな事務作業に役立つはずの正当なデジタルツールへの信頼を損ないかねない。
警察における責任あるAI利用に必要なもの
報じられた事実に基づけば、ダービーシャーの調査は、より厳密な運用ルールの必要性を浮き彫りにしている。少なくとも、AIシステムを使う警察組織は、認められる事務補助と禁じられた証拠生成を明確に区別する必要がある。また、文書がどのように作成されたかを正確に示せるだけの監査記録、開示要件、監督管理も必要だ。
この問題から、いくつかの原則が導かれる。
- 刑事事件業務でのAI利用は、明示的に記録され、検証可能でなければならない。
- 裁判所に影響を与えうる資料は、厳格な承認と開示なしに機械生成されるべきではない。
- 警察官には、ツールの利用方法だけでなく、信頼性の限界についての訓練が必要だ。
- 検察と弁護側には、AI支援文書を特定するための実用的な仕組みが必要だ。
これらの措置はリスクをなくしはしないが、少なくとも曖昧さは減らせる。今のところ、曖昧さこそが核心的な危険だ。自動化がどこで終わり、証拠の著作者性がどこで始まるのか誰にも分からないなら、司法制度は、後からでははるかに抑え込みにくい信頼性の問題を抱え込むことになる。
制度的なAIガバナンスに対する初期のストレステスト
英国の警察は、すでに他の分野でAIを試していた。ガーディアンは、メトロポリタン警察が4月、Palantirが作成したAIツールを使って不正行為の可能性を特定した後、数百人の警察官に対する調査を開始したと報じた。その用途はダービーシャーの疑いとは異なるが、両者は同じ構造的現実を示している。AIは試験運用の段階から、重大な結果を伴う公共部門の意思決定環境へと移行しつつある。
ダービーシャーの捜査は、単独の不正事案に終わるかもしれないし、より広いガバナンスの欠落を露呈するかもしれない。現時点の報道だけでは、どちらの結論も支えられない。だが、より差し迫った教訓は支えている。出力が自由、有罪判断、司法判断に影響しうるとき、組織は生成AIを中立的な生産性レイヤーとして扱うことはできない。
この事件が越えたのはその閾値だ。AIの幻覚に関する抽象的な懸念を、証拠の完全性に関する具体的な問いへと変えている。捜査がどう終わろうとも、警察組織と裁判所がAI支援の事件準備を以前と同じようには見ない可能性は高い。
この記事はガーディアンの報道に基づいています。元記事を読む。
Originally published on theguardian.com