裁判官、SNS訴訟の準備書面にAI作成とみられる法的引用を指摘

却下された事件が、裁判書面におけるAIへの新たな警告となった

法曹界はいまだに、生成AIを日々の実務のどこに位置づけるべきかを模索しているが、ひとつだけ明確な点がある。でっち上げの引用は、すぐに信頼性の危機へと発展しうるということだ。Facebookグループ「Are We Dating the Same Guy」に関連する訴訟で新たな例が浮上し、ある判事は、準備書面にAIの不適切使用に関連する誤りや実在しない引用が含まれているようだと述べた。

元資料によると、原告のニッコ・ダンブロジオは、シカゴ拠点のFacebookグループの利用者から “clingy” や “psycho” といった表現で言及されたことを受け、27人の女性、1人の男性、複数のプラットフォームを訴えていた。Metaに対する訴えは、判事が補強引用の質と真正性に懸念を示した後、却下された。

デイビッド・ハミルトン判事は、提出書面には依拠していると主張する立法上の認定への引用がなく、架空の引用に言及していたと記した。判事は、これらの誤りが「生成AIの不適切使用の特徴を示している」と述べ、この争いを、AI生成の法務作業をめぐる急速に拡大する議論の中心に置いた。

裁判所の問題はAIそのものではなく、検証不能な出力だった

生成AIツールは、さまざまな職種で起案、要約、調査支援にますます使われている。法律分野での魅力は明白で、素早くアウトラインを作り、論点を整理し、正式な文体の文章を生成できる。しかし同じシステムは、判例を捏造したり、引用を歪めたり、基本的な検証ですぐに崩れるような自信ありげな参照を出したりすることでも知られている。

この事件は、その中核的な失敗モードを示している。誤りが、急いだ若手弁護士のものか、ずさんな検索手順のものか、AIモデルのものかは裁判所には関係ない。重要なのは、提出物が正確かどうかだ。引用が捏造されていれば、問題は単なる不注意を超える。法的主張は追跡可能な権威に依存するため、それは司法手続の健全性に関わる。

最近のAIと法律をめぐる論争が大きな注目を集めているのは、そのためだ。この技術は時間を節約できる一方で、危険な「網羅性の幻想」を生み出すこともある。準備書面は洗練され、十分に裏付けられているように見えても、実在しない権威や、引用資料には見当たらない記述を含んでいることがある。

より広い制度的問題

ダンブロジオ事件はまた、AIの問題が、プラットフォーム統治、オンライン言論、名誉毀損の交差点にある事件へと入り込んでいることを示している。SNS訴訟は、利用者の言論、モデレーション、責任の境界を試すため、公共の関心を集めやすい。そこにAI生成の法的欠陥が持ち込まれると、焦点は本来の請求から、書面そのものの基本的な信頼性へと移ってしまう。

裁判所にとって、これは倫理上の課題であると同時に、運用上の課題でもある。裁判官や書記官は、提出前に確認されているはずの資料を検証するために時間を割かなければならない。相手方にとっては、存在しない権威に基づく主張に応答するための余計なコストを意味する。依頼人にとっては、避けられるはずの誤りで事件が弱体化すれば、評判面でも実体面でも即座に損害が生じうる。

この出来事はまた、多くの裁判所がすでに恒常的な命令や警告で示してきた点を補強する。弁護士がAIを使う場合でも、提出するすべての行について責任を負うのは弁護士本人だ。起案の一部をモデルに委ねても、職業上の責任まで委ねたことにはならない。

信頼を支えるのは新規性ではなく検証

生成AIは、今後も法務ワークフローの一部であり続ける可能性が高い。生産性のインセンティブが無視できないほど強いからだ。しかし、法曹界の受け入れ方は、単純なルールへと収斂しつつある。使用は容認される、あるいは有用でさえあるかもしれないが、未検証の出力はだめだ。

今回の出来事が重要なのは、これは仮説的なリスクではないからだ。判事は、提出書面の架空の引用と引用不備を、AI不適切使用の特徴と直接結びつけた。この表現は、将来の制裁、開示、職業責任をめぐる議論で参照される可能性が高い。

法制度にとって、この教訓は繰り返しでありながら、出るたびにさらに鋭くなっている。AIは下書きを作れる。しかし、それだけで真正性を保証できるわけではない。生成された文章を最終成果物として扱う弁護士は、技術的リスクだけでなく、法廷でのリスクも負っている。

この記事は404 Mediaの報道に基づいています。原文を読む。