Microsoft CEO、高度なAIの安全性で封じ込めを最優先する見方を示す
Microsoft CEOのSatya Nadella氏は、高度なAIシステムは侵害されている可能性を前提に設計し、稼働中に資格を持つ人間が一時停止または停止できるようにすべきだと主張しました。
Nadella氏はXへの長文投稿で、AIを、システムの提案や行動を人々が単純に受け入れるか拒否するだけの、不可視なシステムの集合として扱えない未来を描きました。その代わりに、観察と封じ込めが可能で、何が起きたのかを改ざんできない、人間が読める証拠として残す、より透明性の高いシステムを求めました。
同氏の発言は、高度な能力を持つモデルをめぐる議論の中心に、運用上の制御と監査可能性を据えています。また、AIの安全性を、モデルが意図した通りに振る舞うと信頼できるかという問題よりも、その信頼が誤っていた場合でも管理可能なシステムを構築できるかという問題として捉えています。
最初から封じ込める
Nadella氏の最も直接的な提案は、封じ込めを例外的な安全策ではなく、基本要件として扱うことです。同氏はこの考えを緊急ブレーキにたとえ、権限を与えられた人間がタスクの途中でモデルを中断または停止できるべきだとしました。
モデルがより長時間にわたる、あるいは影響の大きい作業に使われるようになるほど、この原則は重要になります。行動を起こしたり、ツールを使ったり、複数の段階からなるタスクを遂行したりできるシステムは、結果が出た後では対処が難しいリスクを生む可能性があります。一時停止または停止の仕組みは、タスクが進行中である間、人間による介入を維持することを目的とします。
Nadella氏はまた、より高度なシステムにはより高度な封じ込め技術が必要になり、それらの技術は標準化されるべきだと述べました。この発言は特定の技術設計を示していませんが、より広い期待を示しています。安全制御は、モデルや導入環境ごとに独立して即興的に作られるべきではありません。
透明性、証拠、外部からの監視
Microsoftの幹部による提案は、AIガバナンスをめぐる議論ですでに重視されている考え方と重なります。これには、インシデントの迅速な開示、独立監査、検証可能なデータ、技術的な封じ込めが含まれます。
これらの措置は、説明責任の問題の異なる部分に対応します。インシデントの開示は、ユーザー、開発者、規制当局に障害を知らせることができます。独立監査は、AI開発者の主張を検証できます。検証可能なデータがあれば、システムの出力や行動の根拠を調べやすくなります。封じ込めは、システムが予期せぬ動作をしたり、悪用されたりした場合に被害を抑える手段となります。
Nadella氏が改ざんできず、人間が読める証拠を重視した点は特に注目されます。これは、技術的な安全策と実際の監督を結び付けるためです。証拠は存在するだけでは不十分であり、システムが何をしたのか、なぜその判断が下されたのかを確認する必要があるときに、人々が調べられる形式で提供されなければなりません。
受け入れることから制御することへ
根底にある主張は、高度なAIは役に立つというだけの理由でブラックボックスとして受け入れるべきではない、というものです。Nadella氏の表現は、重要な意思決定に影響を与えたり、複雑な環境で行動したりする可能性のあるシステムにとって、信頼性に関する主張だけでは不十分だと示唆しています。
代わりに焦点となるのは、モデルを取り巻く条件です。観察できるか、活動を記録できるか、外部の当事者が評価できるか、適切な権限を持つ人が停止できるか。こうしたアプローチは、能力の高いモデルを構築する難しさをなくすものではありませんが、制御機能を、導入可能なシステムの定義の一部にします。
Nadella氏は「超知能」の可能性に繰り返し言及しました。これは、今回の発言が高いリスクを伴う問題提起であることを示す表現です。ただし、具体的な提案は、監査、報告、検証可能性、人間による介入の仕組みという、現在のガバナンス上の選択に関するものです。
この提案が意味すること
この提案は、完全な技術的・規制上の青写真ではありません。しかし、AIの開発者と導入者に対し、システムを稼働させる前に、侵害、障害、悪用に備えるよう明確に求めるものです。
AIを導入する組織にとって、実務上の意味は明快です。システムを監視できるか、活動が検証可能な形で記録されるか、誰に介入の権限があるか、そして介入が意味を持つほど迅速に行えるかを評価する必要があります。AIシステムの能力が高まるにつれ、これらの問いは安全チェックリストから、利用の根本条件へと変わる可能性があります。
この記事はThe Vergeの報道に基づいています。原記事を読む。
Originally published on theverge.com