Microsoft社長のBrad Smith氏は、人工知能（AI）についてより緊急性の高い安全規則が必要だと述べ、AIは牛乳や洗濯機などの日用品よりも規制が緩いと指摘した。氏の発言は、大規模に提案、回答、行動を生み出すシステムを企業や政府がどう管理すべきかをめぐる議論に加わるものだ。
BBCの取材でSmith氏は、AIを潜在的な道具であると同時に兵器でもあると表現した。AIにはより強い安全要件を課すべきであり、暴走するAIエージェントによってシステムが侵害された場合、企業は被害者に対して法的責任を負うべきだと主張した。この発言は、英国のAI担当相Kanishka Narayan氏が、最先端モデルの開発企業にリスク対応と安全策の強化を求める準備をしていた時期に報じられた。
緊急ブレーキをめぐる提言
Smith氏の主張の中心は、AIシステムが許容される制御範囲から外れ始めたときに、一時停止または減速させる「緊急ブレーキ」、いわゆるキルスイッチが必要だというものだ。この考えは、AIの能力が高まる中で、運用組織が挙動を観察し、限界を試験し、問題が起きた際に確実に介入できるのかという基本的なガバナンスの問題を示している。
MicrosoftのCEOであるSatya Nadella氏も前日、関連する提言を行った。高性能AIを、透明性のない入れ子状のブラックボックスの集合として扱い、推奨や行動を事後的に受け入れるか拒否するだけにしてはならないと述べた。その代わりに、挙動を観察でき、限界を試験でき、行動を制御できる、封じ込められたシステムを求めた。
両氏の発言は、具体的な法律案や技術標準を示したものではない。しかし、定められた状況でAIの挙動を停止または制限できる仕組みを求める企業の中にMicrosoftを位置付けるものだ。
比較が重要な理由
Smith氏が洗濯機や牛乳パックと比較したのは、規制上の論点を示すためだった。一般的な消費財には検査や安全要件が課される一方、AIの急速な発展は、広く適用できる同等の管理策の整備を追い越している。この比較は修辞的だが、自動化された判断や行動で人に影響を与えるシステムには、自主的な約束だけではない、より明確な説明責任が必要だという懸念を捉えている。
被害者への責任を企業に求める提案は、AIを利用するシステムが侵害されたり、暴走するエージェントに使われたりした場合に誰が責任を負うのかという問題も提起する。記事は、その責任の内容、侵害を誰が認定するか、モデル開発者、インフラ提供者、導入組織の間で責任をどう配分するかを明らかにしていない。これらは将来の規制にとって重要な点となる。
最先端モデルの開発企業への圧力
この発言は、専門家、政治家、規制当局がAI規則の強化を求め、Anthropic、Google DeepMind、OpenAIも技術開発の速度について警告する中で出された。共通する懸念は、AIの導入をすべて止めることではない。最も能力の高いシステムの開発者が、広く導入する前に重大なリスクを特定し管理するため、さらに取り組むべきだという点にある。
英国のAI担当相も同様の主張をし、最先端AIを開発する企業に安全策の強化を求めるとみられていた。大手テクノロジー企業の指導者と政府閣僚の立場が一致しても、政策への合意を保証するものではない。しかし議論が、一般的な原則だけでなく、運用管理、説明責任、実証可能な安全慣行へと移っていることを示している。
原則から実装へ
「キルスイッチ」は直感的な表現だが、実装は単純なオン・オフ操作ではない。役立つ緊急制御システムには、介入を発動する条件、使用権限を持つ者、技術的な有効性が必要になる。また、システムが圧力下に置かれたときに機能しない広報上の約束に終わらせてはならない。
Smith氏とNadella氏の発言は、企業がAIの挙動を観察し、境界を試験し、行動を封じ込める能力を保持すべきだという、より具体的な期待を示している。この基準は、モデルが意図した挙動に関する主張から、運用中のシステムを組織がどのように監視・制御できるかという証拠へと焦点を移す。
- Brad Smith氏は、AIにはより緊急性の高い安全規則と強い安全策が必要だと述べた。
- 暴走するAIエージェントによる侵害後、緊急ブレーキと被害者への法的責任を求めた。
- Satya Nadella氏も、限界と行動を観察・試験・封じ込めできるAIシステムを提唱した。
現実的な利害を伴う政策論争
議論は規制が必要かどうかを超え、どのように設計するかへ進む可能性が高い。政策立案者は、開発者、クラウド・インフラ運営者、現実の環境でAIを導入する組織に規則をどう適用するかを検討する必要がある。企業は、モデルが製品や業務フローに組み込まれる中で監督体制が追いつけるかという課題に直面する。
Smith氏の警告は分かりやすい形で問題を提示している。社会が身近な製品に安全検査を求めるなら、情報を形作り、作業を自動化し、悪用される可能性のある技術にも強固な管理を求めるかもしれない。次の試金石は、こうした呼びかけが一般的な約束の繰り返しではなく、具体的で強制力のある慣行につながるかどうかだ。
この記事はThe Guardianの報道に基づいている。原文を読む。
Originally published on theguardian.com
