2人の研究者がワシントンと北京のためのテンプレートを提示
米国と中国の専門家は、人工知能システムが核兵器の配備について自律的な判断を下すことを防ぎたいと考えており、両国政府が採用することを期待する具体的な提言を新たに示した。ブルッキングス研究所のメラニー・シソン氏と復旦大学のTianjiao Jiang氏は、9月24日に予定されているトランプ大統領と習近平国家主席の会談を前にこの勧告を発表した。このタイミングは、高官級対話がまだ予定されているうちに、政策立案者の前に具体的な文言を提示しようとする意図があるように見える。
両研究者は、AIの軍事利用に対する全面的な一時停止を求めるのではなく、明確に定義された少数のレッドラインに焦点を当てている。この枠組みは、暗黙の判断を反映している。すなわち、米中の利益が最も明らかに重なる領域は、誤算の結果を封じ込めるのが最も難しい領域でもあるということだ。
提言が引くレッドライン
勧告はいくつかの禁止事項を明示しており、それぞれが技術全般ではなく、特定の失敗モードを対象としている。
発射に関する独立した権限を持たせない
最初で最も重要なルールは発射権限に関するものだ。提言の下では、いかなるAIシステムも単独で核兵器を発射することを許可されない。この規定は、どれほど高性能なアルゴリズムであっても、人間の決定が背後にないまま攻撃を命じる経路を閉ざすことになる。
核指揮システムは対象外
2つ目のレッドラインは、AIを核指揮システムへの攻撃に使用することを禁じる。これらのシステムは国家の探知・決定・報復能力の中核にあるため、それらに対する自動化された作戦は、先制攻撃の準備と解釈されるリスクが異常に高い。AIによる標的選定からこれらを除外することは、その特定の引き金を取り除くことを意図している。
サイバー作戦の唯一の制御は人間が保持
3つ目の規定はサイバー空間を扱う。戦略的インフラを標的とするAI主導のサイバー攻撃に対しては、人間が唯一の制御を保持することが求められる。サイバー作戦は、機械の速度での行動がすでに現実的であり、自動化ツールの速さによって敵の探査と無力化の境界が曖昧になり得る領域である。
「人間の制御」が実際に何を意味するかで合意する
具体的な禁止事項の根底には、定義上の問題がある。提言は、両国が「人間の制御」の共通定義に合意するよう求めている。この共通の語彙がなければ、双方が相手の認めない基準の下で運用しながら遵守を主張できる。これはまさに、軍備管理協定が歴史的に埋めるのに苦労してきた種類の曖昧さである。
すでに達成された合意の上に立つ
この勧告は、2024年11月にバイデン氏と習氏の間で達成された了解に基づいている。この以前の約束は最高レベルでの政治的合意を確立したが、何が禁止されるのか、誰が遵守を検証するのか、紛争がどのように解決されるのかという運用上の問題は解決しなかった。新しい提言は、意図表明をより実用的なルールブックに近いものへと変換する試みである。
この取り組みを既存の了解の延長として位置づけることは、意図的な外交上の選択である。これにより両政府は、措置を譲歩ではなく継続として提示できる。どちらの国内の聴衆も、あらゆる二国間安全保障取り決めを立場の弱体化と読みがちな状況では、この点が重要となる。
AIインシデントをめぐるホットライン
Jiang氏はまた、AIインシデント専用のホットラインの設置も提案している。その理由は単純明快であり、順を追って説明する価値がある。防衛的なAIシステムが、疑わしい活動として認識したものに自動的に応答したとしよう。文脈なしにその応答を観察した相手側は、それを誤読した信号への反応ではなく、攻撃の第一手と解釈するかもしれない。政府間の直通回線があれば、事態が説明の有用性を失う地点を超えてエスカレートする前に、一方がインシデントが偶発的であったことを明らかにできる。
事実上、このホットラインは、自動化されたループを人間の会話で断ち切るように設計されている。つまり、自動化システムが圧縮するはずの、より緩やかで意図的な意思決定を回復するのである。
一部のアナリストがホットライン構想に懐疑的な理由
このようなチャネルが最も必要とされる時に機能するかどうかについて、誰もが確信しているわけではない。ジョンズ・ホプキンス大学のカーラ・フリーマン氏は、この種のホットラインがそもそも機能するのか疑問視している。同氏は、2023年の偵察気球危機で、米国が電話した際に中国が応答しなかったことを指摘する。
この例は、検証問題の核心を突いている。ホットラインの価値は、真の危機の際に双方がそれに応答する意欲と同じだけしかない。そして危機の瞬間こそ、政府が不慣れなチャネルを最も信頼しにくい時である。この異論は、コミュニケーションが不要だというものではなく、制度的メカニズムは緊急事態がそれを不可欠にするずっと前に、運用され常態化される必要があるというものだ。
5年間の警告、拘束力あるルールなし
警鐘が鳴らされたのは今回が初めてではない。人工知能に関する国家安全保障委員会は、2021年に核兵器に対する人間の制御を維持するよう求めていた。5年以上が経過した今も、拘束力のあるメカニズムは存在しない。
広く共有された診断と、執行可能な手段の不在との間のこのギャップが、新しい提言が克服しなければならない中心的な障害である。専門家のコンセンサスは大筋で達成されている。機械が核兵器を使用すべきかどうかを決定すべきだと主張する真剣な声はほとんどない。困難であることが証明されているのは、そのコンセンサスを拘束力があり、検証可能で、政権交代を超えて持続する仕組みにすることである。
9月24日までの狭い窓
提言は両政府が会談を準備している時に届いた。これにより、アイデアはシンクタンクの論文のページから、首脳会談の議題を形作る準備会話へと移る機会を得ている。それが実現するかどうか、そしてレッドラインのいずれかが交渉プロセスとの接触を生き残るかどうかは、研究者の制御をはるかに超えた要因にかかっている。
提言が成し遂げているのは、主張を具体的にすることである。軍事AIのリスクに関する一般的な警告の代わりに、具体的な禁止事項、定義上の課題、危機コミュニケーションチャネルを特定している。これは、議論され、部分的に採用され、あるいは完全に拒否される可能性が十分にある項目の集合である。賭け金が分とマイルで測られる政策領域では、その具体性自体が貢献である。それは抽象的な懸念を、政策立案者が実際に下せる決定のリストへと変える。
この記事はThe Decoderの報道に基づいています。元の記事を読む。
Originally published on the-decoder.com
