英国はサイバー防御を強化すると同時に、最も高性能な人工知能システムを開発する企業に安全への責任をより大きく負わせる準備を進めている。AI担当相Kanishka Narayanが示す見通しだ。
このメッセージが注目されるのは、関連する2つの懸念を同じ議題に置くからだ。能力を増すAIモデルの安全性と、それを取り巻く国家システムの強靭性である。Narayanのロンドン西部での演説を前に示された政府方針は、英国がテクノロジー企業だけに自社モデルの管理を委ねるべきではないというものだ。
自主的な安全策を超える要求
Narayanは、最先端AIの開発者はシステムの安全を確保するため、さらに対策を講じる必要があると主張する見通しだ。高度なモデルの能力、悪用、セキュリティをめぐる国際的な懸念が広がる中での発言となる。
英国のAIガバナンスをめぐる議論が、より厳しい方向へ進んでいることも示す。高度なシステムを構築する企業は、安全性テスト、内部統制、外部審査を責任ある開発の中心に据えてきた。しかし大臣の発言予定は、政府が業界主導の措置だけでは不十分だと考えていることを示唆する。
入手できる情報からは、具体的な新法制度や詳細な技術要件の一覧を意味するわけではない。ただし政策的な立場は明確だ。最先端AIのリスク管理責任を、それを競って構築する企業だけに全面的に負わせることはできない。
この点が重要なのは、対象となるシステムが一般消費者向けの普通のソフトウェアではないからだ。高度なAIモデルは研究、企業活動、コーディング、セキュリティ業務、公共サービスに展開できる。潜在的な価値は大きいが、悪用されたり、管理が不十分だったり、敵対的な主体に取得されたりした場合の影響も大きい。
モデル窃取も安全保障議論の一部
この演説に先立ち、英国AI安全研究所の元主任科学者Geoffrey Irvingは、未公開の最先端モデルが敵対国に盗まれる可能性を警告していた。IrvingはThe Guardianに対し、AI企業には敵対国によるモデル取得を防げるほどの安全対策がないと語った。
この懸念は、AIシステムが不正確、偏向的、有害な出力を生むかというおなじみの問題とは異なる。焦点はモデルそのものという高価値資産にある。基盤となる能力、訓練作業、競合企業や犯罪集団、国家支援の運用者にとって価値を持ち得るノウハウだ。
この見方によって最先端AIは、戦略技術の保護という領域に近づく。未公開の高性能モデルが侵害された場合、影響は一企業の知的財産を超える可能性がある。安全研究者や政策担当者は、盗まれたシステムが、元の開発者が設けた安全策なしに研究、複製、改変、展開される可能性を懸念している。
IrvingはOpenAIに関するある事案にも触れた。サイバーセキュリティ研究者は、アクセスの潜在的な範囲が広かったと述べている。この作業は、倫理的ハッカーがシステムを試験すると報奨を受けるOpenAIのプログラム下で行われた。OpenAIは、暗号化や継続的監視を含む複数のモデル窃取対策を講じていると説明している。
この事例は、安全性とセキュリティに関する公的な主張を慎重に区別する必要性を示す。認可された安全性テストは敵対的な侵入とは異なる。それでもテストは、特にAIシステムとそれを支えるインフラの重要性が増す中で、防御をどこで改善すべきかを明らかにできる。
インフラは国家能力の一部
Narayanは、英国が自国のAIインフラをさらに構築する必要があるとも主張する見通しだ。これはモデル開発者への規則を越えて議論を広げる。
インフラには、AIを大規模に開発・運用するために必要な計算能力、データセンターシステム、専門ハードウェア、サイバー防御、技術的専門知識が含まれる。こうした基盤を欠く国は、重要システムの構築、試験、保護方法を形作る能力が低下する可能性がある。また重要な能力へのアクセスを少数の海外企業に依存しやすくなる。
そのため政府のアプローチは、産業能力と安全政策を結び付けているように見える。国内能力の構築は経済目標にとどまらず、依存を減らし、強靭性を高める戦略の一部として示されている。
これは難しいバランスだ。安全だけに集中すれば有用なイノベーションが遅れ、迅速な展開だけに集中すれば組織が危険にさらされる可能性がある。予定された演説は、AI能力を促進しながら、その保護と監督をより明確な公共責任にするという、両方の目標を維持する試みを示している。
国内に影響する国際的な問題
英国が共通のAI安全基準をめぐる国際協調を支持する可能性があるかどうか、演説は注視される。The Guardianは、フィンランド、フランス、ドイツ、オーストラリア、シンガポール、UAEなどの指導者が、政府間でこうした基準を調整するよう求める声明に署名したと報じた。
国際協調は本質的に難しい。各国は規制制度、商業上の優先順位、国家安全保障に対する考え方が異なる。AI開発も急速に進むため、技術能力の変化に対して有効性を保つルールを設計することは難しい。
それでもAIの越境性を考えれば、一国だけの行動では不十分だ。モデル開発者は国際的に活動し、計算インフラは複数の法域に分散し、サイバー脅威は国境で止まらない。評価、開示、保護に共通の期待を設ければ、最も弱い安全策が標準になることを防げる可能性がある。
英国にとって直近の意味は政治的なシグナルだ。政府はサイバー防御、AI安全、国内技術能力を別々の政策項目ではなく、つながった課題として位置づけている。このアプローチの有効性は、開発者への具体的な安全要求、必要とされるインフラへの投資、同じ速度で変化するリスクに直面するパートナーとの協力にかかっている。
現時点で予定された発表は、単純なトーンの変化を示している。最先端AIの能力が高まるにつれ、問題はこれらのシステムに何ができるかだけではない。誰が安全を確保し、試験し、利益が周囲の安全策を追い越さないようにする責任を負うのかという問題でもある。
この記事はThe Guardianの報道に基づいています。原文を読む。
Originally published on theguardian.com