英国は、制限または提供停止の可能性がある外国の人工知能システムへの依存を避けるべきだと、アラン・チューリング研究所の責任者ジョージ・ウィリアムソン氏は述べた。AIが公共サービス、安全保障、インフラに深く組み込まれる中、同氏の主張はAI能力を国家レジリエンスをめぐる懸念の拡大するリストに加えるものだ。
ウィリアムソン氏は、米国と中国がリードを広げる中、英国はAIにおける国内基盤を強化する必要があると述べた。同国を代表するAI研究機関であるアラン・チューリング研究所は、主要な資金提供者である政府が戦略的な方向転換を求めたことを受け、新たな指導体制に移行した。
重要サービスでは制御が重要
中心的な問題は、英国の組織が高度なAIを購入・利用できるかどうかだけではない。不可欠な機能が依存する可能性のあるシステムを理解し、統治し、使い続けられるかどうかだ。
ウィリアムソン氏は、防衛、国家安全保障、重要インフラ、医療を、検査や制御のできないシステムへの依存が特に大きなリスクを伴う分野として挙げた。これらの分野では、障害は単なる商業上の不便ではない。公共サービスの継続性や、機関が危機に対応する能力に影響を及ぼす可能性がある。
この懸念は、最先端AIの開発が比較的少数の企業と国に集中していることでさらに強まっている。モデル、計算インフラ、アクセス方針は大部分が英国外で決定される。ある国がこうしたシステムの熱心な顧客であっても、アクセスが続くか、どのような条件が適用されるか、どのような技術変更が行われるかについて、ほとんど影響力を持たない可能性がある。
最近のアクセス制限が警告の背景に
ウィリアムソン氏は、政治的・商業的圧力が高度なAIへのアクセスをどのように左右し得るかを示したとする出来事に言及した。6月、ワシントンはAnthropicの最新モデルの米国外での公開を一時的に阻止した。また報告書は、米国の同等機関による審査が行われるまで、英国のAI Security Instituteによるテスト向けにモデルを提供しないよう、主要AI研究所が求められたと伝えている。
こうした動きは、海外のAIが決して安全に使えないことを意味しない。むしろ、調達と安全保障上の問題を示している。外部から管理されるシステムだけに依存する組織は、供給者や政府が利用条件を変更した場合、選択肢が限られる可能性がある。
ウィリアムソン氏にとって、その意味するところは、国家レジリエンスには英国が使用許可を求める必要のない能力が必要だということだ。国内のAI能力には、研究の専門知識、信頼できる評価、技術インフラ、そして導入機関が検査できるモデルが含まれ得る。
研究所における戦略転換
アラン・チューリング研究所の役割が重要なのは、研究、政府の関心、AIの実際の導入が交差する位置にあるからだ。ウィリアムソン氏は、国家レジリエンスが研究所の活動の焦点になると述べた。これは地政学的な懸念と、能力を増すシステムに伴うリスクへの不安の双方を反映している。
この重点転換は、政策立案者が二つの圧力のバランスを取ろうとしている時期に行われる。一つはAIから経済的・科学的利益を得たいという願望だ。もう一つは、機微な状況で使われるシステムが信頼でき、説明責任を果たし、必要な時に利用可能であることを確保する必要性である。
政策上の課題は、英国ブランドのモデルを構築することにとどまらないだろう。レジリエントなAI戦略には、システムがどこでホストされるのか、誰が監査できるのか、どのようにテストされるのか、データがどう統治されるのか、外部サービスが変更または停止した場合にどのような代替策があるのか、といった問題への対応が必要になる。
安全保障と能力が接近
この議論は、偽情報と高度なAIリスクをめぐる幅広い警告の中でも進んでいる。英国の首相アンディ・バーナム氏は先月、国家が支援する偽情報に対処する新たな国立センターを設立すると発表した。一方、Anthropicは、2030年までにAIが人類を滅ぼす可能性が10%を超えると考えていると述べた。
これらは大きく異なる懸念だが、いずれもAIがもはや消費者向けまたは生産性向上のためだけの技術ではないという主張を強めている。AIは、情報環境、公共の安全、国家安全保障に影響を与え得る戦略的能力と見なされるようになっている。
ウィリアムソン氏の介入は完全な産業計画を示すものではなく、英国が米国や中国のAI投資規模にすぐ追いつけると示唆するものでもない。しかし、同氏が英国が満たすべきだと考える戦略的基準は定めている。それは、最も重大な領域で使われるAIに対して、意味のある制御を維持する能力だ。
今後の課題
試金石となるのは、レジリエンスという枠組みが持続的な投資と具体的な運用上の選択につながるかどうかだ。研究機関は国内の専門知識を強化できるが、公共・民間の利用者も、外部システムが適切な場合と、重要な業務により高い可視性と制御が必要な場合を判断しなければならない。
AIが医療、インフラ、安全保障、政府運営で日常的に使われるようになるにつれ、こうした選択は抽象的なものではなくなる。したがって、アラン・チューリング研究所が示した議論は、技術競争力だけに関するものではない。AIシステムが日常の国家運営の一部となったとき、英国がどれだけの自律性を維持できるかという問題でもある。
この記事はThe Guardianの報道に基づいている。 原文を読む。
Originally published on theguardian.com