NHSイングランドの安全対策が透明性をめぐる対立を引き起こした
NHSイングランドは、AIシステムがオープンコードの脆弱性を特定できるという懸念から、既存および今後のソフトウェアを5月11日までに公開の場から外すよう職員に伝えた後、強まる反発に直面している。批評家はこの対応を、効果がなく有害だと位置づけており、技術者、活動家、元政府関係者から、コードを閉ざしても安全性向上にはほとんどつながらず、透明性と再利用を損なうだけだという反論が広がっている。
争点の中心にあるのは、AIを用いた新しいソフトウェア解析だ。元記事によれば、Anthropicが開発したAIであるMythosが、ほぼあらゆるソフトウェアの欠陥を見つけられるという報道を受けて懸念が強まった。NHSイングランドは、公共資金で開発されたコードはオンラインで公開するのではなく、非公開にすべきだと職員に通知した。
この判断は既存方針に反している
この措置が物議を醸しているのは、NHSのサービス標準に真っ向から反するためでもある。同標準は、職員が作成したソフトウェアをオープンソースにし、重複作業なく再利用・改善・発展できるよう求めている。オープンソース支持者は、このやり方は公共部門にとってより効率的であるだけでなく、より多くの人がコードを点検・改善できるため、しばしばより安全でもあると主張する。
この決定の撤回を求める公開書簡は、作家のCory Doctorowや英国元保健相Matt Hancockを含む数百人の署名を短期間で集めた。報道で取り上げられたコメントの中で、Hancockはこの方針を大きな誤りだとし、公共資金で作られたコードは、それを支払った国民に引き続き利用可能であるべきだと述べた。
批評家は、秘密主義は安全ではないと指摘する
最も強い反対は、理念的というより技術的なものだ。報道で引用された専門家は、コードを公開リポジトリから引き揚げても、セキュリティが実質的に向上することはないと述べている。AIツールが脆弱性の特定を助けられるなら、防御側もそれを使える。さらに重要なのは、ソフトウェアを非公開にしても欠陥は消えず、誰がそれを点検できるかが変わるだけだという点だ。
エディンバラ大学のVlad-Stefan Harbuz氏は公開書簡の共同著者であり、自身のグループがMythosを使ってNHSのオープンソースコードをスキャンし、比較的深刻な脆弱性を少数発見したと述べた。それらは現在の方針転換の前に責任ある形で開示された。この事実は状況を複雑にする。脅威は実際に行動可能な発見を生むほど現実的だが、同時に批判側の主張、つまり実務的な対応は隠蔽ではなく監査と修正だという見方も補強している。
AI時代の公共ソフトウェアをめぐるより大きな問題
NHSの事例は、多くの公共機関が直面することになる、より広いジレンマを浮き彫りにしている。オープンソースソフトウェアは長らく、効率性、相互運用性、説明責任、そして精査による安全性を理由に擁護されてきた。AI支援のコード解析は、防御側と攻撃側の双方にとってバグ発見のコストを下げることで、精査の経済性を変えてしまう。この変化が従来のオープンソースの論理を無効にするのか、それとも規律ある保守をさらに重要にするのかが問われている。
NHSイングランドは、公開性がいまや過大なリスクを生むという前提で動いているように見える。これに対し反対派は、AIによって脆弱性の発見が容易になるなら、答えは開放性からの後退ではなく、パッチ適用、監査、ガバナンスの強化だと主張する。
NHSを超えて重要な理由
この争いが英国の医療分野の外でも意味を持つのは、各国政府がより高性能なAIツールの圧力の下でデジタルリスクを再評価しているからだ。もし大規模な公的機関が、コードの公開はもはや維持できないと判断すれば、他も追随するかもしれない。逆に反発が成功すれば、機関が現代的な防御実践に投資する限り、透明性はより強い安全性と両立しうるという考えを再確認させる可能性がある。
現時点でNHSイングランドは、技術的な安全懸念を注目度の高い政策試験へと変えた。根底にある不安は理解できる。AIは規模を伴う脆弱性発見を容易にするかもしれない。しかし批評家はより厳しい問いを投げかけている。コードを隠すことは本当の防御なのか、それとも急速に進む脅威への見える反応にすぎないのか。その答えは、NHSを超えて公共部門ソフトウェアの統治のあり方を左右する可能性がある。
この記事は New Scientist の報道に基づいています。元記事を読む。
Originally published on newscientist.com
