OpenAI、GPT-5.5の生物学的安全策を新たなバグ報奨金で実地ストレステストへ

選別された高信頼プロセス

このプログラムは完全な公開募集ではない。提示されたソースによれば、OpenAI は信頼できる生物学レッドチーマーの精査済みリストを招待し、AI レッドチーミング、セキュリティ、またはバイオセキュリティの経験を持つ研究者からの新規応募を審査する。承認された参加者と協力者は既存の ChatGPT アカウントを持ち、秘密保持契約に署名する必要がある。すべてのプロンプト、応答、発見、コミュニケーションは NDA の対象となる。

この管理されたアクセス設計は、テーマの機微さを反映している。生物関連の悪用研究は特異な位置にある。システムはストレステストされる必要がある一方、攻撃手法を広く公開すると追加のリスクを生む可能性がある。NDA の要件は、OpenAI が外部監視と運用上の封じ込めを両立させようとしていることを示している。

この仕組みは、最先端 AI ガバナンスにおけるより大きな変化も浮き彫りにする。高リスク能力分野は、完全な公開コンテストではなく、信頼されたアクセスモデルで扱われることが増えている。このアプローチは外部からの可視性を制限するが、完全公開のチャレンジよりも現実的な対抗テストを可能にすることもある。

このプログラムが最先端モデルの安全性について示すこと

GPT-5.5 Bio Bug Bounty は、AI 企業が高度なシステムに対するより専門化された安全検証へ移行していることを示している。一般的なレッドチーミングは依然として重要だが、最もリスクの高い領域では、ドメイン固有の専門知識がますます必要になる。生物学は特に重要なケースだ。なぜなら、正当な科学的支援と潜在的に危険な情報との境界を、大規模運用で管理するのは難しいからだ。

チャレンジをユニバーサル・ジェイルブレイクに絞ることで、OpenAI は実質的に次のような厳しい問いを投げかけている。つまり、同社の安全策は、プロンプトベースの手法だけを使う、意志の強い熟練した攻撃者に耐えられるのか、ということだ。これは、一般ユーザーがときどきモデルを混乱させられるかどうかを問うよりもはるかに厳しい。防御が再現可能かつスケーラブルな形で失敗するのかを試すものである。

同社の表現は、このプログラムがバグ報奨金と安全作業のより広いアーキテクチャの一部であることも示唆している。ソース文は参加者を OpenAI の別個の安全・セキュリティ報奨金プログラムへ導いており、単発の試みではなく、階層的な評価モデルであることを示している。

この発表が明らかにする限界

同時に、この発表は意図的にいくつかの点を曖昧にしている。チャレンジは NDA の対象であるため、外部の観察者はテストされたプロンプト、生成された応答、成功したジェイルブレイクの正確な性質を自動的には見ることができない。透明性は低下するが、公開そのものがリスクを生む分野では避けがたいのかもしれない。

Codex Desktop に焦点を当てている点も範囲を狭める。モデルの安全姿勢は製品、インターフェース、展開上の制約によって変わりうる。ある環境での成功や失敗が、すべての環境を必ずしも説明するわけではない。それでも、提示されたソースが明確に示すように、同社は少なくとも1つの実際の製品文脈で GPT-5.5 の生物学的安全策に対して敵対的な圧力をかけている。

AI 安全における実務的な転換

このバグ報奨金のより大きな意義は、モデルの安全性を、システムカードやポリシーステートメントに書かれたものではなく、運用上テストされるべきものとして扱っている点にある。その意味で、このプログラムは安全策を宣伝するためのものではなく、意味のあるほど十分に狭いルールのもとで、それを破ろうとする専門家の試みを招いている。

OpenAI の防御が持ちこたえるかどうかは別の問題だ。すでに明らかなのは、同社が生物学関連の悪用を、費用をかけた標的型の外部攻撃を行うに値するほど重要だと見なしていることだ。これはそれ自体、注目すべき展開である。最先端の AI システムがより高性能になるにつれ、安全性の主張の信頼性は、このような対抗的テストプログラムにますます依存することになるだろう。そこでは基準はポリシーが存在するかどうかではなく、それがそれを打ち破ろうとする人々との接触に耐えられるかどうかだ。

この記事は OpenAI の報道に基づいています。元の記事を読む。