OpenAI初のカスタム推論チップが、真剣な競合相手として姿を現す
OpenAIは、自社開発の初の推論チップとなるJalapeñoを発表し、いくつかの主要指標でNvidiaのBlackwellおよびRubinプラットフォームを上回るとされるベンチマーク結果を示した。この発表が重要なのは、見出しとしての比較だけでなく、最大級のAIモデル開発企業の一つが市販シリコンへの依存を超え、推論そのものの経済性を形作ろうとしていることを示唆しているからだ。
Hot Chipsカンファレンスで示された結果によると、Jalapeñoは推論専用に設計されている。学習用チップではなく、OpenAI自身のモデルだけに最適化されたものでもない。むしろ、より効率的かつ低レイテンシーでモデルを動かすことを目的とした、汎用的な大規模言語モデル推論アクセラレータとして説明されている。この位置づけは重要だ。推論は大規模AIシステムがユーザーと接する場面であり、チャットボット、エージェント、その他の生成AIアプリを大規模に提供する際のコストが積み上がる場所だからだ。
元記事によれば、OpenAIはJalapeñoがテストした3つのモデルにおいて、ピークスループット時のAI仕事量をワット当たり1.5倍から1.9倍に高め、さらにエンドツーエンドのレイテンシーを、テストで利用可能だった最良の商用システムより1.7倍から3.6倍低く抑えたと主張している。対話的なワークロードでは、性能は2.1倍から4.1倍高いという。これらの数値がより広い展開でも維持されるなら、このチップは、Nvidiaがペースを決め、新規挑戦者が本当に競争力を持つまでに複数の製品サイクルを要する市場において、注目すべき第一世代の成果になる。
なぜこのベンチマークが重要なのか
報告されたテストでは、SemiAnalysisの公開ベンチマークInferenceXが使われ、OpenAIが数値を提供し、SemiAnalysisが一部の実行を現地で検証したという。元記事で挙げられたモデルはGPT-OSS 120B、Deepseek R1 670B、Kimi K2.5 1Tだった。GPT-OSSでは、Jalapeñoはユーザー1人あたり毎秒約1,400トークンに達したとされる。Deepseek R1では、単一の同時リクエストで毎秒700トークンを超えたとされる。
元記事はさらに、同じデコード速度条件下で、Jalapeñoがモデルによっては最良の利用可能なアクセラレータに対し、キロワット当たりのトークンスループットで54倍から104倍を達成したと述べている。これは単なる速度を超え、AI競争をますます規定するインフラ方程式に踏み込む、非常に印象的な主張だ。つまり、一定の電力予算で企業がどれだけ有用なトークンを生成できるか、ということだ。
電力、冷却、ラック密度は、いまやチップそのものと同じくらい重要な制約になっている。この環境では、ワット当たりのスループットを改善できる設計は、固定されたデータセンター面積から提供できるユーザーセッション数を変える。レイテンシーの低下も同じくらい重要だ。多くのAI製品では、応答が遅くなるとユーザー体験は急速に悪化する。特に、対話的推論やツール利用型エージェントのように、何度もやり取りが必要な場合はなおさらだ。
OpenAIが狙っているのは、名声ではなく推論経済学だ
Jalapeñoのより深い意味は戦略面にある。OpenAIは単に競争力のあるチップを作れると主張しているのではない。推論には垂直統合を正当化するだけの価値がある、と示しているのだ。学習は依然としてAIインフラの注目を集めるが、財務的に成熟した製品が生き残るか死ぬかを決めるのは推論である。トークン当たりのワット数やレイテンシーのわずかな改善が、提供コストの低下、容量の増加、あるいはその両方に変わる。
元記事は、Jalapeñoがマルチトークン予測や推測デコーディングといった手法を使わずに報告数値を達成した一方、比較対象の一部システムはそれらの最適化を使っていたと指摘している。これは、OpenAIがこのチップの現時点の結果を上限ではなく基準値として位置づけていることを意味する。実質的には、ソフトウェアとシステムレベルの調整から、まだ追加の伸びしろがあると主張しているわけだ。
この点が重要なのは、カスタムチップが成功するのは、ハードウェアとソフトウェアが十分に共同設計され、アーキテクチャ上の利点を実運用上の成果に変えられる場合だけだからだ。もしOpenAIが、自社の運用要件に合わせて設計されたチップと、モデル提供ソフトウェア、コンパイラ作業、システムオーケストレーションを組み合わせられれば、単一のベンチマーク表を超えるレバレッジを得る可能性がある。
主張と同じくらい重要なのは留保条件だ
もっとも、この発表は慎重に読む必要がある。元記事自体にも、結果をどこまで一般化できるかについていくつかの制約が含まれている。NvidiaとAMDはすでに、Deepseek V4 ProやKimi K3のような、より大きなモデルを使った結果を公開しているが、これらはまだJalapeñoではテストされていない。そのため、モデル規模、コンテキスト要求、メモリ圧力が報告された範囲を超えたときに、このチップがどう動くのかは未解決のままだ。
成熟度の差も大きな留保条件だ。Rubinシステムはすでに顧客に出荷されている一方、Jalapeñoはまだエンジニアリングサンプルの段階を超えていないとされる。初期サンプルはアーキテクチャ上の可能性を示せるが、製品としての準備状況は、製造歩留まり、ソフトウェアの安定性、熱特性、導入の信頼性、サプライチェーンの規模に左右される。会議の壇上でのベンチマーク優位は、フリート全体で繰り返し得られる優位を自動的には意味しない。
元記事はまた、少なくとも一つの比較では、効率の優位があるにもかかわらず、トークン当たりの総所有コストはJalapeñoとRubinでほぼ同等だと位置づけている。これは、データセンター経済が多変数であることを思い出させる。メモリ、パッケージング、ネットワーク、導入の複雑さ、稼働率などが、技術的に優れたチップと商業的に優れたプラットフォームとの差を縮めることがある。
第一世代のチップが会話を変える
こうした留保があっても、報告された性能は重大だ。第一世代のチップが、レイテンシーと効率の両方で市場リーダーの現行および近未来のプラットフォームを上回ることは、めったに期待されない。OpenAIの発表が代表的な結果であるなら、同社が特殊シリコンの構築で多くの予想よりも速く進んでいることを示している。元記事によれば、JalapeñoはBroadcomと9か月で開発され、その一部にはOpenAI自身のモデルが使われた。これが正確なら、この短い期間は、大手AI開発企業がスタックのより多くを急速に内製化しようとしていることを裏づける。
より広い業界への示唆は、フロンティアモデル企業がもはやアルゴリズムと製品だけで競争することに満足していないかもしれない、ということだ。彼らは、コスト、性能、展開規模を決めるハードウェア経路を直接コントロールしたいと考えている。Nvidiaは依然として出荷済みシステムと深く根付いたエコシステムを持つ既存勢力だが、トップAI研究所からの信頼できるカスタム代替品は、市場全体の交渉力を変えるだろう。
現時点では、Jalapeñoは決定的な勝利ではなく、初期段階だが重要なシグナルと見るべきだ。最も重要なのは、OpenAIがベンチマーク勝利を記録したことそのものではない。重要なのは、同社が業界標準と真剣に比較できるだけの信頼性を持つチップを作り出したように見えることだ。AIインフラにおいて、それだけでも注視に値する出来事である。
この記事はThe Decoderの報道に基づいています。元記事を読む。
Originally published on the-decoder.com