OpenAI首款定制推理芯片初露锋芒，成为一个认真竞争者
OpenAI展示了其首款自研推理芯片Jalapeño，并公布了据称在若干关键指标上领先于Nvidia Blackwell和Rubin平台的基准结果。这一表现之所以重要，不仅因为头条式的对比，更因为它表明，全球最大的AI模型开发者之一正试图摆脱对通用芯片的依赖，并开始塑造推理本身的经济性。
根据Hot Chips大会上披露的结果，Jalapeño只为推理而设计。它不是训练芯片，也并非只针对OpenAI自己的模型优化。相反，它被描述为一款通用的大语言模型推理加速器，目标是更高效、低延迟地运行模型。这种定位很重要。推理是大型AI系统真正面对用户的环节，也是聊天机器人、智能体和其他生成式应用在大规模服务时成本不断累积的地方。
原文称，OpenAI表示，Jalapeño在所测试的三种模型上，以峰值吞吐量计，每瓦可完成1.5倍至1.9倍的AI工作量，同时端到端延迟比测试中最佳商用系统低1.7倍至3.6倍。对于交互式负载，公司的说法是性能高出2.1倍至4.1倍。如果这些数字在更广泛部署中成立，这款芯片将代表一个值得注意的第一代成果，因为在Nvidia设定节奏、而新挑战者通常需要数个产品周期才能真正具备竞争力的市场里，这样的结果并不寻常。
为什么这些基准测试重要
据称，这些测试使用了SemiAnalysis公开的InferenceX基准，OpenAI提供数据，SemiAnalysis则在现场核验了部分运行结果。原文提到的模型是GPT-OSS 120B、Deepseek R1 670B和Kimi K2.5 1T。在GPT-OSS上，Jalapeño据称达到了每用户每秒约1,400个token。在Deepseek R1上，它在单个并发请求中据称超过每秒700个token。
原文还称，在相同解码速度下，Jalapeño相较于最佳可用加速器，按模型不同可实现54倍到104倍的每千瓦token吞吐量。这一说法很醒目，因为它超越了单纯速度，直指AI竞争越来越依赖的基础设施问题：在给定电力预算下，一家公司能够生成多少有用token。
电力、散热和机架密度已经成为几乎与芯片本身同样重要的约束。在这样的环境中，一种能够提升每瓦吞吐量的设计，会改变在固定数据中心占地内可服务多少用户会话。较低的延迟同样重要。对许多AI产品来说，如果响应变慢，用户体验会迅速恶化，尤其是在交互式推理或需要多轮交互的工具使用型智能体场景中。
OpenAI瞄准的是推理经济性，而不只是声望
Jalapeño更深层的意义在于战略层面。OpenAI并不只是宣称自己能造出有竞争力的芯片，而是在传递一个信号：推理价值足以支撑垂直整合。训练仍然占据AI基础设施的大部分注意力，但推理才是成熟产品能否在财务上存活下来的关键。每一次在每瓦token数或延迟上的边际改进，都可能转化为更低的服务成本、更高的容量，或者两者兼有。
原文指出，Jalapeño在未使用多token预测或推测解码等技术的情况下就实现了其报告中的表现，而一些对比系统则使用了这些优化。这意味着OpenAI把这款芯片当前的结果定位为起点，而非上限。换言之，公司在主张，软件和系统层调优仍然存在更多提升空间。
这一点很重要，因为只有当硬件和软件被协同设计到足够好，才能把架构优势转化为生产收益。若OpenAI能够把模型服务软件、编译器工作和系统编排与一款围绕其运营需求设计的芯片结合起来，它就可能获得超越单张基准图表的杠杆效应。
与其说是定论，不如说是有必要的保留
不过，也有理由谨慎看待这项公告。原文本身就包含若干限制，说明这些结果不能被过度外推。Nvidia和AMD已经公布了使用更大模型的结果，例如Deepseek V4 Pro和Kimi K3，而这些模型尚未在Jalapeño上测试。这使得一个问题仍然开放：当模型规模、上下文需求和内存压力超出已报告范围时，这款芯片会表现如何。
成熟度差距是另一个重大保留因素。Rubin系统已经开始向客户出货，而Jalapeño据称仍未超出工程样片阶段。早期样片可以展示架构潜力，但产品就绪程度取决于制造良率、软件稳定性、热行为、部署可靠性和供应链规模。会议舞台上的基准领先，并不自动意味着在整个机群中都能获得可重复的优势。
原文还在至少一项对比中将每token总拥有成本描述为Jalapeño与Rubin大致持平，尽管前者被宣称在效率上占优。这提醒我们，数据中心经济是多变量问题。内存、封装、网络、部署复杂性和利用率，都可能缩小技术上更优的芯片与商业上更优的平台之间的差距。
一款第一代芯片，改变了讨论方式
即便有这些保留，报道中的表现仍然很重要。第一代芯片很少会被期望在延迟和效率两方面都击败市场领导者当前及近未来的平台。如果OpenAI的展示具有代表性，那说明公司在打造专用芯片方面推进得比很多人预想得更快。原文称，Jalapeño由OpenAI与Broadcom在9个月内开发完成，并部分使用了OpenAI自己的模型。若属实，这一短时间凸显了大型AI开发者试图更快地把更多技术栈内化的速度。
更广泛的行业含义是，前沿模型公司可能不再满足于只在算法和产品层面竞争。它们越来越希望直接掌控决定成本、性能和部署规模的硬件路径。Nvidia仍然凭借已出货系统和深厚的生态占据优势，但来自顶级AI实验室的可信定制替代方案，仍会改变市场上的议价力量。
就目前而言，Jalapeño应被视为一个早期但重要的信号，而不是已经尘埃落定的胜利。最重要的事实并不是OpenAI是否在一项基准上取得了胜利，尽管报道如此。更重要的是，这家公司似乎已经做出了一款足以被认真拿来与行业标准比较的芯片。在AI基础设施领域，仅这一点就足以值得密切关注。
本文根据The Decoder的报道改写。阅读原文。
Originally published on the-decoder.com