OpenAI 与 Broadcom 发布定制推理芯片

OpenAI 迈出了超越模型和软件的重要一步,推出了一款专为大语言模型推理设计的定制芯片。这款名为 Jalapeño 的加速器由 Broadcom 共同开发,OpenAI 将其称为首个“Intelligence Processor”,这是一种旨在让 AI 系统在大规模运行时更便宜、更可靠的专用组件。

根据所提供的来源材料,Jalapeño 并非对现有通用处理器的改造。OpenAI 表示,它是从零开始为现代 LLM 推理设计的。Broadcom 提供了芯片制造和网络技术,包括其 Tomahawk 网络芯片,而 Celestica 负责板卡、机架和系统集成。

这种分工很重要,因为它显示 OpenAI 正在进入 AI 技术栈的另一层。多年来,这家公司主要以模型开发以及消费级和企业级产品而闻名。定制加速器将这一战略扩展到了基础设施层面,在这里,对成本、功耗和供应的控制,与模型质量一样,都会影响 AI 部署的经济性。

为什么推理硬件如今如此重要

这一时机是合乎逻辑的。训练大型模型虽然更受关注,但真正把这些模型变成产品的是推理。每一次用户查询、API 请求、代码补全或聊天机器人回复,都必须被反复且高效地提供。随着这类流量增长,用于生成答案的硬件会成为主要运营约束。

OpenAI 的观点,正如来源文本所反映的那样,是定制硬件可以提升每瓦性能并降低运行模型的成本。这些目标对任何希望扩大 AI 使用规模同时保持高可靠性的公司都至关重要。推理基础设施必须同时处理规模、延迟和能耗问题,而现成的加速器未必针对某家公司最关心的具体工作负载进行了优化。

Jalapeño 正是瞄准了这个问题。它并不是一个通用计算平台,而是被定位为大型语言模型推理阶段的专用加速器。其含义很直接:如果硬件针对工作负载进行了调优,系统就可能移动更少的数据,更高效地利用硅片,并在每单位功耗下完成更多有用工作。

性能说法仍需谨慎看待

OpenAI 表示,早期测试显示其每瓦性能“明显优于”当前最先进的硬件。但同一来源文本也明确指出,这些数据是自述的,尚未经过独立验证。后续预计会发布技术报告,但外部观察者仍缺少许多关键细节。

这些缺口很重要。来源称,目前仍不清楚 Jalapeño 是与哪些芯片进行测试对比、使用了哪些任务进行比较,以及测量是在什么条件下进行的。没有这些信息,关于其优越性的说法应被视为初步结论,而非定论。

尽管如此,OpenAI 已经概述了这项工作的设计逻辑。据称,其架构减少了数据移动,并将利用率推高到更接近理论上限。这两点都是高性能 AI 系统中的标准目标。在大规模推理中,跨系统移动数据可能是重大瓶颈,而低利用率意味着昂贵硬件处于闲置状态。如果 Jalapeño 能显著改善其中任何一项,那么即便尚未在基准测试中领先,也已经具有战略意义。

开发周期很快,而且有 AI 参与

这项公告中最引人注目的细节之一,是报告中的开发时间线。OpenAI 说,从设计到流片仅用了九个月,并称这是其所知高性能半导体中最快的 ASIC 开发周期。

如果属实,这本身就是一个重要说法。半导体开发通常速度慢、资本密集,而且很难加速。来源文本还补充了另一个值得注意的细节:OpenAI 自己的模型帮助加快了设计流程的部分环节。这让项目更耐人寻味,因为公司不仅在为 AI 工作负载打造硬件,还在表示 AI 本身参与了硬件设计管线。

这里有一个更广泛的战略主题。AI 工具越多地辅助工程工作,公司就越可能尝试压缩芯片设计、系统集成和优化的时间线。OpenAI 的公告目前还没有提供深入的技术证据,但它指向一个反馈回路:AI 系统正越来越多地被用来构建未来运行这些系统的基础设施。

从实验室样品走向部署

根据来源,这款芯片并不只是纸面概念。工程样品已经在实验室中运行机器学习工作负载,其中包括 GPT-5.3-Codex-Spark 模型。这个细节表明,该项目已经不只是发布阶段的宣传,而至少进入了有限的实操测试。

报道还称,大规模部署计划在 2026 年末启动。微软预计将购买 40% 的芯片;如果这一计划实现,将凸显主要云合作伙伴在 OpenAI 基础设施版图中可能继续扮演的重要角色。这个比例也暗示了 OpenAI 可能如何看待部署能力:不仅是内部能力,也是一整个由云规模运营商和紧密合作伙伴构成的更大生态的一部分。

即便有了这一路线图,仍有关键问题没有答案。来源没有说明制造规模、生产制程节点或部署地域。它也没有说明在把网络、软件成熟度和系统级吞吐量都算进去之后,Jalapeño 与现有 AI 硬件相比的总拥有成本会如何。正是这些未解问题,将决定这款芯片究竟只是一个小众的战略对冲,还是更大平台转变的开端。

对基础设施控制的一项多代押注

OpenAI 表示,Jalapeño 是与 Broadcom 共同打造的多代平台中的第一款芯片。这个表述可能比任何单一基准都更重要。一款定制芯片可以只是一次试验,而多代平台则意味着公司有意在硬件领域长期投入,并随着时间推移塑造架构。

对于 AI 公司而言,这种控制可以同时影响多个压力点:成本可预测性、硬件可用性、能效,以及围绕特定模型行为定制系统的能力。它还可以减少对单一类别外部加速器的依赖。在一个算力获取会限制产品策略的市场中,基础设施控制正越来越成为竞争战略的一部分。

OpenAI 的举动并不能证明定制芯片会立刻胜过所有现有替代方案。到目前为止披露的证据还不足以支持这一点。但它确实表明,这家公司正在试图影响一个比单纯模型排名更难的问题:谁来控制支撑 AI 规模化交付的整套技术栈。如果 Jalapeño 的表现符合预期,其意义将超出单一产品周期。它将表明,领先的 AI 开发者也正在变成硬件公司。

本文基于 The Decoder 的报道。阅读原文

Originally published on the-decoder.com