OpenAIs erster Inferenzchip aus eigener Entwicklung erzielt frühe Erfolge gegen Nvidia

OpenAIs erster kundenspezifischer Inferenzchip tritt als ernstzunehmender Herausforderer auf

OpenAI hat seinen ersten intern entwickelten Inferenzchip vorgestellt, einen Prozessor namens Jalapeño, mit Benchmark-Ergebnissen, die ihn Berichten zufolge bei mehreren wichtigen Kennzahlen vor Nvidias Blackwell- und Rubin-Plattformen positionieren. Die Bedeutung liegt dabei nicht nur im Headline-Vergleich, sondern auch darin, dass eines der größten Entwicklerunternehmen von KI-Modellen damit offenbar über die Abhängigkeit von Handels-Silizium hinausgeht und versucht, die Ökonomie der Inferenz selbst zu gestalten.

Laut den auf der Hot-Chips-Konferenz präsentierten Ergebnissen ist Jalapeño ausschließlich für Inferenz ausgelegt. Es ist kein Trainingschip und auch nicht nur auf OpenAIs eigene Modelle zugeschnitten. Stattdessen wird er als Allzweck-Beschleuniger für die Inferenz großer Sprachmodelle beschrieben, der Modelle effizienter und mit geringerer Latenz ausführen soll. Diese Positionierung ist wichtig. Inferenz ist der Punkt, an dem große KI-Systeme mit Nutzern zusammentreffen, und genau dort summieren sich die Kosten für den Betrieb von Chatbots, Agenten und anderen generativen Anwendungen in großem Maßstab.

Der Quellentext sagt, OpenAI behaupte, Jalapeño liefere bei drei getesteten Modellen 1,5x bis 1,9x mehr KI-Arbeit pro Watt bei Spitzen-Throughput sowie eine 1,7x bis 3,6x niedrigere End-to-End-Latenz als die besten in diesen Tests verfügbaren kommerziellen Systeme. Für interaktive Workloads soll die Leistung laut Unternehmen 2,1x bis 4,1x höher liegen. Wenn sich diese Zahlen in breiteren Einsätzen bestätigen, wäre der Chip ein bemerkenswertes Ergebnis der ersten Generation in einem Markt, in dem Nvidia das Tempo vorgibt und neue Herausforderer meist mehrere Produktzyklen benötigen, um wirklich konkurrenzfähig zu werden.

Warum diese Benchmarks wichtig sind

Die berichteten Tests nutzten SemiAnalysiss öffentlichen InferenceX-Benchmark, wobei OpenAI die Zahlen lieferte und SemiAnalysis einige Durchläufe vor Ort verifizierte. Die im Quellentext genannten Modelle waren GPT-OSS 120B, Deepseek R1 670B und Kimi K2.5 1T. Auf GPT-OSS erreichte Jalapeño Berichten zufolge etwa 1.400 Token pro Sekunde und Nutzer. Auf Deepseek R1 lag es bei einer einzelnen gleichzeitigen Anfrage Berichten zufolge über 700 Token pro Sekunde.

Die Quelle sagt außerdem, dass Jalapeño bei gleicher Decoding-Geschwindigkeit je nach Modell zwischen dem 54-fachen und 104-fachen des Token-Throughputs pro Kilowatt des besten verfügbaren Beschleunigers erreichte. Das ist eine bemerkenswerte Behauptung, weil sie über Rohgeschwindigkeit hinausgeht und an die Infrastrukturfrage heranführt, die den KI-Wettbewerb zunehmend bestimmt: Wie viele nützliche Token kann ein Unternehmen für ein gegebenes Energiebudget erzeugen.

Strom, Kühlung und Rack-Dichte sind inzwischen fast so wichtig geworden wie die Chips selbst. In diesem Umfeld verändert ein Design, das den Durchsatz pro Watt verbessert, wie viele Nutzersitzungen sich aus einer festen Rechenzentrumsfläche bedienen lassen. Geringere Latenz ist ebenso wichtig. Bei vielen KI-Produkten verschlechtert sich die Nutzererfahrung schnell, wenn Antworten langsamer werden, besonders bei interaktivem Schlussfolgern oder bei Werkzeug nutzenden Agenten, die viele Hin-und-her-Schritte benötigen können.

OpenAI zielt auf die Ökonomie der Inferenz, nicht nur auf Prestige

Die tiefere Bedeutung von Jalapeño ist strategisch. OpenAI behauptet nicht einfach, einen konkurrenzfähigen Chip bauen zu können. Das Unternehmen signalisiert, dass Inferenz wertvoll genug ist, um vertikale Integration zu rechtfertigen. Training zieht zwar weiterhin die meiste Aufmerksamkeit in der KI-Infrastruktur auf sich, aber Inferenz ist der Bereich, in dem ausgereifte Produkte finanziell stehen oder fallen. Jeder marginale Gewinn bei Token pro Watt oder bei der Latenz kann zu niedrigeren Bereitstellungskosten, höherer Kapazität oder beidem führen.

Der Quellentext merkt an, dass Jalapeño seine berichteten Werte ohne Techniken wie Multi-Token Prediction oder Speculative Decoding erreicht habe, während einige Vergleichssysteme diese Optimierungen nutzten. Das bedeutet, dass OpenAI die aktuellen Ergebnisse des Chips als Ausgangspunkt und nicht als Obergrenze darstellt. Im Kern argumentiert das Unternehmen, dass durch Software- und Systemtuning noch weiteres Potenzial vorhanden sei.

Dieser Punkt ist wichtig, weil kundenspezifische Chips nur dann erfolgreich sind, wenn Hardware und Software eng genug gemeinsam entwickelt werden, um architektonische Vorteile in Produktionsgewinne zu übersetzen. Wenn OpenAI Modellauslieferungssoftware, Compiler-Arbeit und Systemorchestrierung mit einem Chip verbinden kann, der um die eigenen Betriebsanforderungen herum entworfen wurde, könnte das Unternehmen einen Hebel gewinnen, der über ein einzelnes Benchmark-Diagramm hinausgeht.

Die Vorbehalte sind genauso wichtig wie die Behauptungen

Es gibt jedoch Gründe, die Ankündigung sorgfältig zu lesen. Der Quellentext selbst enthält mehrere Einschränkungen dazu, wie weit sich die Ergebnisse verallgemeinern lassen. Nvidia und AMD haben bereits Ergebnisse mit größeren Modellen wie Deepseek V4 Pro und Kimi K3 veröffentlicht, die auf Jalapeño noch nicht getestet wurden. Das lässt offen, wie der Chip bei größeren Modellen, höheren Kontextanforderungen und stärkerem Speicherdruck performt.

Die Reife-Lücke ist ein weiterer wesentlicher Vorbehalt. Rubin-Systeme werden bereits an Kunden ausgeliefert, während Jalapeño Berichten zufolge noch nicht über Engineering-Samples hinausgekommen ist. Frühe Samples können architektonisches Potenzial zeigen, aber Produktreife hängt von Fertigungsausbeute, Softwarestabilität, thermischem Verhalten, Deployment-Zuverlässigkeit und Lieferkettenumfang ab. Ein Benchmark-Vorsprung auf einer Konferenzbühne wird nicht automatisch zu einem wiederholbaren Vorteil über ganze Flotten hinweg.

Die Quelle ordnet auch die Total Cost of Ownership pro Token in mindestens einem Vergleich als ungefähr gleich zwischen Jalapeño und Rubin ein, trotz des behaupteten Effizienzvorteils. Das erinnert daran, dass Rechenzentrumsökonomie aus vielen Variablen besteht. Speicher, Packaging, Netzwerke, Deployment-Komplexität und Auslastungsraten können die Lücke zwischen einem technisch überlegenen Chip und einer kommerziell überlegenen Plattform verkleinern.

Ein Chip der ersten Generation, der die Diskussion verändert

Trotz dieser Vorbehalte ist die berichtete Leistung bedeutsam. Von Chips der ersten Generation wird selten erwartet, dass sie sowohl bei Latenz als auch bei Effizienz die aktuellen und unmittelbar bevorstehenden Plattformen des Marktführers schlagen. Wenn OpenAIs Vorführung repräsentativ ist, deutet sie darauf hin, dass das Unternehmen schneller vorangekommen ist, als viele bei der Entwicklung spezialisierter Siliziumlösungen erwartet hätten. Die Quelle sagt, Jalapeño sei gemeinsam mit Broadcom in neun Monaten entwickelt worden, teilweise unter Einsatz von OpenAIs eigenen Modellen. Falls das stimmt, unterstreicht der kurze Zeitraum, wie schnell große KI-Entwickler versuchen, mehr von ihrem Stack zu internalisieren.

Die breitere Branchenimplikation ist, dass Frontier-Model-Unternehmen womöglich nicht mehr nur auf Algorithmen und Produkte setzen wollen. Sie wollen zunehmend direkte Kontrolle über den Hardwarepfad, der Kosten, Leistung und Deploymentskala bestimmt. Nvidia bleibt der etablierte Anbieter mit ausgelieferten Systemen und einem tief verankerten Ökosystem, aber eine glaubwürdige kundenspezifische Alternative aus einem führenden KI-Labor würde dennoch die Verhandlungsposition im Markt verändern.

Vorläufig sollte Jalapeño als frühes, aber bedeutsames Signal gelten, nicht als abgeschlossener Sieg. Die wichtigste Tatsache ist nicht, dass OpenAI einen Benchmark-Sieg verbucht hat, so berichtet es auch sein mag. Wichtig ist, dass das Unternehmen offenbar einen Chip hervorgebracht hat, der glaubwürdig genug ist, um ernsthaft mit dem Industriestandard verglichen zu werden. In der KI-Infrastruktur ist das allein schon eine Entwicklung, die man genau beobachten sollte.

Dieser Artikel basiert auf der Berichterstattung von The Decoder. Zum Originalartikel.