La première puce d’inférence maison d’OpenAI affiche de premiers succès face à Nvidia

La première puce d’inférence personnalisée d’OpenAI apparaît comme une concurrente sérieuse

OpenAI a présenté sa première puce d’inférence conçue en interne, un processeur appelé Jalapeño, avec des résultats de benchmark qui la placeraient, selon les rapports, devant les plateformes Blackwell et Rubin de Nvidia sur plusieurs mesures clés. L’enjeu ne tient pas seulement à la comparaison en titre, mais au fait qu’il suggère que l’un des plus grands développeurs de modèles d’IA s’éloigne de la dépendance au silicium du marché pour tenter de façonner l’économie même de l’inférence.

Selon les résultats rapportés lors de la conférence Hot Chips, Jalapeño est conçu uniquement pour l’inférence. Ce n’est pas une puce d’entraînement, et elle n’est pas réglée exclusivement pour les modèles d’OpenAI. Elle est décrite comme un accélérateur d’inférence de grands modèles de langage à usage général, destiné à exécuter des modèles plus efficacement et avec une latence plus faible. Ce positionnement est important. L’inférence est l’endroit où les grands systèmes d’IA rencontrent les utilisateurs, et où le coût du service des chatbots, des agents et d’autres applications génératives se cumule à grande échelle.

Le texte source indique qu’OpenAI affirme que Jalapeño délivre de 1,5x à 1,9x plus de travail d’IA par watt au débit maximal sur trois modèles testés, ainsi qu’une latence de bout en bout de 1,7x à 3,6x inférieure à celle des meilleurs systèmes commerciaux disponibles dans ces tests. Pour les charges de travail interactives, l’entreprise dit que les performances sont de 2,1x à 4,1x supérieures. Si ces chiffres se confirment dans des déploiements plus larges, la puce représenterait un résultat notable de première génération sur un marché où Nvidia donne le rythme et où les nouveaux concurrents ont souvent besoin de plusieurs cycles produits pour devenir réellement compétitifs.

Pourquoi ces benchmarks comptent

Les tests rapportés ont utilisé le benchmark public InferenceX de SemiAnalysis, OpenAI fournissant les chiffres et SemiAnalysis vérifiant certains essais sur site. Les modèles cités dans la source étaient GPT-OSS 120B, Deepseek R1 670B et Kimi K2.5 1T. Sur GPT-OSS, Jalapeño aurait atteint environ 1 400 tokens par seconde par utilisateur. Sur Deepseek R1, il aurait dépassé 700 tokens par seconde sur une seule requête concurrente.

La source indique également qu’à vitesse de décodage égale, Jalapeño a obtenu entre 54x et 104x le débit de tokens par kilowatt par rapport au meilleur accélérateur disponible, selon le modèle. C’est une affirmation frappante, car elle va au-delà de la vitesse brute et touche à l’équation d’infrastructure qui définit de plus en plus la concurrence en IA : combien de tokens utiles une entreprise peut produire pour un budget énergétique donné.

L’électricité, le refroidissement et la densité par baie sont devenus des contraintes presque aussi importantes que les puces elles-mêmes. Dans cet environnement, une conception capable d’améliorer le débit par watt change le nombre de sessions utilisateur qu’un centre de données donné peut servir. Une latence plus faible compte tout autant. Pour de nombreux produits d’IA, l’expérience utilisateur se dégrade rapidement si les réponses ralentissent, surtout pour le raisonnement interactif ou les agents utilisant des outils qui peuvent nécessiter de nombreux allers-retours.

OpenAI cible l’économie de l’inférence, pas seulement le prestige

La signification la plus profonde de Jalapeño est stratégique. OpenAI ne prétend pas simplement pouvoir fabriquer une puce compétitive. L’entreprise signale que l’inférence est suffisamment précieuse pour justifier une intégration verticale. L’entraînement capte encore l’essentiel de l’attention dans l’infrastructure IA, mais l’inférence est l’endroit où les produits matures survivent ou meurent financièrement. Chaque gain marginal en tokens par watt ou en latence peut se traduire par une baisse des coûts de service, une capacité plus élevée ou les deux.

Le texte source note que Jalapeño a atteint ses chiffres rapportés sans utiliser des techniques comme la prédiction multi-token ou le décodage spéculatif, alors que certains systèmes de comparaison utilisaient ces optimisations. Cela signifie qu’OpenAI présente les résultats actuels de la puce comme une base plutôt que comme un plafond. En pratique, l’entreprise affirme qu’il existe encore une marge de progression supplémentaire grâce au logiciel et au réglage au niveau système.

Ce point compte, car les puces personnalisées ne réussissent que lorsque matériel et logiciel sont co-conçus assez efficacement pour transformer les avantages architecturaux en gains de production. Si OpenAI parvient à associer logiciel de service des modèles, travail sur les compilateurs et orchestration système à une puce conçue autour de ses besoins opérationnels, elle pourrait gagner un levier qui dépasse n’importe quel graphique de benchmark pris isolément.

Les réserves sont aussi importantes que les affirmations

Il existe toutefois des raisons d’examiner l’annonce avec prudence. Le texte source lui-même inclut plusieurs limites sur la portée de généralisation des résultats. Nvidia et AMD ont déjà publié des résultats utilisant des modèles plus grands, comme Deepseek V4 Pro et Kimi K3, qui n’ont pas encore été testés sur Jalapeño. Cela laisse ouverte la question des performances de la puce lorsque la taille des modèles, les besoins de contexte et la pression mémoire augmentent au-delà du jeu de tests rapporté.

L’écart de maturité constitue une autre réserve majeure. Les systèmes Rubin sont déjà expédiés aux clients, tandis que Jalapeño, selon les rapports, n’a pas dépassé le stade des échantillons d’ingénierie. Les premiers échantillons peuvent démontrer une promesse architecturale, mais la maturité produit dépend du rendement de fabrication, de la stabilité logicielle, du comportement thermique, de la fiabilité de déploiement et de l’échelle de la chaîne d’approvisionnement. Un avantage dans une présentation de conférence ne se traduit pas automatiquement en avantage reproductible à l’échelle d’une flotte.

La source présente aussi le coût total de possession par token comme à peu près équivalent entre Jalapeño et Rubin dans au moins une comparaison, malgré l’avantage d’efficacité revendiqué. Cela rappelle que l’économie des centres de données comporte de nombreuses variables. La mémoire, le packaging, le réseau, la complexité de déploiement et les taux d’utilisation peuvent réduire l’écart entre une puce techniquement supérieure et une plateforme commercialement supérieure.

Une puce de première génération qui change la conversation

Malgré ces réserves, les performances rapportées sont significatives. On s’attend rarement à ce qu’une puce de première génération dépasse à la fois en latence et en efficacité les plateformes actuelles et imminentes du leader du marché. Si la démonstration d’OpenAI est représentative, elle suggère que l’entreprise a avancé plus vite que beaucoup ne l’auraient cru dans la conception de silicium spécialisé. La source indique que Jalapeño a été développé avec Broadcom en neuf mois, en partie à l’aide des propres modèles d’OpenAI. Si cela est exact, ce délai court souligne la rapidité avec laquelle les grands développeurs d’IA cherchent à internaliser davantage de la pile.

L’implication plus large pour le secteur est que les entreprises de modèles de frontière ne veulent peut-être plus seulement rivaliser sur les algorithmes et les produits. Elles souhaitent de plus en plus contrôler directement la voie matérielle qui détermine les coûts, les performances et l’échelle de déploiement. Nvidia reste l’acteur en place avec des systèmes livrés et un écosystème profondément ancré, mais une alternative personnalisée crédible issue d’un grand laboratoire d’IA modifierait tout de même le rapport de force du marché.

Pour l’instant, Jalapeño doit être vu comme un signal précoce mais important, et non comme une victoire acquise. Le fait le plus important n’est pas qu’OpenAI ait remporté un benchmark, même si c’est ce qui a été rapporté. C’est que l’entreprise semble avoir produit une puce suffisamment crédible pour être comparée sérieusement au standard de l’industrie. Dans l’infrastructure IA, cela seul mérite d’être suivi de près.

Cet article s’appuie sur le reportage de The Decoder. Lire l’article original.