OpenAI-யின் முதல் in-house inference chip, Nvidia மீது தொடக்க வெற்றிகளைப் பதிவு செய்தது

OpenAI-யின் முதல் custom inference chip ஒரு தீவிர சவாலாளராக உருவெடுக்கிறது

OpenAI தனது முதல் in-house inference chip ஆன Jalapeño என்ற processor-ஐ, பல முக்கிய அளவுகளில் Nvidia-யின் Blackwell மற்றும் Rubin platforms-க்கு மேலாக இடம் பெறுவதாக reportedly காட்டும் benchmark முடிவுகளுடன் வழங்கியுள்ளது. இந்த முன்னிலை headline ஒப்பீட்டால் மட்டும் முக்கியமல்ல; இது மிகப்பெரிய AI model developers-இல் ஒன்று merchant silicon-ஐ மட்டுமே சார்ந்திருக்காமல், inference-ன் economics-ஐத் தானே வடிவமைக்க முயற்சிக்கிறது என்பதையும் சுட்டிக்காட்டுகிறது.

Hot Chips மாநாட்டிலிருந்து reported results-ன் படி, Jalapeño inference-க்காக மட்டுமே வடிவமைக்கப்பட்டுள்ளது. இது training chip அல்ல; OpenAI-யின் சொந்த models-க்காக மட்டுமே fine-tune செய்யப்பட்டதும் அல்ல. அதற்கு பதிலாக, இது models-ஐ அதிக efficiency-யுடன், குறைந்த latency-யுடன் இயக்குவதற்கான general-purpose large language model inference accelerator என்று விவரிக்கப்படுகிறது. இந்த positioning முக்கியமானது. Inference என்பது பெரிய AI systems பயனர்களைச் சந்திக்கும் கட்டமாகும்; அதுவே chatbots, agents, மற்றும் பிற generative applications-ஐ scale-ல் சேவை செய்வதற்கான செலவு அதிகரிக்கும் இடமும் ஆகும்.

Source text-ன் படி, Jalapeño மூன்று tested models-இல் peak throughput-ல் watt-க்கு 1.5x முதல் 1.9x வரை அதிக AI work வழங்குகிறது என்றும், அந்த tests-இல் கிடைத்த சிறந்த commercially available systems-ஐ விட end-to-end latency 1.7x முதல் 3.6x வரை குறைவாக உள்ளது என்றும் OpenAI கூறுகிறது. Interactive workloads-க்கு, performance 2.1x முதல் 4.1x வரை அதிகமாக இருப்பதாக நிறுவனம் கூறுகிறது. இந்த எண்ணிக்கைகள் பரந்த deployments-இல் உறுதியாகின்றன என்றால், Nvidia வேகத்தை நிர்ணயிக்கும் சந்தையில், மற்றும் உண்மையில் competitive ஆக மாற புதிய challengers-க்கு வழக்கமாக பல product cycles தேவைப்படும் சூழலில், இந்த chip ஒரு குறிப்பிடத்தக்க first-generation முடிவாக இருக்கும்.

இந்த benchmarks ஏன் முக்கியம்

Reported tests SemiAnalysis-ன் public InferenceX benchmark-ஐ பயன்படுத்தின; OpenAI எண்களை வழங்கியது, மேலும் SemiAnalysis சில runs-ஐ site-இல் verify செய்தது. Source-ல் குறிப்பிடப்பட்ட models GPT-OSS 120B, Deepseek R1 670B, மற்றும் Kimi K2.5 1T. GPT-OSS-ல் Jalapeño reportedly ஒவ்வொரு பயனருக்கும் வினாடிக்கு சுமார் 1,400 tokens-ஐ எட்டியது. Deepseek R1-ல், ஒரே concurrent request-இல் வினாடிக்கு 700 tokens-ஐ கடந்ததாக reportedly கூறப்படுகிறது.

மேலும், matched decoding speed-ல், model-க்கு ஏற்ப, சிறந்த கிடைக்கும் accelerator-ஐ ஒப்பிடும்போது ஒவ்வொரு kilowatt-க்கும் token throughput-ல் Jalapeño 54x முதல் 104x வரை பெற்றதாக source கூறுகிறது. இது ஒரு கணிசமான உரிமை; ஏனெனில் இது raw speed-ஐத் தாண்டி, AI போட்டியை increasingly வரையறுக்கும் infrastructure equation-ஐ நோக்கிச் செல்கிறது: ஒரு company குறிப்பிட்ட power budget-இல் எவ்வளவு பயனுள்ள tokens உருவாக்க முடியும் என்பதையே அது பார்க்கிறது.

Electricity, cooling, மற்றும் rack density ஆகியவை chips தாமே போலவே முக்கியமான கட்டுப்பாடுகளாக மாறியுள்ளன. அந்த சூழலில், throughput per watt-ஐ மேம்படுத்தும் design, நிலையான data center footprint-இல் இருந்து எத்தனை user sessions-ஐ சேவையளிக்க முடியும் என்பதை மாற்றுகிறது. Lower latency-வும் அதே அளவு முக்கியம். பல AI products-க்கு, responses மெதுவாகினால் user experience விரைவில் பாதிக்கப்படுகிறது, குறிப்பாக interactive reasoning அல்லது tool-using agents-இல்; அவை பல back-and-forth operations-ஐ வேண்டியிருக்கலாம்.

OpenAI prestige-ஐ மட்டும் அல்ல, inference economics-ஐ குறிவைக்கிறது

Jalapeño-வின் ஆழமான முக்கியத்துவம் மூலோபாயமானது. OpenAI போட்டியிடக்கூடிய chip ஒன்றை உருவாக்க முடியும் என்று மட்டும் கூறவில்லை. inference-ஐ vertical integration-ஐ நியாயப்படுத்தும் அளவு மதிப்புமிக்கதாக அது கருதுகிறது என்பதைக் குறிக்கிறது. Training இன்னும் AI infrastructure-இல் பெரும்பாலான கவனத்தைப் பெறுகிறது; ஆனால் நிதியியல் ரீதியாக mature products வாழ்வதோ மரணிப்பதோ இங்கேதான். ஒவ்வொரு marginal gain-உம், tokens per watt அல்லது latency-இல் கிடைக்கும் ஒவ்வொரு முன்னேற்றமும், குறைந்த serving costs-ஆக, அதிக capacity-ஆக, அல்லது இரண்டாகவும் மாறலாம்.

Source text குறிப்பிடுவது என்னவென்றால், multi-token prediction அல்லது speculative decoding போன்ற techniques-ஐப் பயன்படுத்தாமல் Jalapeño தனது reported numbers-ஐ பெற்றது; ஆனால் சில comparison systems அந்த optimizations-ஐ பயன்படுத்தின. இதன் பொருள், chip-ன் தற்போதைய results-ஐ OpenAI ஒரு ceiling அல்ல, ஒரு base ஆக நிலைநிறுத்துகிறது. நடைமுறையில், software மற்றும் system-level tuning-இல் இருந்து இன்னும் கூடுதல் headroom கிடைக்கிறது என்று நிறுவனம் வாதிடுகிறது.

இந்தக் கருத்து முக்கியம்; ஏனெனில் custom chips வெற்றி பெறுவது hardware மற்றும் software ஆகியவை architectural advantages-ஐ production gains-ஆக மாற்றும் அளவுக்கு நன்றாக co-design செய்யப்பட்டால் மட்டுமே. OpenAI தனது model-serving software, compiler work, மற்றும் system orchestration-ஐ தன் operational தேவைகளின் அடிப்படையில் வடிவமைக்கப்பட்ட chip-உடன் இணைக்க முடிந்தால், அது எந்த ஒரே benchmark chart-ஐ விடவும் மேலான leverage-ஐப் பெறக்கூடும்.

குறிப்பிட்ட எச்சரிக்கைகள் கூறுகளுக்கு இணையாக முக்கியமானவை

எனினும், இந்த அறிவிப்பை கவனமாகப் படிக்க வேண்டிய காரணங்கள் உள்ளன. முடிவுகளை எவ்வளவு தூரம் generalize செய்யலாம் என்பதில் source தானாகவே பல கட்டுப்பாடுகளை சேர்த்துள்ளது. Nvidia மற்றும் AMD ஏற்கனவே Deepseek V4 Pro மற்றும் Kimi K3 போன்ற பெரிய models-ஐப் பயன்படுத்தி results வெளியிட்டுள்ளன; அவை இன்னும் Jalapeño-வில் test செய்யப்படவில்லை. இதனால் model sizes, context demands, மற்றும் memory pressure reported set-ஐ கடந்தால் chip எப்படி செயல்படுகிறது என்ற கேள்வி திறந்தே உள்ளது.

Maturity gap இன்னொரு முக்கிய caveat. Rubin systems ஏற்கனவே customers-க்கு shipping ஆகிக் கொண்டிருக்கின்றன, ஆனால் Jalapeño reportedly engineering samples-ஐத் தாண்டவில்லை. Early samples architectural promise-ஐ காட்டலாம்; ஆனால் product readiness என்பது manufacturing yield, software stability, thermal behavior, deployment reliability, மற்றும் supply-chain scale ஆகியவற்றைச் சார்ந்தது. மாநாட்டு மேடையில் கிடைத்த benchmark lead, fleet-ளிலும் அதேபோல் மீளக்கூடிய advantage-ஆக மாறும் என்பதற்கு தானாக உத்தரவாதமில்லை.

Source மேலும், குறைந்தபட்சம் ஒரு comparison-இல் token-க்கு மொத்த உரிமைச் செலவு Jalapeño மற்றும் Rubin இடையே சுமார் சமமாக இருந்ததாகக் காட்டுகிறது; efficiency edge இருந்தபோதும். இது data center economics பல மாறிலிகளை உடையது என்பதைக் நினைவூட்டுகிறது. Memory, packaging, networking, deployment complexity, மற்றும் utilization rates ஆகியவை தொழில்நுட்ப ரீதியாக சிறந்த chip மற்றும் வணிக ரீதியாக சிறந்த platform இடையிலான இடைவெளியை குறைக்க முடியும்.

முதல் தலைமுறை chip, உரையாடலை மாற்றுகிறது

இந்த caveats இருந்தபோதும், reported performance முக்கியமானது. முதல் தலைமுறை chips-கள், latency மற்றும் efficiency இரண்டிலும் சந்தைத் தலைவரின் current மற்றும் near-next platforms-ஐ மிஞ்சும் என்று பொதுவாக எதிர்பார்க்கப்படுவதில்லை. OpenAI-யின் காட்டல் பிரதிநிதித்துவமானதாக இருந்தால், specialized silicon-ஐ உருவாக்குவதில் நிறுவனம் பலர் எதிர்பார்த்ததைவிட வேகமாக நகர்ந்துள்ளது என்பதை அது காட்டுகிறது. Source கூறுவது, Jalapeño Broadcom-உடன் ஒன்பது மாதங்களில், பகுதியளவில் OpenAI-யின் சொந்த models-ஐ பயன்படுத்தி உருவாக்கப்பட்டது என்று. இந்த குறுகிய காலக்கெடு சரியானதெனில், பெரிய AI developers stack-ன் இன்னும் அதிக பகுதியை எவ்வளவு விரைவாக உள்ளடக்க முயலுகிறார்கள் என்பதை அது வலியுறுத்துகிறது.

பரந்த தொழில்துறை விளைவு என்னவென்றால், frontier model நிறுவனங்கள் இனி algorithms மற்றும் products மீது மட்டும் போட்டியிடுவதில் திருப்தி அடையாமல் இருக்கலாம். cost, performance, மற்றும் deployment scale-ஐ நிர்ணயிக்கும் hardware path-ஐ நேரடியாகக் கட்டுப்படுத்த அவர்கள் increasingly விரும்புகிறார்கள். Nvidia shipping systems மற்றும் ஆழமாக நிலைத்த ecosystem-உடன் incumbent ஆகத் தொடர்கிறது; ஆனால் முன்னணி AI lab-இலிருந்து கிடைக்கும் நம்பகமான custom alternative கூட சந்தை முழுவதும் negotiating power-ஐ மாற்றிவிடும்.

இப்போதைக்கு, Jalapeño-வை உறுதியாக நிலைநிறுத்தப்பட்ட வெற்றி என değil, ஆரம்பத்திலான ஆனால் முக்கியமான signal என பார்க்க வேண்டும். மிகவும் முக்கியமான உண்மை OpenAI ஒரு benchmark வெற்றி பதிவு செய்துள்ளது என்பதல்ல, அது கூறப்படுவதாக இருந்தாலும் கூட. முக்கியமானது என்னவெனில், தொழில்துறை standard-உடன் தீவிரமாக ஒப்பிடக்கூடிய chip ஒன்றை நிறுவனம் உருவாக்கியதாகத் தெரிகிறது. AI infrastructure-இல், அதுவே கவனமாக பார்க்கத் தக்க ஒரு வளர்ச்சியாகும்.

இந்தக் கட்டுரை The Decoder வழங்கிய செய்திப்பதிவை அடிப்படையாகக் கொண்டது. மூலக் கட்டுரையைப் படிக்கவும்.