చిన్న reasoning models కోసం Thinking Machines వాదనను ముందుకు తెస్తోంది

మాజీ OpenAI CTO మిరా మురాటి స్థాపించిన AI lab అయిన Thinking Machines, సంస్థ యొక్క మునుపటి Inkling model కంటే చాలా చిన్న active footprint‌ను ఉపయోగిస్తూ capability పరంగా పోటీ చేయడానికి రూపొందించిన open-weights reasoning model అయిన Inkling Small‌ను విడుదల చేసింది. ఈ launch, AI market‌లో ఇప్పటికే పరిచయమైన కానీ మరింత ముఖ్యమైన మార్పును సూచిస్తుంది: efficiency ఇక కేవలం technical footnote కాదు, దాని స్వంత product feature‌గా మారుతోంది.

ఇచ్చిన source text ప్రకారం, Artificial Analysis తన Intelligence Index‌లో Inkling Small‌కు 40 score ఇస్తుంది, ఇది Inkling యొక్క 41 కంటే ఒక పాయింట్ మాత్రమే తక్కువ. ఆ gap headline‌ను స్పష్టంగా చేయడానికి తగినంత చిన్నది. కొత్త model, కొన్ని coding మరియు reasoning benchmarks‌లో మెరుగుపరుస్తూనే, పెద్ద model యొక్క మొత్తం స్థితికి దగ్గరగా ఉండే చిన్న system‌గా స్థానం పొందింది.

Model యొక్క reported size profile ఈ pitch‌కు కేంద్రబిందువు. Inkling Small‌కు మొత్తం 276 billion parameters ఉన్నాయని, వాటిలో 12 billion active అని వివరించబడింది; ఇది original Inkling పరిమాణంలో మూడో వంతుకంటే తక్కువ అని source చెబుతోంది. Artificial Analysis కూడా సమానమైన లేదా అంతకంటే చిన్న size ఉన్న ఏ open model కూడా తన index‌లో దీనికంటే ఎక్కువ score పొందలేదని అంటోంది.

Benchmark ఫలితాలు లక్ష్యిత లాభాలను సూచిస్తున్నాయి

Benchmark కథ Inkling Small మొత్తం మీద తన predecessor‌తో దాదాపు సమానంగా బలంగా ఉందని మాత్రమే చెప్పడం కాదు. కొన్ని coding మరియు reasoning tests‌లో ఇది పెద్ద Inkling‌ను మించిందని source text చెబుతోంది. ఉదాహరణగా Humanity’s Last Exam‌ను పేర్కొంటారు, అక్కడ Inkling Small 32% score చేస్తుంది, Inkling 30%తో పోలిస్తే; అలాగే GPQA Diamond‌లో అది 89% చేరుతుంది, Inkling 87%తో పోలిస్తే.

ఈ సంఖ్యలు ముఖ్యమైనవి, ఎందుకంటే model కేవలం compressed version మాత్రమే కాదు, capabilityలో ఎక్కువ భాగాన్ని నిలుపుకున్నదనే భావనను ఇస్తాయి. కనీసం కొన్ని tasks‌లో, ఇది పెద్ద system‌ను మించగలదని కనిపిస్తోంది. ఎక్కువ performance కోసం పెద్ద models‌నే default మార్గంగా భావించిన market‌లో ఇలాంటి ఫలితం గమనార్హం.

అదే సమయంలో, source Inkling Small‌ను universal upgrade‌గా ప్రదర్శించదు. agent-based tasks మరియు factual knowledge‌లో ఇది original Inkling కంటే వెనుకబడుతుందని చెబుతుంది. ఈ పరిమితి ముఖ్యమైనది, ఎందుకంటే launch‌ను hype కాకుండా tradeoffs‌గా నిలబెడుతుంది. మరింత బలమైన autonomous task execution లేదా విస్తృత recall కోరుకునే users, efficiency పరంగా చిన్నదైన model ఆకర్షణీయంగా ఉన్నప్పటికీ, పెద్ద model‌ను ఇష్టపడవచ్చు.

Efficiencyనే లోతైన పోటీ సందేశం

మరింత బలమైన భేదకంగా token efficiency ఉండొచ్చు. source ప్రకారం, Inkling Small task‌కు సగటున 24,000 output tokens ఉపయోగిస్తుంది, Deepseek V4 Flash‌కు 45,000, GPT-5.4 mini‌కు 78,000తో పోలిస్తే. పైకి చూస్తే, ఇది కొన్ని competing systems కంటే తక్కువ generated output‌తో గణనీయమైన reasoning work చేయగల model‌ను సూచిస్తుంది.

ఆ రకమైన efficiency economics మరియు product design రెండింటికీ ముఖ్యమైనది. తక్కువ output token వినియోగం inference cost మరియు latency‌ను తగ్గించగలదు, అలాగే throughput లేదా budget raw benchmark strength కంటే సమానంగా ముఖ్యమైన వాతావరణాల్లో deployment‌ను సులభతరం చేయగలదు. ఉత్పత్తుల్లో AI features నిర్మించే companies‌కు, తక్కువ output tokens‌తో ఎక్కువ చేయగల model, leaderboards అన్నింటిలో ముందుండకపోయినా కూడా ఆకర్షణీయంగా మారుతుంది.

ఈ launch, AI vendors progress‌ను ఎలా frame చేస్తారో దానిలో broader shift‌ను సూచిస్తుంది. కేవలం absolute frontier performance‌ను మాత్రమే ప్రాముఖ్యం ఇవ్వడం కంటే, developers quality-per-token equation‌పై మరింతగా పోటీ పడుతున్నారు. ఇచ్చిన figures ఆధారంగా, Inkling Small తన larger sibling‌కు general standing‌లో దగ్గరగా ఉండి, efficiency profile‌ను మెరుగుపరచడం ద్వారా ఆ pattern‌కు సరిపోతుంది.

Open weights మరియు multimodal input ఆకర్షణను విస్తరిస్తాయి

Thinking Machines model యొక్క practical reach‌ను కూడా విస్తరించడానికి ప్రయత్నిస్తోంది. source text ప్రకారం, Inkling Small text, image, మరియు speech inputs‌ను support చేస్తుంది మరియు 256,000-token context window‌తో వస్తుంది. ఇది Apache 2.0 license కింద విడుదలైంది, weights Hugging Face‌లో host చేయబడ్డాయి.

ఈ వివరాలు ముఖ్యమైనవి, ఎందుకంటే model‌ను ఎవరు ఉపయోగించగలరు, ఎంత వేగంగా దాన్ని adapt చేయగలరు అన్నదానిపై అవి ప్రభావం చూపుతాయి. Apache 2.0 release experimentation మరియు commercial use‌కు friction‌ను తగ్గిస్తుంది. Multimodal input support, text-only reasoning కంటే విస్తృతమైన applications‌కు system‌ను సంబంధితంగా చేస్తుంది. అలాగే long context window, పెద్ద documents, దీర్ఘ conversations, లేదా విస్తృత working memory అవసరమైన tasks‌కు దాని ఆకర్షణను పెంచుతుంది.

Tinker Playground ద్వారా browser‌లో model‌ను fine-tune చేయవచ్చని కూడా source చెబుతోంది. ఆ feature, users తమ own data‌తో customization కోసం ఒక foundation‌గా తమ models‌ను Thinking Machines స్థానం కల్పించాలనే దృష్టితో సరిపోతుంది. మరో మాటలో, company కేవలం base model story‌ను మాత్రమే అమ్మడం లేదు. ఆ base model‌ను తక్కువ లక్ష్యాలకు users అనుసరించే workflow‌ను కూడా అందిస్తోంది.

ప్రస్తుత model market‌లో ఈ release ఎందుకు ముఖ్యం

AI developers practical value‌ను చూపించాల్సిన ఒత్తిడిలో ఉన్న సమయంలో Inkling Small వస్తోంది; కేవలం scale‌ను కాదు. ఇంకా, ever-larger models‌ను train చేయడం ఖరీదైనదే, వాటిని deploy చేసే product teams capabilityతో పాటు cost, speed, flexibility, licensing‌ను కూడా తూకం వేయాలి. దీంతో key tasks‌లో బలంగా ఉండి, పనిచేయడానికి మరింత efficient‌గా ఉన్న models‌కు స్థానం ఏర్పడుతోంది.

ఇచ్చిన source Inkling Small‌ను అటువంటి offering‌గా frame చేస్తోంది: దాని size‌కు అసాధారణంగా బాగా పనిచేసే చిన్న open-weights reasoning model. ఈ positioning విస్తృత వినియోగంలో నిలబడితే, model development మరింత discipline ఉన్న దశలోకి ప్రవేశిస్తోంది అనే వాదనను బలపరచవచ్చు; అక్కడ optimization మరియు deployment value raw expansion‌తో సమానంగా ముఖ్యం.

ఇది fine-tune చేసి custom workflows‌లో embed చేయగల open models అనే పెరుగుతున్న market segment‌పై దృష్టిని కూడా నిలుపుతుంది. Proprietary frontier systems ఇంకా అనేక headline comparisons‌ను ఆధిపత్యం చేస్తూనే ఉన్నప్పటికీ, open-weight releases strategic‌గా ముఖ్యమైనవే, ఎందుకంటే అవి సంస్థలకు model‌ను ఎలా adapt చేయాలి, host చేయాలి, govern చేయాలి అన్న దానిపై మరింత ప్రత్యక్ష నియంత్రణ ఇస్తాయి.

గరిష్టవాదం కాకుండా కొలిచిన అడుగు

Inkling Small గురించి అత్యంత ఆసక్తికరమైన విషయం, అది ఏమి claim చేయడానికి ప్రయత్నించడంలేదనే దానిలో ఉండొచ్చు. ఇచ్చిన text ఆధారంగా, Thinking Machines దాన్ని ప్రతి category‌లో single best model‌గా చూపించడం లేదు. బదులుగా, release ఒక narrower, మరింత pragmatic proposition‌ను వాదిస్తోంది: దాని size‌కు దగ్గరగా top-tier performance, larger sibling‌పై కొన్ని benchmark wins, multimodal capability, long context, మరియు గమనించదగ్గంత తక్కువ output-token profile.

దీంతో launch spectacle కన్నా engineering priorities గురించి అవుతుంది. బాగా reasoning చేసే, open‌గా ఉండే, token burn‌ను తగ్గించే చిన్న active models, AI deployment పరిపక్వమవుతున్న కొద్దీ ఆకర్షణీయంగానే ఉంటాయి. Inkling Small ఆ future‌పై నేరుగా వేసిన bet‌లా కనిపిస్తోంది.

ఇది విస్తృతంగా స్వీకరించబడే foundation model‌గా మారుతుందా లేదా అనేది, ఇక్కడ ఇచ్చిన summary figures‌కు మించిన real-world testing‌పై ఆధారపడి ఉంటుంది. కానీ అందుబాటులో ఉన్న సమాచారంతోనే strategic message స్పష్టంగా ఉంది. AIలో efficiency ఇక compromise category కాదని నిరూపించడానికి Thinking Machines ప్రయత్నిస్తోంది. అది స్వతంత్ర, గంభీరమైన competitive lane‌గా మారుతోంది.

ఈ వ్యాసం The Decoder అందించిన నివేదిక ఆధారంగా ఉంది. అసలు వ్యాసాన్ని చదవండి.

Originally published on the-decoder.com