ছোট reasoning models-এর পক্ষে যুক্তি দিচ্ছে Thinking Machines

প্রাক্তন OpenAI CTO মীরা মুরাতি প্রতিষ্ঠিত AI lab Thinking Machines প্রকাশ করেছে Inkling Small, একটি open-weights reasoning model, যা সক্ষমতার দিক থেকে প্রতিদ্বন্দ্বিতা করতে তৈরি হলেও কোম্পানির আগের Inkling model-এর তুলনায় অনেক ছোট active footprint ব্যবহার করে। এই launch AI market-এ পরিচিত কিন্তু ক্রমশ আরও গুরুত্বপূর্ণ একটি পরিবর্তনকে নির্দেশ করে: efficiency এখন আর শুধু একটি technical footnote নয়, বরং নিজেই একটি product feature।

প্রদত্ত source text অনুযায়ী, Artificial Analysis তার Intelligence Index-এ Inkling Small-কে 40 score দিয়েছে, যা Inkling-এর 41-এর চেয়ে মাত্র এক পয়েন্ট কম। সেই ব্যবধান এতটাই ছোট যে headline-টি পরিষ্কার হয়ে ওঠে। নতুন model-টিকে একটি ছোট system হিসেবে স্থাপন করা হয়েছে, যা বড় model-এর সামগ্রিক অবস্থানের কাছাকাছি পৌঁছে যায় এবং একই সঙ্গে কিছু coding ও reasoning benchmark-এ তাকে ছাড়িয়ে যায়।

Model-এর reported size profile এই pitch-এর কেন্দ্রবিন্দু। Inkling Small-কে 276 billion total parameters এবং 12 billion active parameters-সহ বর্ণনা করা হয়েছে, যা source-এর মতে original Inkling-এর আকারের এক-তৃতীয়াংশেরও কম। Artificial Analysis আরও বলেছে, সমান বা তার চেয়ে ছোট আকারের কোনো open model তার index-এ এর চেয়ে বেশি score পায়নি।

Benchmark ফলাফল লক্ষ্যভিত্তিক উন্নতি দেখায়

Benchmark-এর গল্পটা শুধু এই নয় যে Inkling Small মোটের উপর তার predecessor-এর মতোই শক্তিশালী। source text বলছে, এটি কয়েকটি coding ও reasoning test-এ বড় Inkling-কে ছাড়িয়ে গেছে। উল্লেখিত দুটি উদাহরণ হলো Humanity’s Last Exam, যেখানে Inkling Small 32% score করে, Inkling-এর 30%-এর তুলনায়, এবং GPQA Diamond, যেখানে এটি 89% পায়, Inkling-এর 87%-এর তুলনায়।

এই সংখ্যাগুলো গুরুত্বপূর্ণ, কারণ এগুলো ইঙ্গিত দেয় model-টি কেবল একটি compressed version নয় যা বেশিরভাগ capability ধরে রাখে। অন্তত কিছু task-এ, এটি বড় system-কে ছাড়িয়ে যেতে সক্ষম বলে মনে হয়। এমন ফলাফল সেই বাজারে উল্লেখযোগ্য, যেখানে বড় models-কে প্রায়ই উচ্চ performance-এর স্বাভাবিক পথ হিসেবে ধরা হয়েছে।

একই সঙ্গে, source Inkling Small-কে সার্বজনীন upgrade হিসেবে উপস্থাপন করছে না। report অনুযায়ী, agent-based tasks এবং factual knowledge-এ এটি original Inkling-এর পিছিয়ে আছে। এই সীমাবদ্ধতা গুরুত্বপূর্ণ, কারণ এটি launch-টিকে hype নয়, tradeoff-এর মধ্যে স্থাপন করে। যারা stronger autonomous task execution বা broader recall চান, তারা efficiency-তে বেশি আকর্ষণীয় হলেও বড় model-ই বেছে নিতে পারেন।

Efficiency-ই গভীরতর প্রতিযোগিতামূলক বার্তা

আরও শক্তিশালী পার্থক্যকারী হতে পারে token efficiency। source বলছে, Inkling Small প্রতি task-এ গড়ে 24,000 output tokens ব্যবহার করে, যেখানে Deepseek V4 Flash ব্যবহার করে 45,000 এবং GPT-5.4 mini ব্যবহার করে 78,000। প্রথম দেখায়, এটি এমন একটি model-এর ইঙ্গিত দেয় যা কিছু প্রতিদ্বন্দ্বী system-এর তুলনায় কম generated output দিয়েই যথেষ্ট reasoning কাজ করতে পারে।

এই ধরনের efficiency অর্থনীতি এবং product design উভয়ের জন্যই গুরুত্বপূর্ণ। কম output token ব্যবহার inference cost ও latency কমাতে পারে, এবং এমন পরিবেশে deployment সহজ করতে পারে যেখানে throughput বা budget raw benchmark strength-এর মতোই গুরুত্বপূর্ণ। AI feature তৈরি করা companies-এর জন্য, কম output tokens ব্যবহার করে বেশি কিছু করা এমন model আকর্ষণীয় হয়ে উঠতে পারে, যদিও এটি প্রতিটি leaderboard-এ শীর্ষে না থাকে।

এই launch AI vendor-রা progress কীভাবে frame করে, তাতে একটি broader shift-এর দিক নির্দেশ করে। শুধুমাত্র absolute frontier performance জোর দেওয়ার বদলে, developers increasingly quality-per-token equation-এ প্রতিযোগিতা করছে। প্রদত্ত figures অনুযায়ী, Inkling Small তার larger sibling-এর সাধারণ standing-এর কাছাকাছি থেকে, এবং efficiency profile উন্নত করে, সেই pattern-এর সঙ্গে মানানসই।

Open weights এবং multimodal input আকর্ষণ বাড়ায়

Thinking Machines model-এর practical reach-ও বাড়াতে চাইছে। source text অনুযায়ী, Inkling Small text, image, এবং speech inputs support করে এবং 256,000-token context window নিয়ে আসে। এটি Apache 2.0 license-এ প্রকাশিত, আর weights Hugging Face-এ host করা হয়েছে।

এই বিবরণগুলো গুরুত্বপূর্ণ, কারণ এগুলো model-টি কে ব্যবহার করতে পারবে এবং কত দ্রুত তা অভিযোজিত করা যাবে, তা নির্ধারণ করে। Apache 2.0 release experimentation ও commercial use-এর বাধা কমায়। Multimodal input support system-টিকে text-only reasoning-এর চেয়ে বিস্তৃত applications-এর জন্য প্রাসঙ্গিক করে তোলে। আর long context window বড় documents, দীর্ঘ conversations, বা বিস্তৃত working memory দরকার এমন task-এর জন্য এর আকর্ষণ বাড়ায়।

source আরও বলছে, ব্যবহারকারীরা Tinker Playground-এর মাধ্যমে browser-এ model fine-tune করতে পারেন। এই feature Thinking Machines-এর অবস্থানের সঙ্গে মেলে, যেখানে তার models ব্যবহারকারীদের নিজস্ব data দিয়ে customization-এর ভিত্তি হিসেবে দেখা হয়। অন্য কথায়, কোম্পানিটি কেবল base model-এর গল্প বিক্রি করছে না; বরং এমন একটি workflow বিক্রি করছে, যেখানে ব্যবহারকারীরা সেই base model-কে আরও নির্দিষ্ট লক্ষ্য অনুযায়ী মানিয়ে নিতে পারেন।

বর্তমান model market-এ এই release কেন গুরুত্বপূর্ণ

AI developers যখন practical value দেখানোর চাপের মধ্যে আছে, তখন Inkling Small এসেছে; শুধু scale নয়। পাশাপাশি, ever-larger models train করা ব্যয়বহুল, আর সেগুলো deploy করা product teams-কে capability-র পাশাপাশি cost, speed, flexibility, এবং licensing-ও বিবেচনা করতে হয়। ফলে এমন models-এর জন্য জায়গা তৈরি হচ্ছে, যেগুলো হয়তো সবচেয়ে বড় বা সর্বাধিক শক্তিশালী নয়, কিন্তু key task-এ যথেষ্ট ভালো এবং চালাতে আরও efficient।

source Inkling Small-কে ঠিক এই ধরনের offering হিসেবেই তুলে ধরছে: একটি ছোট open-weights reasoning model, যা তার আকারের তুলনায় অস্বাভাবিক ভালো কাজ করে। এই positioning বৃহত্তর ব্যবহারে টিকে গেলে, তা দেখাতে পারে model development আরও disciplined এক পর্যায়ে প্রবেশ করছে, যেখানে optimization এবং deployment value raw expansion-এর মতোই গুরুত্বপূর্ণ।

এটি আরও জোর দেয় open models-এর একটি বাড়তে থাকা market segment-এর দিকে, যেগুলো fine-tune করা যায় এবং custom workflows-এ embed করা যায়। Proprietary frontier systems এখনও অনেক headline comparison-এ আধিপত্য করছে, কিন্তু open-weight releases strategic দিক থেকে গুরুত্বপূর্ণ, কারণ এগুলো প্রতিষ্ঠানকে model কীভাবে adapt, host, এবং govern করা হবে, তাতে আরও সরাসরি নিয়ন্ত্রণ দেয়।

সর্বোচ্চতাবাদী নয়, বরং পরিমিত একটি পদক্ষেপ

Inkling Small সম্পর্কে সবচেয়ে আকর্ষণীয় বিষয়টি হতে পারে, এটি কী দাবি করতে চাইছে না। প্রদত্ত text-এর ভিত্তিতে, Thinking Machines এটিকে প্রতিটি category-তে single best model হিসেবে উপস্থাপন করছে না। বরং release-টি একটি সংকীর্ণ, আরও pragmatic প্রস্তাব দিচ্ছে: তার আকারের তুলনায় top-tier performance-এর কাছাকাছি, বড় sibling-এর বিরুদ্ধে কিছু benchmark জয়, multimodal capability, long context, এবং উল্লেখযোগ্যভাবে কম output-token profile।

এতে launch spectacle-এর চেয়ে engineering priorities-কে বেশি গুরুত্ব দেয়। ছোট active models, যেগুলো ভালোভাবে reasoning করতে পারে, open থাকে, এবং token burn কমায়, AI deployment পরিপক্ব হওয়ার সঙ্গে সঙ্গে আকর্ষণীয়ই থাকবে। Inkling Small সেই ভবিষ্যতের ওপর একটি সরাসরি bet বলে মনে হয়।

এটি ব্যাপকভাবে গৃহীত foundation model হবে কি না, তা এখানে দেওয়া summary figures-এর বাইরের বাস্তব পরীক্ষার ওপর নির্ভর করবে। তবে উপলব্ধ তথ্যের ভিত্তিতে strategic message ইতিমধ্যেই স্পষ্ট। AI-তে efficiency আর compromise category নয়, তা প্রমাণ করতে Thinking Machines চেষ্টা করছে। এটি একটি স্বতন্ত্র, গুরুতর competitive lane হয়ে উঠছে।

এই নিবন্ধটি The Decoder-এর প্রতিবেদনের ভিত্তিতে। মূল নিবন্ধটি পড়ুন.

Originally published on the-decoder.com