এজেন্টদের স্বাধীনভাবে চলতে দেওয়ার লুকানো খরচ
AI কোডিং এজেন্টের অর্থনীতি বদলে যায় যখন তারা একক প্রশ্নের উত্তর দেওয়া বন্ধ করে নিজে থেকে কাজ শুরু করে। একবারের প্রেডিকশন সস্তা। কিন্তু দীর্ঘ, তত্ত্বাবধানহীন রান সস্তা নয়: রিজনিং ধাপগুলো টুল কলে যোগ হয়, সেগুলো ফিডব্যাক লুপে যোগ হয়, আর প্রতিটি চক্রের সাথে টোকেন বিল বাড়তে থাকে। Nvidia-র গবেষকরা একটি পেপার প্রকাশ করেছেন যেখানে এমন একটি সিস্টেম বর্ণনা করা হয়েছে যা অপ্রত্যাশিত দিক থেকে সেই বিল মোকাবেলা করে—অন্তর্নিহিত মডেল চালানো সস্তা করে নয়, বরং তার চারপাশের স্ক্যাফোল্ডিং পুনর্লিখন করে।
গবেষকদের মতে, তাদের পদ্ধতি SoL-Pi, টোকেন খরচ প্রায় অর্ধেক কমায় এবং পারফরম্যান্স প্রায় অপরিবর্তিত রাখে। এই কাজটি The Decoder রিপোর্ট করেছে, যেখানে উল্লেখ করা হয়েছে যে সিস্টেমটি মডেলের বদলে হারনেস নামে পরিচিত কন্ট্রোল লেয়ারকে লক্ষ্য করে।
হারনেস আসলে কী করে
হারনেস হলো একটি মডেল এবং তার পরিচালিত পরিবেশের মাঝখানে থাকা সফটওয়্যার স্তর। এটি এজেন্টকে দেখায় সে কোন অবস্থায় আছে, অ্যাকশনগুলো কীভাবে কার্যকর হবে তা নির্ধারণ করে এবং পরে মডেলের কাছে কী ফিডব্যাক ফিরে যাবে তা ঠিক করে। Codex, Claude Code এবং OpenClaw-এর মতো পরিচিত পণ্যগুলো এই ধরনের হারনেসের উপর নির্ভর করে একটি ভাষা মডেলকে এমন কিছুতে পরিণত করে যা ফাইল সম্পাদনা করতে, টেস্ট চালাতে এবং পুনরাবৃত্তি করতে পারে।
যেহেতু সেই স্তরটি লুপের অনেক কিছু নিয়ন্ত্রণ করে, তাই খরচের উপর এর অসামঞ্জস্যপূর্ণ প্রভাব রয়েছে। প্রতিটি অপ্রয়োজনীয় টুল কল, প্রতিটি অতিরিক্ত বড় কনটেক্সট উইন্ডো, প্রতিটি বিলম্বে চালু হওয়া ভেরিফিকেশন ধাপ এমন টোকেন যোগ করে যা কঠোরভাবে প্রয়োজনীয় ছিল না। এখন পর্যন্ত, বেশিরভাগ দক্ষতার কাজ অন্য জায়গায় কেন্দ্রীভূত হয়েছে—দ্রুততর অ্যাটেনশন কার্নেল এবং সার্ভিং ইনফ্রাস্ট্রাকচারের মাধ্যমে একটি টোকেনের দাম কমানো, কোয়ান্টাইজেশনের মাধ্যমে মডেল সংকুচিত করা, বা ছোট ও সস্তা মডেলে কাজ রাউটিং করা।
হারনেস অপ্টিমাইজেশন কেন কঠিন
হাতে হারনেস টিউন করা কঠিন কারণ এর দায়িত্বগুলো পরস্পর জড়িত। টুল ব্যবহার, কনটেক্সট ম্যানেজমেন্ট, ভেরিফিকেশন রুটিন এবং অ্যাবর্ট লজিক সবই একে অপরের সাথে মিথস্ক্রিয়া করে। একটি ধাপে টোকেন কমানোর পরিবর্তন অন্য জায়গায় ব্যর্থতা আনতে পারে, বা কেবল রানের পরবর্তী পর্যায়ে খরচ সরিয়ে দিতে পারে যেখানে তা দেখা আরও কঠিন।
বাস্তবে, ইঞ্জিনিয়াররা দীর্ঘ এক্সিকিউশন ট্রেস পড়েন, বারবার ঘটতে থাকা ব্যর্থতার প্যাটার্ন খুঁজে বের করেন এবং সেই পর্যবেক্ষণগুলোকে কোড পরিবর্তনে রূপান্তর করেন। এটি ধীর, ম্যানুয়াল কাজ যা নির্ভর করে কেউ দশম বারের মতো একই ভুলটি লক্ষ্য করার উপর।
SoL-Pi কীভাবে সার্চ স্বয়ংক্রিয় করে
SoL-Pi সেই মানব লুপটি নিয়ে সেটিকে স্বয়ংক্রিয় করে। একটি রিসার্চ এজেন্ট অন্য একটি এজেন্টের উৎপাদিত ট্রেস পর্যবেক্ষণ করে, হারনেসে পরিবর্তনের প্রস্তাব দেয় এবং তারপর প্রস্তুত পরিবেশের ভিতরে সেই প্রস্তাবগুলো পরীক্ষা করে। প্রার্থী পরিবর্তনগুলোকে ক্যাপাবিলিটি চেক এবং এফিশিয়েন্সি চেক উভয়ের মাধ্যমে স্ক্রিন করা হয়, এবং কেবল সেই ভ্যারিয়েন্টগুলো রাখা হয় যা খরচ কমিয়ে পারফরম্যান্স স্থির রাখে।
লেখকরা এই পদ্ধতিকে রিকার্সিভ সেলফ-ইমপ্রুভমেন্ট থেকে উদ্ভূত হিসেবে বর্ণনা করেছেন: একটি AI সিস্টেম কার্যকরভাবে অন্য একটি সিস্টেমের পরিচালনার শর্ত উন্নত করছে। একটি গুরুত্বপূর্ণ বিষয় হলো, চূড়ান্ত ফলাফল বিচার করতে ব্যবহৃত মূল্যায়ন কেবল হারনেস ফ্রিজ করার পরেই ঘটে, এবং সেই হেল্ড-আউট মূল্যায়ন সার্চে ফিডব্যাক করে না। এই বিচ্ছেদ গুরুত্বপূর্ণ, কারণ এটি সীমিত করে অপ্টিমাইজেশন প্রক্রিয়া কতটা নিজেকে সেই টেস্টগুলোর সাথে টিউন করতে পারে যেগুলোর মুখোমুখি তাকে শেষ পর্যন্ত হতে হবে।
পরীক্ষার পরিধি
সার্চটি বিস্তৃত ছিল। ৫৩৫টি এক্সিকিউটেবল পরিবেশ জুড়ে, SoL-Pi ১৫২টি স্বতন্ত্র দিক অন্বেষণ করেছে। টাস্ক মিশ্রণে অন্তর্ভুক্ত ছিল:
- GitHub ইস্যু এবং পুল রিকোয়েস্ট জোড়া থেকে তৈরি ৪৯৫টি টাস্ক
- মূল্যায়নের জন্য ডিজাইন করা ৪০টি সিন্থেটিক টেস্ট কেস
- মোট ৩,০০০-এর বেশি রান
- ৬০,০০০-এর বেশি এজেন্ট-পরিবেশ মিথস্ক্রিয়া
গবেষকরা সেই পরিমাণকে সিস্টেমটি কত বিস্তৃতভাবে সার্চ করেছে তার প্রমাণ হিসেবে উপস্থাপন করেছেন, তবে তারা সতর্কও করেছেন যে বেশি সার্চ করলেই স্বয়ংক্রিয়ভাবে ভালো ফলাফল আসে না। বিস্তার একটি উপযোগী হারনেস কনফিগারেশন খুঁজে পাওয়ার সম্ভাবনা বাড়ায়, তবে তা নিশ্চিত করে না।
পরিমাপকৃত সাশ্রয়
শিরোনামের সংখ্যাগুলো উল্লেখযোগ্য। EdgeBench-এ, গবেষকদের মতে SoL-Pi Codex-এর তুলনায় ৫০ শতাংশ এবং Claude Code-এর তুলনায় ৫৪.৩ শতাংশ টোকেন সাশ্রয় করেছে, যখন পারফরম্যান্স প্রায় সমান ছিল। পেপারটি সামগ্রিক টোকেন হ্রাসকে ৪৯ শতাংশ পর্যন্ত এবং টাস্ক ক্যাপাবিলিটিতে সামান্য পরিবর্তন হিসেবে বর্ণনা করেছে।
এই বর্ণনা গুরুত্বপূর্ণ। টোকেন ব্যবহার কমানো সহজ যদি এজেন্টকে আরও বেশি ব্যর্থ হতে দেওয়া হয়, ভেরিফিকেশন এড়িয়ে যেতে দেওয়া হয়, বা বৈধ টাস্কে তাড়াতাড়ি অ্যাবর্ট করতে দেওয়া হয়। এখানে দাবিটি ভিন্ন: সাশ্রয় আসে ক্ষয়প্রাপ্ত আচরণ থেকে নয়, বরং আরও সরু কন্ট্রোল লজিক থেকে, যার কারণেই সিলেকশন প্রক্রিয়ায় এফিশিয়েন্সি চেকের পাশাপাশি ক্যাপাবিলিটি চেকও রয়েছে।
ওভারফিটিং প্রশ্ন
এই গবেষণার ধারায় একটি পরিচিত বিপদ রয়েছে। আগের কাজ দেখিয়েছে যে স্বয়ংক্রিয়ভাবে অপ্টিমাইজ করা হারনেসগুলো ওভারফিট করার প্রবণতা রাখে, যে ট্রেসের বিপরীতে সেগুলো টিউন করা হয়েছিল সেখানে অত্যন্ত দক্ষ হয়ে ওঠে কিন্তু নতুন পরিস্থিতিতে খারাপভাবে জেনারালাইজ করে। Nvidia-র লেখকরা এটি সম্পর্কে সচেতন বলে মনে হচ্ছে, যার কারণেই চূড়ান্ত মূল্যায়ন একটি ফ্রোজেন হারনেসে পরিচালিত হয় এবং সার্চ লুপ থেকে বিচ্ছিন্ন থাকে।
তবুও, সতর্কতাটি সামনে বহন করার মতো। এখানে ব্যবহৃত পরিবেশগুলো, যদিও অসংখ্য, তবুও কোডিং এজেন্টরা যে বিশৃঙ্খল বাস্তবতার মুখোমুখি হয় তার একটি সীমিত নমুনা। ৫৩৫টি পরিবেশ জুড়ে পরিমার্জিত একটি হারনেস সত্যিকারের অপরিচিত রিপোজিটরি, একটি অস্থির টেস্ট স্যুট, বা একটি অস্পষ্ট বাগ রিপোর্টের বিরুদ্ধে টিকতে পারে কি না তা একটি খোলা প্রশ্ন যা কেবল বৃহত্তর ডিপ্লয়মেন্টই উত্তর দেবে।
এজেন্ট অর্থনীতির জন্য এর অর্থ কী
যদি ফলাফলগুলো ল্যাবের বাইরে টিকে থাকে, তাহলে প্রভাবগুলো দার্শনিক নয়, ব্যবহারিক। স্বায়ত্তশাসিত কোডিং এজেন্ট চালানো টিমগুলো প্রতি টোকেনে অর্থ দেয়, এবং দীর্ঘ তত্ত্বাবধানহীন সেশনগুলো যা এজেন্টকে উপযোগী করে তোলে সেগুলোই তাদের ব্যয়বহুল করে তোলে। ক্যাপাবিলিটি না হারিয়ে একটি ওয়ার্কফ্লো থেকে প্রায় অর্ধেক টোকেন বের করে আনা বদলে দেয় একটি বাজেট কতগুলো সেই সেশন টিকিয়ে রাখতে পারে।
এই কাজটি আরও ইঙ্গিত দেয় যে অপ্টিমাইজেশনের প্রচেষ্টা কোথায় ব্যয় করা মূল্যবান। মডেল-স্তরের দক্ষতা বছরের পর বছর ধরে ডিফল্ট লক্ষ্য ছিল, এবং এটি নিশ্চিতভাবেই এখনও গুরুত্বপূর্ণ। কিন্তু হারনেস হলো যেখানে কনটেক্সট, ভেরিফিকেশন এবং রিট্রাই সম্পর্কিত সিদ্ধান্ত নেওয়া হয়, এবং এই পেপারটি যেমন চিত্রিত করে, সেই সিদ্ধান্তগুলোই যেখানে অপচয়ের একটি বড় অংশ জমা হয়। মডেল এবং পরিবেশের মধ্যবর্তী ফাঁকটিই হয়তো খোঁজার জন্য সবচেয়ে ফলপ্রসূ জায়গা।
এই নিবন্ধটি The Decoder-এর রিপোর্টিং-এর উপর ভিত্তি করে। মূল নিবন্ধটি পড়ুন।
Originally published on the-decoder.com
