AI agents-এর scaling সমস্যা সমাধানে Google-এর লক্ষ্য

প্রতিটি request-এ প্রতিটি tool definition না পাঠিয়েও AI agents যাতে software tools-এর বড় সংগ্রহের সঙ্গে কাজ করতে পারে, সেই উদ্দেশ্যে Google Gemini Interactions API-তে preview হিসেবে Tool Retrieval চালু করেছে।

ধারণাটি সরল: একটি agent-এর কাছে কয়েক ডজন বা শত শত tool থাকতে পারে, কিন্তু প্রতিটি কাজে তার অল্প কয়েকটি প্রয়োজন হয়। প্রতিটি request-এ সম্পূর্ণ parameter schema পাঠালে input-token ব্যবহার ও latency বাড়তে পারে এবং তালিকা বড় হওয়ার সঙ্গে tool selection কঠিন হতে পারে। Tool Retrieval পুরো tool library উপলভ্য রাখে, তবে কাজের প্রয়োজনে কেবল তখনই detailed schemas লোড করে।

Google-এর ঘোষণা অনুযায়ী, এই ফিচারটি Interactions API-তে preview হিসেবে উপলভ্য এবং Gemini 3.6 ও পরবর্তী models-এর জন্য তৈরি। Request-এ tool-search capability যোগ করে এবং tool definitions-এর জন্য deferred loading-কে true সেট করে developers এটি চালু করতে পারেন।

Developers-এর জন্য কী বদলাচ্ছে

Tool calling-এর মাধ্যমে model কোনো application-কে database query করা, internal service পরীক্ষা করা, document উদ্ধার করা বা workflow শুরু করার মতো কাজ করতে বলতে পারে। একটি tool সঠিকভাবে ব্যবহার করতে model-এর সাধারণত tool-এর description এবং inputs নির্দিষ্ট করা schema প্রয়োজন। Agent-এর tool catalog বাড়ার সঙ্গে prompt-এ এই সব তথ্য যুক্ত করা ক্রমশ ব্যয়বহুল ও জটিল হয়ে ওঠে।

Google-এর নতুন পদ্ধতি discovery-কে detailed invocation থেকে আলাদা করে। প্রতিটি parameter schema আগে থেকেই context-এ রাখার বদলে developer tools-কে library-তে রেখে agent-কে কাজের সম্ভাব্য match শনাক্ত করার পর প্রাসঙ্গিক schema উদ্ধার করতে দিতে পারেন।

এর ফলে কাজের শুরুতে model-এ পাঠানো data-এর পরিমাণ কমতে পারে। Agent application-এর design-ও বদলে যায়: tool metadata-কে সব সময় উপস্থিত prompt attachment হিসেবে না দেখে, model কাজের সময় যে তথ্য পরামর্শ হিসেবে ব্যবহার করতে পারে হিসেবে দেখা যায়।

Schema loading কেন গুরুত্বপূর্ণ

Tool schema শুধু একটি label নয়। এতে tool-এর নাম, description, required ও optional arguments, expected types এবং অন্যান্য constraints থাকতে পারে। বড় প্রতিষ্ঠানগুলো internal services-এর বড় catalog পরিচালনা করতে পারে; আরও সক্ষম agents search, data systems, communications tools, scheduling systems ও বিশেষায়িত business functions একত্র করতে পারে।

এই পরিস্থিতিতে schemas-এর পুরো সেট model-কে দেওয়া context-এর উল্লেখযোগ্য অংশ দখল করতে পারে। বেশি prompt content input-token costs বাড়াতে পারে এবং system অনুযায়ী responses ধীর করতে পারে। জটিল agent tasks-এর জন্য input token counts ও latency—দুটিই কমানো Tool Retrieval-এর লক্ষ্য বলে Google জানিয়েছে।

Tool libraries বড় হওয়ার সঙ্গে tool-selection accuracy-ও এই ফিচার উন্নত করতে পারে বলে Google জানিয়েছে। একই রকমভাবে বর্ণিত অনেক tools সামনে থাকলে model কম উপযুক্ত tool বেছে নিতে পারে বা বিকল্পগুলো বাছাই করতে বেশি সময় নিতে পারে। On-demand details উদ্ধার একটি staged process তৈরি করে: agent প্রথমে উপলভ্য tools খুঁজবে, তারপর সবচেয়ে প্রাসঙ্গিক candidate-এর নির্দিষ্ট parameters পরীক্ষা করবে।

Actions-এর জন্য retrieval layer

এই ঘোষণা AI systems-এ ব্যবহৃত retrieval-এর বৃহত্তর pattern-এর মতো। Retrieval-augmented workflow-এ application প্রতিটি document prompt-এ রাখে না; knowledge collection অনুসন্ধান করে সবচেয়ে প্রাসঙ্গিক material সরবরাহ করে। Tool Retrieval documents-এর বদলে actions ও interfaces-এর ক্ষেত্রে একই ধারণা প্রয়োগ করে।

তবে এই তুলনার সীমা আছে। একটি tool definition agent কী করতে পারবে তা প্রভাবিত করতে পারে, আর ভুল tool নির্বাচন invalid operation ঘটাতে বা অনাকাঙ্ক্ষিত workflow শুরু করতে পারে। Permissions নির্ধারণ, inputs validate করা, agent কোন tools ব্যবহার করতে পারবে তা নিয়ন্ত্রণ করা এবং গুরুত্বপূর্ণ actions নিশ্চিত করার মতো developers-এর দায়িত্ব এই ফিচার দূর করে না।

Google-এর ঘোষণা Tool Retrieval-কে প্রয়োজন হলেই parameter schemas লোড করার পদ্ধতি হিসেবে বর্ণনা করেছে। Access controls, authentication বা execution safeguards ফিচারটি স্বয়ংক্রিয়ভাবে পরিচালনা করে—এমন কথা বলা হয়নি। এগুলো tools প্রকাশকারী system-এর দায়িত্বই থাকবে।

Preview status গুরুত্বপূর্ণ

Tool Retrieval preview-তে থাকায় developers-এর উচিত এটিকে স্থিতিশীল, production-ready behavior-এর নিশ্চয়তা না ধরে evaluation-এর সুযোগ হিসেবে দেখা। ব্যাপক availability-এর আগে preview features-এর interface, supported models, performance characteristics বা usage terms বদলাতে পারে।

ঘোষণায় এই capability-এর প্রাথমিক স্থান হিসেবে Gemini Interactions API-কে চিহ্নিত করা হয়েছে। বড় tool inventories নিয়ে agents তৈরি করা developers পরীক্ষা করতে পারেন deferred schema loading তাদের বাস্তব prompt sizes ও response times কমায় কি না; retrieval step agents-এর সঠিক tool বেছে নেওয়ার নির্ভরযোগ্যতা কীভাবে বদলায়, তাও যাচাই করা যাবে।

এই measurements ফিচারটির ধারণাগত আকর্ষণের চেয়ে বেশি গুরুত্বপূর্ণ। কোনো tool library তত্ত্বে বড় হলেও বাস্তবে compact হতে পারে; অন্যটির schemas এত বিস্তারিত হতে পারে যে selective loading স্পষ্ট সুবিধা দেবে। সেরা evaluation-এ representative tasks, token use, latency, selection behavior ও error handling তুলনা করা উচিত।

Launch কী ইঙ্গিত দিচ্ছে

Google-এর release agent development-এর বৃহত্তর পরিবর্তন তুলে ধরে। চ্যালেঞ্জ এখন আর শুধু model-কে এক বা দুটি functions দেওয়া নয়। Developers ক্রমশ এমন systems চান, যা tools-এর বিস্তৃত সেটের সঙ্গে কাজ করেও responsive ও manageable থাকে।

এর ফলে context আরও বেছে ব্যবহার করার চাপ তৈরি হয়। প্রতিটি interaction-এ প্রতিটি available tool-এর সম্পূর্ণ description দেওয়া জরুরি নয়, যেমন কোনো প্রতিষ্ঠানের প্রতিটি document প্রতিটি প্রশ্নের সঙ্গে যুক্ত করাও জরুরি নয়। Tool Retrieval একটি পদ্ধতি দেয়: catalog accessible রাখুন, প্রয়োজন হলে details উদ্ধার করুন এবং main prompt-এ বর্তমান task-কে অগ্রাধিকার দিন।

এই মুহূর্তে Gemini API-তে এই পদ্ধতি preview হিসেবে রয়েছে। AI system software tools বেছে নিয়ে invoke করার সময় প্রয়োজনীয় reliability ও transparency না হারিয়ে developers prompt overhead কমাতে পারেন কি না, তার ওপরই এর বাস্তব মূল্য নির্ভর করবে।

এই নিবন্ধটি Google AI Blog-এর প্রতিবেদন অবলম্বনে তৈরি। মূল নিবন্ধ পড়ুন।

Originally published on blog.google