AI agents ची scaling समस्या सोडवण्याचे Google चे लक्ष्य

प्रत्येक request मध्ये प्रत्येक tool definition न पाठवता AI agents ना software tools च्या मोठ्या संग्रहांसोबत काम करता यावे, यासाठी Google ने Gemini Interactions API मध्ये preview स्वरूपात Tool Retrieval सादर केले आहे.

यामागील कल्पना सोपी आहे: एखाद्या agent ला डझनभर किंवा शेकडो tools उपलब्ध असू शकतात, पण प्रत्येक कामासाठी त्यातील काहीच tools आवश्यक असतात. प्रत्येक request मध्ये पूर्ण parameter schema पाठवल्याने input-token वापर आणि latency वाढू शकते; उपलब्ध यादी वाढल्यावर tool selection अधिक कठीण होऊ शकते. पूर्ण tool library उपलब्ध ठेवून, कामाची गरज भासल्यावरच detailed schemas लोड करण्यासाठी Tool Retrieval तयार केले आहे.

Google च्या घोषणेनुसार, हे फीचर Interactions API मध्ये preview म्हणून उपलब्ध आहे आणि Gemini 3.6 तसेच त्यानंतरच्या models साठी डिझाइन केले आहे. Request मध्ये tool-search capability जोडून आणि tool definitions साठी deferred loading true वर सेट करून developers हे सुरू करू शकतात.

Developers साठी काय बदलते

Tool calling मुळे model application ला database query करणे, internal service तपासणे, document मिळवणे किंवा workflow सुरू करणे यांसारखी कृती करण्याची विनंती करू शकतो. एखादे tool योग्यरीत्या वापरण्यासाठी model ला साधारणपणे tool चे description आणि inputs नमूद करणारा schema आवश्यक असतो. Agent चा tool catalog वाढत गेल्यावर ही सर्व माहिती prompt मध्ये समाविष्ट करणे अधिक खर्चिक आणि अवघड होते.

Google चा नवा दृष्टिकोन discovery ला detailed invocation पासून वेगळे करतो. प्रत्येक parameter schema आधीच context मध्ये ठेवण्याऐवजी developer tools library मध्ये ठेवू शकतो आणि task साठी संभाव्य match ओळखल्यानंतर agent ला संबंधित schema मिळवू देऊ शकतो.

यामुळे task च्या सुरुवातीला model कडे पाठवला जाणारा data कमी होऊ शकतो. Agent application ची रचना देखील बदलते: tool metadata कडे कायम उपस्थित prompt attachment म्हणून न पाहता, model आपल्या कामादरम्यान consult करू शकणारी माहिती म्हणून पाहता येते.

Schema loading महत्त्वाचे का आहे

Tool schema हे केवळ label नसते. त्यात tool चे नाव, description, required आणि optional arguments, expected types तसेच इतर constraints असू शकतात. मोठ्या संस्था internal services चे मोठे catalogs सांभाळू शकतात; अधिक सक्षम agents search, data systems, communications tools, scheduling systems आणि विशेष business functions एकत्र करू शकतात.

अशा परिस्थितीत schemas चा संपूर्ण संच model ला दिलेल्या context चा महत्त्वपूर्ण भाग व्यापू शकतो. अधिक prompt content मुळे input-token costs वाढू शकतात आणि system नुसार responses मंद होऊ शकतात. जटिल agent tasks साठी input token counts आणि latency दोन्ही कमी करणे हा Tool Retrieval चा उद्देश असल्याचे Google म्हणते.

Tool libraries वाढत असताना tool-selection accuracy सुधारण्यासही हे फीचर मदत करू शकते, असे Google म्हणते. समान वर्णन असलेली अनेक tools समोर असल्यास model कमी योग्य tool निवडू शकतो किंवा पर्यायांची छाननी करण्यासाठी अधिक प्रयत्न करू शकतो. On-demand details मिळवल्याने staged process तयार होतो: agent प्रथम उपलब्ध tools शोधतो आणि नंतर सर्वाधिक संबंधित candidate चे अचूक parameters तपासतो.

Actions साठी retrieval layer

ही घोषणा AI systems मध्ये वापरल्या जाणाऱ्या retrieval च्या व्यापक pattern सारखी आहे. Retrieval-augmented workflow मध्ये application प्रत्येक document prompt मध्ये ठेवत नाही; ते knowledge collection शोधते आणि सर्वाधिक संबंधित material पुरवते. Tool Retrieval हीच कल्पना documents ऐवजी actions आणि interfaces साठी लागू करते.

या तुलनेला मर्यादा आहेत. एखादे tool definition agent ला काय करण्याची परवानगी आहे यावर परिणाम करू शकते; चुकीचे tool निवडल्यास invalid operation होऊ शकते किंवा अवांछित workflow सुरू होऊ शकतो. Permissions निश्चित करणे, inputs validate करणे, agent कोणती tools वापरू शकतो हे नियंत्रित करणे आणि महत्त्वाच्या actions ची खात्री करणे या developers च्या जबाबदाऱ्या हे फीचर दूर करत नाही.

Google ची घोषणा Tool Retrieval ला गरज असेल तेव्हाच parameter schemas लोड करण्याचा मार्ग म्हणून वर्णन करते. Access controls, authentication किंवा execution safeguards हे फीचर आपोआप हाताळते, असे त्यात म्हटलेले नाही. Tools उपलब्ध करून देणाऱ्या system च्या जबाबदाऱ्या त्या कायम राहतात.

Preview status महत्त्वाचा आहे

Tool Retrieval preview मध्ये असल्यामुळे developers नी त्याला स्थिर, production-ready behavior ची हमी न मानता evaluation ची संधी मानावे. व्यापक उपलब्धतेपूर्वी preview features चे interface, supported models, performance characteristics किंवा usage terms बदलू शकतात.

या capability चे सुरुवातीचे ठिकाण म्हणून घोषणेत Gemini Interactions API ओळखले आहे. मोठ्या tool inventories सह agents तयार करणारे developers deferred schema loading मुळे त्यांच्या प्रत्यक्ष prompt sizes आणि response times कमी होतात का हे तपासू शकतात; retrieval step मुळे agents योग्य tool निवडण्याची reliability कशी बदलते हेही पाहता येईल.

ही measurements फीचरच्या संकल्पनात्मक आकर्षणापेक्षा अधिक महत्त्वाची ठरतील. एखादी tool library सैद्धांतिकदृष्ट्या मोठी असली तरी प्रत्यक्षात compact असू शकते; दुसऱ्या library चे schemas इतके तपशीलवार असू शकतात की selective loading स्पष्ट लाभ देईल. उत्तम evaluation मध्ये representative tasks, token use, latency, selection behavior आणि error handling यांची तुलना करावी.

Launch काय सूचित करते

Google चा release agent development मधील व्यापक बदल अधोरेखित करतो. आव्हान आता model ला एक किंवा दोन functions देण्यापुरते राहिलेले नाही. Developers ना tools च्या विस्तृत संचावर काम करणारी, responsive आणि manageable systems अधिकाधिक हवी आहेत.

यामुळे context अधिक निवडक बनवण्याचा दबाव निर्माण होतो. प्रत्येक interaction मध्ये प्रत्येक available tool चे पूर्ण वर्णन देणे आवश्यक नाही, जसे संस्थेतील प्रत्येक document प्रत्येक प्रश्नासोबत जोडणे आवश्यक नसते. Tool Retrieval एक पद्धत देते: catalog accessible ठेवा, गरज पडल्यावर details मिळवा आणि main prompt सध्याच्या task साठी राखून ठेवा.

सध्या Gemini API मध्ये हा दृष्टिकोन preview म्हणून उपलब्ध आहे. AI system software tools निवडून invoke करताना आवश्यक reliability आणि transparency न गमावता developers prompt overhead कमी करू शकतात का, यावर त्याचे व्यावहारिक मूल्य अवलंबून असेल.

हा लेख Google AI Blog च्या वृत्तांकनावर आधारित आहे. मूळ लेख वाचा.

Originally published on blog.google