Google aborda un problema de escalabilidad para los agentes de IA

Google ha presentado Tool Retrieval en versión preliminar para la Gemini Interactions API, una función destinada a ayudar a los agentes de IA a trabajar con grandes colecciones de herramientas de software sin enviar la definición de cada herramienta en todas las solicitudes.

La premisa es sencilla: un agente puede tener acceso a decenas o cientos de herramientas, pero la mayoría de las tareas individuales solo necesitan un pequeño subconjunto. Incluir el esquema completo de parámetros en cada solicitud puede aumentar el uso de tokens de entrada, añadir latencia y dificultar la selección de herramientas a medida que crece la lista disponible. Tool Retrieval está diseñado para mantener accesible una biblioteca completa de herramientas y cargar los esquemas detallados solo cuando la tarea los requiere.

Según el anuncio de Google, la función está disponible en versión preliminar en la Interactions API y está diseñada para los modelos Gemini 3.6 y posteriores. Los desarrolladores pueden activarla añadiendo una capacidad de búsqueda de herramientas a una solicitud y estableciendo la carga diferida en true para las definiciones de las herramientas.

Qué cambia para los desarrolladores

Las llamadas a herramientas permiten que un modelo solicite a una aplicación realizar una acción, como consultar una base de datos, comprobar un servicio interno, recuperar un documento o iniciar un flujo de trabajo. Para utilizar correctamente una herramienta, el modelo normalmente necesita una descripción de la herramienta y un esquema que especifique sus entradas. A medida que crece el catálogo de herramientas de un agente, incluir toda esa información en el prompt se vuelve cada vez más costoso y difícil de manejar.

El nuevo enfoque de Google separa el descubrimiento de la invocación detallada. En lugar de colocar de antemano todos los esquemas de parámetros en el contexto, un desarrollador puede dejar las herramientas en una biblioteca y permitir que el agente recupere el esquema relevante cuando identifique una posible coincidencia con la tarea.

Esto puede reducir la cantidad de datos enviados al modelo al inicio de una tarea. También cambia el diseño de una aplicación de agentes: los metadatos de las herramientas pueden tratarse menos como un elemento fijo y siempre presente del prompt, y más como información que el modelo puede consultar durante su trabajo.

Por qué importa la carga de esquemas

Un esquema de herramienta no es simplemente una etiqueta. Puede incluir el nombre y la descripción de la herramienta, argumentos obligatorios y opcionales, tipos esperados y otras restricciones. Las grandes organizaciones pueden mantener catálogos amplios de servicios internos, mientras que los agentes más capaces pueden combinar búsquedas, sistemas de datos, herramientas de comunicación, sistemas de agenda y funciones empresariales especializadas.

En ese contexto, el conjunto completo de esquemas puede consumir una parte significativa del contexto proporcionado al modelo. Un prompt más extenso puede aumentar los costes de tokens de entrada y, según el sistema, contribuir a respuestas más lentas. Google afirma que Tool Retrieval pretende reducir tanto el número de tokens de entrada como la latencia en tareas complejas de agentes.

Google también afirma que la función puede mejorar la precisión de selección de herramientas a medida que escalan las bibliotecas. Es una preocupación práctica: ante muchas herramientas descritas de forma similar, un modelo puede elegir una menos adecuada o dedicar más esfuerzo a revisar las opciones. Recuperar los detalles bajo demanda crea un proceso por etapas en el que el agente puede buscar primero entre sus herramientas disponibles y después inspeccionar los parámetros exactos del candidato más relevante.

Una capa de recuperación para las acciones

El anuncio se parece al patrón más amplio de recuperación utilizado en los sistemas de IA. En un flujo de trabajo con recuperación aumentada, una aplicación no incluye todos los documentos en un prompt; busca en una colección de conocimiento y proporciona el material más relevante. Tool Retrieval aplica una idea relacionada a las acciones y las interfaces, en lugar de a los documentos.

La analogía tiene límites. La definición de una herramienta puede afectar a lo que un agente tiene permitido hacer, y una herramienta seleccionada incorrectamente puede producir una operación inválida o activar un flujo de trabajo no deseado. La función no elimina la necesidad de que los desarrolladores definan permisos, validen entradas, controlen a qué herramientas puede acceder un agente y confirmen las acciones de consecuencias importantes.

El anuncio de Google describe Tool Retrieval como una forma de cargar los esquemas de parámetros solo cuando sea necesario. No afirma que la función gestione automáticamente los controles de acceso, la autenticación o las medidas de seguridad de ejecución. Estas siguen siendo responsabilidades del sistema que expone las herramientas.

El estado preliminar es importante

Dado que Tool Retrieval está en versión preliminar, los desarrolladores deberían considerar el lanzamiento una oportunidad de evaluación, no una garantía de un comportamiento estable y listo para producción. Las funciones preliminares pueden cambiar en su interfaz, modelos compatibles, características de rendimiento o condiciones de uso antes de estar disponibles de forma general.

El anuncio identifica la Gemini Interactions API como el primer entorno de esta capacidad. Los desarrolladores que ya construyen agentes con grandes inventarios de herramientas pueden probar si la carga diferida de esquemas reduce el tamaño real de sus prompts y los tiempos de respuesta, al tiempo que comprueban si el paso de recuperación modifica la fiabilidad con la que sus agentes eligen la herramienta correcta.

Esas mediciones serán más importantes que el atractivo conceptual de la función. Una biblioteca de herramientas puede ser grande en teoría pero compacta en la práctica; otra puede tener esquemas tan detallados que la carga selectiva ofrezca un beneficio claro. La mejor evaluación comparará tareas representativas, uso de tokens, latencia, comportamiento de selección y gestión de errores.

Qué indica el lanzamiento

El lanzamiento de Google destaca un cambio más amplio en el desarrollo de agentes. El desafío ya no consiste únicamente en dar a un modelo una o dos funciones. Los desarrolladores quieren cada vez más sistemas capaces de trabajar con conjuntos amplios de herramientas sin dejar de ser ágiles y fáciles de gestionar.

Esto genera presión para hacer que el contexto sea más selectivo. No es necesario describir por completo cada herramienta disponible en cada interacción, del mismo modo que no es necesario adjuntar cada documento de una organización a cada pregunta. Tool Retrieval ofrece un enfoque: mantener accesible el catálogo, recuperar los detalles cuando sea necesario y reservar el prompt principal para la tarea actual.

Por ahora, el anuncio es una vista preliminar de ese enfoque en la API de Gemini. Su valor práctico dependerá de que los desarrolladores puedan reducir la sobrecarga del prompt sin perder la fiabilidad y la transparencia que necesitan cuando un sistema de IA elige e invoca herramientas de software.

Este artículo se basa en información del Google AI Blog. Lee el artículo original.

Originally published on blog.google