Google mira um problema de escala para agentes de IA

O Google apresentou o Tool Retrieval em versão de prévia para a Gemini Interactions API, um recurso destinado a ajudar agentes de IA a trabalhar com grandes coleções de ferramentas de software sem enviar a definição de todas as ferramentas em cada solicitação.

A premissa é simples: um agente pode ter acesso a dezenas ou centenas de ferramentas, mas a maioria das tarefas individuais precisa apenas de um pequeno subconjunto. Fornecer o esquema completo de parâmetros em todas as solicitações pode aumentar o uso de tokens de entrada, adicionar latência e dificultar a seleção de ferramentas à medida que a lista disponível cresce. O Tool Retrieval foi projetado para manter uma biblioteca completa de ferramentas disponível, carregando esquemas detalhados somente quando a tarefa exige.

Segundo o anúncio do Google, o recurso está disponível em prévia na Interactions API e foi projetado para os modelos Gemini 3.6 e posteriores. Os desenvolvedores podem ativá-lo adicionando uma capacidade de busca de ferramentas à solicitação e definindo o carregamento adiado como true para as definições das ferramentas.

O que muda para os desenvolvedores

O uso de ferramentas permite que um modelo solicite que um aplicativo execute uma ação, como consultar um banco de dados, verificar um serviço interno, recuperar um documento ou iniciar um fluxo de trabalho. Para usar uma ferramenta corretamente, o modelo normalmente precisa de uma descrição da ferramenta e de um esquema que especifique suas entradas. À medida que o catálogo de ferramentas de um agente cresce, incluir todas essas informações no prompt se torna cada vez mais caro e difícil de gerenciar.

A nova abordagem do Google separa a descoberta da invocação detalhada. Em vez de colocar todos os esquemas de parâmetros no contexto antecipadamente, o desenvolvedor pode manter as ferramentas em uma biblioteca e permitir que o agente recupere o esquema relevante quando identificar uma possível correspondência para a tarefa.

Isso pode reduzir a quantidade de dados enviada ao modelo no início de uma tarefa. Também muda o design de uma aplicação de agentes: os metadados das ferramentas podem ser tratados menos como um anexo fixo e sempre presente do prompt e mais como informações que o modelo consulta durante seu trabalho.

Por que o carregamento de esquemas importa

Um esquema de ferramenta não é apenas um rótulo. Ele pode incluir o nome e a descrição da ferramenta, argumentos obrigatórios e opcionais, tipos esperados e outras restrições. Grandes organizações podem manter catálogos substanciais de serviços internos, enquanto agentes mais capazes podem combinar busca, sistemas de dados, ferramentas de comunicação, sistemas de agenda e funções empresariais especializadas.

Nesse cenário, o conjunto completo de esquemas pode consumir uma parcela significativa do contexto fornecido ao modelo. Mais conteúdo no prompt pode aumentar os custos de tokens de entrada e, dependendo do sistema, contribuir para respostas mais lentas. O Google afirma que o Tool Retrieval pretende reduzir tanto a quantidade de tokens de entrada quanto a latência em tarefas complexas de agentes.

O Google também afirma que o recurso pode melhorar a precisão da seleção de ferramentas à medida que as bibliotecas crescem. Essa é uma preocupação prática: diante de muitas ferramentas descritas de forma semelhante, um modelo pode escolher uma opção menos adequada ou gastar mais esforço avaliando as alternativas. Recuperar detalhes sob demanda cria um processo em etapas no qual o agente pode primeiro pesquisar suas ferramentas disponíveis e depois examinar os parâmetros exatos do candidato mais relevante.

Uma camada de recuperação para ações

O anúncio se assemelha ao padrão mais amplo de recuperação usado em sistemas de IA. Em um fluxo de trabalho com recuperação aumentada, uma aplicação não coloca todos os documentos no prompt; ela pesquisa uma coleção de conhecimento e fornece o material mais relevante. O Tool Retrieval aplica uma ideia relacionada a ações e interfaces, em vez de documentos.

A analogia tem limites. Uma definição de ferramenta pode afetar o que um agente tem permissão para fazer, e uma ferramenta selecionada incorretamente pode produzir uma operação inválida ou acionar um fluxo de trabalho indesejado. O recurso não elimina a necessidade de os desenvolvedores definirem permissões, validarem entradas, controlarem quais ferramentas um agente pode acessar e confirmarem ações com consequências relevantes.

O anúncio do Google descreve o Tool Retrieval como uma forma de carregar esquemas de parâmetros somente quando necessário. Ele não afirma que controles de acesso, autenticação ou proteções de execução sejam tratados automaticamente pelo recurso. Essas continuam sendo responsabilidades do sistema que expõe as ferramentas.

O status de prévia é significativo

Como o Tool Retrieval está em versão de prévia, os desenvolvedores devem tratar o lançamento como uma oportunidade de avaliação, não como uma garantia de comportamento estável e pronto para produção. Recursos em prévia podem mudar em sua interface, nos modelos compatíveis, nas características de desempenho ou nos termos de uso antes da disponibilidade ampla.

O anúncio identifica a Gemini Interactions API como o primeiro ambiente da capacidade. Desenvolvedores que já constroem agentes com grandes inventários de ferramentas podem testar se o carregamento adiado de esquemas reduz o tamanho real dos prompts e os tempos de resposta, verificando também se a etapa de recuperação altera a confiabilidade com que seus agentes escolhem a ferramenta correta.

Essas medições serão mais importantes do que o apelo conceitual do recurso. Uma biblioteca de ferramentas pode ser grande em teoria, mas compacta na prática; outra pode ter esquemas tão detalhados que o carregamento seletivo ofereça um benefício claro. A melhor avaliação comparará tarefas representativas, uso de tokens, latência, comportamento de seleção e tratamento de erros.

O que o lançamento sinaliza

O lançamento do Google destaca uma mudança mais ampla no desenvolvimento de agentes. O desafio já não é apenas oferecer ao modelo uma ou duas funções. Os desenvolvedores querem cada vez mais sistemas capazes de trabalhar com conjuntos amplos de ferramentas sem deixar de ser responsivos e fáceis de gerenciar.

Isso cria pressão para tornar o contexto mais seletivo. Nem toda ferramenta disponível precisa ser descrita integralmente em toda interação, assim como nem todo documento de uma organização precisa ser anexado a toda pergunta. O Tool Retrieval oferece uma abordagem: manter o catálogo acessível, recuperar os detalhes quando necessário e reservar o prompt principal para a tarefa atual.

Por enquanto, o anúncio é uma prévia dessa abordagem na Gemini API. Seu valor prático dependerá de os desenvolvedores conseguirem reduzir a sobrecarga dos prompts sem perder a confiabilidade e a transparência necessárias quando um sistema de IA escolhe e invoca ferramentas de software.

Este artigo se baseia em uma reportagem do Google AI Blog. Leia o artigo original.

Originally published on blog.google