Google nimmt ein Skalierungsproblem für KI-Agenten ins Visier
Google hat Tool Retrieval als Vorschaufunktion für die Gemini Interactions API eingeführt. Die Funktion soll KI-Agenten dabei helfen, mit großen Sammlungen von Softwaretools zu arbeiten, ohne bei jeder Anfrage die Definition jedes einzelnen Tools zu senden.
Das Prinzip ist einfach: Ein Agent kann Zugriff auf Dutzende oder Hunderte von Tools haben, doch die meisten einzelnen Aufgaben benötigen nur eine kleine Auswahl. Das Übermitteln des vollständigen Parameterschemas bei jeder Anfrage kann den Verbrauch von Eingabetokens erhöhen, zusätzliche Latenz verursachen und die Toolauswahl erschweren, wenn die verfügbare Liste wächst. Tool Retrieval soll eine vollständige Tool-Bibliothek verfügbar halten und detaillierte Schemas erst laden, wenn eine Aufgabe sie benötigt.
Laut Googles Ankündigung ist die Funktion in der Interactions API als Vorschau verfügbar und für Gemini-3.6-Modelle und spätere Versionen ausgelegt. Entwickler können sie aktivieren, indem sie einer Anfrage eine Tool-Suchfunktion hinzufügen und das verzögerte Laden für die Tooldefinitionen auf true setzen.
Was sich für Entwickler ändert
Tool Calling ermöglicht es einem Modell, von einer Anwendung die Ausführung einer Aktion anzufordern, etwa eine Datenbank abzufragen, einen internen Dienst zu prüfen, ein Dokument abzurufen oder einen Workflow zu starten. Für die korrekte Nutzung eines Tools benötigt das Modell normalerweise eine Beschreibung des Tools und ein Schema, das seine Eingaben festlegt. Wenn der Tool-Katalog eines Agenten wächst, wird es zunehmend teuer und unübersichtlich, all diese Informationen in den Prompt aufzunehmen.
Googles neuer Ansatz trennt die Entdeckung von der detaillierten Ausführung. Statt jedes Parameterschema von vornherein in den Kontext zu setzen, kann ein Entwickler die Tools in einer Bibliothek belassen und dem Agenten erlauben, das relevante Schema abzurufen, sobald er eine mögliche Übereinstimmung mit der Aufgabe erkennt.
Dadurch kann sich die Datenmenge verringern, die zu Beginn einer Aufgabe an das Modell gesendet wird. Auch das Design einer Agentenanwendung verändert sich: Tool-Metadaten können weniger als feste, immer vorhandene Prompt-Anhänge und eher als Informationen behandelt werden, die das Modell während seiner Arbeit abfragen kann.
Warum das Laden von Schemas wichtig ist
Ein Tool-Schema ist nicht bloß ein Etikett. Es kann den Namen und die Beschreibung eines Tools, erforderliche und optionale Argumente, erwartete Typen sowie weitere Einschränkungen enthalten. Große Organisationen verwalten möglicherweise umfangreiche Kataloge interner Dienste, während leistungsfähigere Agenten Suche, Datensysteme, Kommunikationstools, Planungssysteme und spezialisierte Geschäftsfunktionen kombinieren können.
In diesem Umfeld kann die Gesamtheit der Schemas einen erheblichen Teil des dem Modell bereitgestellten Kontexts verbrauchen. Mehr Prompt-Inhalt kann die Kosten für Eingabetokens erhöhen und je nach System zu langsameren Antworten beitragen. Google zufolge soll Tool Retrieval bei komplexen Agentenaufgaben sowohl die Zahl der Eingabetokens als auch die Latenz reduzieren.
Google erklärt außerdem, dass die Funktion die Genauigkeit der Toolauswahl verbessern kann, wenn Tool-Bibliotheken wachsen. Das ist ein praktisches Problem: Ein Modell, dem viele ähnlich beschriebene Tools präsentiert werden, könnte ein weniger geeignetes auswählen oder mehr Aufwand in die Prüfung der Optionen investieren. Das bedarfsgesteuerte Abrufen von Details ermöglicht einen stufenweisen Prozess, bei dem ein Agent zunächst nach verfügbaren Tools sucht und anschließend die genauen Parameter des relevantesten Kandidaten prüft.
Eine Abrufschicht für Aktionen
Die Ankündigung ähnelt dem allgemeineren Muster des Abrufs, das in KI-Systemen eingesetzt wird. In einem Retrieval-augmented Workflow legt eine Anwendung nicht jedes Dokument in einen Prompt, sondern durchsucht eine Wissenssammlung und stellt die relevantesten Inhalte bereit. Tool Retrieval überträgt eine verwandte Idee auf Aktionen und Schnittstellen statt auf Dokumente.
Die Analogie hat Grenzen. Eine Tooldefinition kann beeinflussen, was ein Agent tun darf, und ein falsch ausgewähltes Tool kann eine ungültige Operation erzeugen oder einen unerwünschten Workflow auslösen. Die Funktion macht es nicht überflüssig, dass Entwickler Berechtigungen festlegen, Eingaben validieren, den Zugriff eines Agenten auf Tools steuern und folgenreiche Aktionen bestätigen.
Googles Ankündigung beschreibt Tool Retrieval als Möglichkeit, Parameterschemas nur bei Bedarf zu laden. Sie besagt nicht, dass Zugriffskontrollen, Authentifizierung oder Sicherheitsvorkehrungen für die Ausführung automatisch von der Funktion übernommen werden. Diese Aufgaben bleiben in der Verantwortung des Systems, das die Tools bereitstellt.
Der Vorschau-Status ist relevant
Da sich Tool Retrieval in der Vorschau befindet, sollten Entwickler die Veröffentlichung als Gelegenheit zur Evaluierung betrachten, nicht als Garantie für stabiles, produktionsreifes Verhalten. Vorschaufunktionen können sich vor der allgemeinen Verfügbarkeit bei ihrer Schnittstelle, den unterstützten Modellen, den Leistungsmerkmalen oder den Nutzungsbedingungen ändern.
Die Ankündigung nennt die Gemini Interactions API als ersten Einsatzort der Funktion. Entwickler, die bereits Agenten mit großen Tool-Beständen erstellen, können testen, ob das verzögerte Laden von Schemas ihre tatsächliche Promptgröße und Antwortzeit reduziert. Gleichzeitig können sie prüfen, ob der Abrufschritt verändert, wie zuverlässig ihre Agenten das passende Tool auswählen.
Diese Messungen werden wichtiger sein als die konzeptionelle Attraktivität der Funktion. Eine Tool-Bibliothek kann theoretisch groß, praktisch aber kompakt sein; eine andere kann so detaillierte Schemas enthalten, dass selektives Laden einen deutlichen Vorteil bringt. Eine gute Evaluierung vergleicht repräsentative Aufgaben, Tokenverbrauch, Latenz, Auswahlverhalten und Fehlerbehandlung.
Was der Start signalisiert
Googles Veröffentlichung verdeutlicht einen größeren Wandel in der Agentenentwicklung. Die Herausforderung besteht nicht mehr nur darin, einem Modell ein oder zwei Funktionen zu geben. Entwickler wünschen zunehmend Systeme, die mit großen Tool-Sammlungen arbeiten und dabei reaktionsfähig und überschaubar bleiben.
Das erhöht den Druck, den Kontext selektiver zu gestalten. Nicht jedes verfügbare Tool muss in jeder Interaktion vollständig beschrieben werden, genauso wenig wie jedes Dokument einer Organisation an jede Frage angehängt werden muss. Tool Retrieval bietet einen Ansatz: den Katalog zugänglich halten, Details bei Bedarf abrufen und den Hauptprompt für die aktuelle Aufgabe reservieren.
Vorerst ist die Ankündigung eine Vorschau auf diesen Ansatz in der Gemini API. Sein praktischer Wert wird davon abhängen, ob Entwickler den Prompt-Overhead reduzieren können, ohne die Zuverlässigkeit und Transparenz einzubüßen, die sie benötigen, wenn ein KI-System Softwaretools auswählt und aufruft.
Dieser Artikel basiert auf einer Berichterstattung des Google AI Blog. Den Originalartikel lesen.
Originally published on blog.google





