Function Calling und Tool Use — LLMs als Orchestratoren

Ein LLM generiert Text. Mit Function Calling generiert es Aktionen. Das Modell ruft eine Kalender-API mit Parametern auf. Kein Parsing — strukturierter Output direkt vom Modell.

Wie es funktioniert¶

Sie definieren Tools als JSON-Schemas. Das Modell gibt einen strukturierten Function Call mit Argumenten zurück. Die Anwendung führt ihn aus und gibt das Ergebnis an das Modell zurück.

Design-Prinzipien¶

• Klare Beschreibungen: Das Modell entscheidet anhand der Beschreibung
• Atomare Funktionen: Ein Tool = eine Aktion
• Eingabevalidierung: Vertrauen Sie Parametern nie ohne Validierung
• Idempotenz: Ein doppelter Aufruf darf keine Probleme verursachen

Sicherheit¶

Prompt Injection kann unautorisierte API-Aufrufe auslösen. Fügen Sie einen Bestätigungsschritt für destruktive Aktionen, eine Allow-List und Rate Limiting hinzu.

Produktion¶

Ein Tool-Use-Agent für den Helpdesk: 8 Tools. Nach 3 Monaten: 60 % der Tickets ohne menschliches Eingreifen gelöst.

Function Calling ist die Brücke zwischen AI und Aktion¶

Investieren Sie in Tool-Design genauso wie in API-Design — es ist ebenso wichtig.