Zum Inhalt

Function Calling (Tool Use)

Function Calling ist eine Funktion von KI-Schnittstellen, bei der ein Sprachmodell den Aufruf einer beschriebenen Funktion samt Parametern vorschlägt, den die Anwendung ausführt.

Das Modell schlägt den Aufruf nur vor, ausführen muss ihn die Anwendung.

Kreislauf am Beispiel eines Onlinehändlers, dessen KI-Assistent im Kundenservice zwei Funktionen kennt: Lieferstatus abfragen und Erstattung vorbereiten. Die Anwendung schickt die Kundenfrage mit den Funktionsbeschreibungen an das Modell, das Modell schlägt einen Aufruf mit Auftragsnummer vor und führt selbst nichts aus. Ein lesender Aufruf läuft nach Prüfung des Kundenkontos, das Ergebnis geht zurück an das Modell, das antwortet oder den nächsten Aufruf vorschlägt. Eine Erstattung entsteht nur als Entwurf und wird erst nach Freigabe durch eine Mitarbeiterin ausgelöst; jeder Aufruf steht im Protokoll.

Ein Sprachmodell kann von sich aus weder in einer Datenbank nachsehen noch eine E-Mail verschicken. Mit Function Calling geht das, unter Kontrolle der Anwendung. Die Anwendung teilt dem Modell mit, welche Funktionen es gibt, etwa „Lieferstatus abfragen“ mit dem Parameter Auftragsnummer. Passt eine davon zur Anfrage, antwortet das Modell statt mit Text mit einem maschinenlesbaren Aufruf: Name der Funktion und Werte für die Parameter. Die Anwendung führt ihn aus und gibt das Ergebnis an das Modell zurück.

Die Namen wechseln je nach Anbieter. OpenAI spricht von Function Calling und auch von Tool Calling, Anthropic von Tool Use, Google in der Gemini-Dokumentation wieder von Function Calling. Gemeint ist dasselbe Verfahren. OpenAI führte es am 13. Juni 2023 für die Modelle gpt-4-0613 und gpt-3.5-turbo-0613 ein. Kurz zuvor hatte das Forschungsmodell Toolformer gezeigt, dass Sprachmodelle lernen können, wann sie welche Schnittstelle mit welchen Argumenten aufrufen.

Für Führungskräfte ist Function Calling die Stelle, an der ein KI-System in Unternehmenssystemen etwas bewirkt. Welche Funktionen ein Modell vorschlagen darf, mit welchen Rechten die Anwendung sie ausführt und wo ein Mensch zustimmen muss, entscheidet über Zugriffe und Haftung.

Kapitel 1 von 6

So läuft ein Aufruf ab.

Die Dokumentation von OpenAI beschreibt fünf Schritte, und die anderen großen Anbieter arbeiten nach demselben Muster. Zuerst schickt die Anwendung die Anfrage zusammen mit der Liste der verfügbaren Funktionen an das Modell. Das Modell antwortet mit einem Aufruf, also Funktionsname und Parametern. Dann führt die Anwendung ihren Code aus und fragt zum Beispiel das Warenwirtschaftssystem ab. Danach schickt sie das Ergebnis in einer zweiten Anfrage an das Modell. Zuletzt formuliert das Modell die Antwort oder schlägt weitere Aufrufe vor.

Ob es eine Funktion braucht, entscheidet das Modell in jeder Runde selbst. Die Anwendung kann das steuern: einen Aufruf erzwingen, die Auswahl auf bestimmte Funktionen beschränken oder Aufrufe ganz abschalten. Neuere Modelle schlagen auch mehrere Aufrufe gleichzeitig vor.

Eine Ausnahme sind eingebaute Werkzeuge der Anbieter, etwa die Websuche bei Anthropic. Sie laufen auf der Infrastruktur des Anbieters. Auch dort führt das Modell selbst nichts aus.

Kapitel 2 von 6

Die Beschreibung steuert die Auswahl.

Jede Funktion wird mit Namen, einer Beschreibung in Alltagssprache und einem Schema für die Parameter übergeben. Das Schema im Standard JSON Schema legt Felder, Typen und Pflichtangaben fest. Anhand dieser Angaben wählt das Modell. OpenAI empfiehlt dafür einen Test: Könnte eine Praktikantin die Funktion allein mit dieser Beschreibung richtig benutzen?

Die Anbieter raten zu wenigen Funktionen je Anfrage. OpenAI nennt weniger als 20 als groben Richtwert, Google 10 bis 20. Selten gebrauchte Funktionen lassen sich bei Bedarf nachladen.

Der Strict Mode bei OpenAI und Anthropic sorgt dafür, dass ein Aufruf zum Schema passt. Ob die Werte stimmen, sagt das nicht. Anthropic weist darauf hin, dass ein Modell fehlende Pflichtangaben erfragen, aber auch einen plausiblen Wert erraten kann. Werte, die die Anwendung schon kennt, etwa die Kundennummer der angemeldeten Person, setzt sie deshalb besser selbst ein.

Kapitel 3 von 6

Rechte und Freigaben regelt die Anwendung.

Das OWASP-Projekt führt in seiner Liste der zehn wichtigsten Risiken für LLM-Anwendungen 2025 den Punkt „Excessive Agency“, also zu viel Handlungsspielraum. Als Ursachen nennt es Funktionen, die mehr können als nötig, Zugänge mit zu weiten Rechten und folgenreiche Aktionen ohne menschliche Prüfung.

Die Gegenmittel liegen in der Anwendung. Jede Funktion erledigt eine eng umrissene Aufgabe, statt etwa beliebige Datenbankbefehle anzunehmen. Sie läuft mit den Rechten der angemeldeten Person und nicht mit einem Generalschlüssel, und das Zielsystem prüft die Berechtigung noch einmal selbst. Lesende Abfragen dürfen meist ohne Rückfrage laufen. Schreibende Aktionen wie Zahlungen, Löschungen, Mails nach außen oder Änderungen an Stammdaten brauchen eine Freigabe durch einen Menschen.

Die Spezifikation des Model Context Protocol verlangt von Servern, Eingaben zu prüfen und Aufrufe zu begrenzen. Anwendungen sollen sensible Aktionen bestätigen lassen und die Nutzung protokollieren. Ein Protokoll mit Funktionsname, Parametern, Ergebnis und Freigabe zeigt später, was das System getan hat und warum.

Kapitel 4 von 6

Mit Werkzeugen wird Prompt Injection teurer.

OWASP beschreibt die indirekte Prompt Injection: Inhalte aus Webseiten oder Dateien verändern das Verhalten des Modells auf ungewollte Weise. Steht in einer eingehenden Mail eine versteckte Aufforderung, kann das Modell daraufhin einen Aufruf vorschlagen, den niemand wollte. Ohne Werkzeuge entsteht schlimmstenfalls eine falsche Antwort. Mit Werkzeugen kann es eine Überweisung sein oder eine Mail, die vertrauliche Daten nach außen schickt.

OpenAI wies schon bei der Einführung im Juni 2023 darauf hin, dass Text aus dem Ergebnis eines Werkzeugs das Modell zu ungewollten Aktionen bringen kann. Die Empfehlung damals: nur vertrauenswürdige Werkzeuge anbinden und vor Aktionen mit realen Folgen eine Bestätigung der Nutzer einholen.

Inhalte von außen behandelt die Anwendung deshalb als Daten. Eine Obergrenze für Aufrufe je Anfrage verhindert Endlosschleifen, und die Freigabe vor schreibenden Aktionen begrenzt den Schaden, falls eine Manipulation durchrutscht.

Kapitel 5 von 6

Function Calling, MCP und Agenten liegen auf verschiedenen Ebenen.

Function Calling ist die Fähigkeit des Modells, einen Aufruf vorzuschlagen. Das Model Context Protocol (MCP) regelt etwas anderes, nämlich wie eine Anwendung Werkzeuge von einem Server erfährt und aufruft. Ein MCP-Server meldet auf Anfrage seine Werkzeuge mit Namen, Beschreibung und Parameterschema und führt sie auf Befehl aus. So lässt sich ein Werkzeug einmal bauen und in mehreren KI-Anwendungen nutzen. Welches Werkzeug gebraucht wird, entscheidet weiterhin das Modell.

Ein KI-Agent nutzt Function Calling in einer Schleife. Er verfolgt ein Ziel über viele Schritte, wertet jedes Ergebnis aus und wählt den nächsten Aufruf. Die Orchestrierung legt fest, welche Schritte, Modelle und Prüfungen dabei zusammenspielen.

Retrieval-Augmented Generation (RAG) holt passende Textstellen in den Kontext, bevor das Modell antwortet. Auch diese Suche lässt sich als Funktion anbieten.

Kapitel 6 von 6

Die Grenze des Begriffs

Function Calling beschreibt nur den Mechanismus, mit dem ein Modell einen strukturierten Aufruf vorschlägt und ein Ergebnis zurückbekommt. Wie Werkzeuge bereitgestellt werden, regelt etwa das Model Context Protocol; ein System, das viele Aufrufe auf ein Ziel hin verkettet, ist ein KI-Agent. Ein Aufruf, der zum Schema passt, kann trotzdem die falsche Funktion oder falsche Werte enthalten.

Häufige Fragen

Was ist Function Calling?

Function Calling ist ein Verfahren, bei dem ein Sprachmodell statt einer Textantwort einen strukturierten Aufruf einer Funktion mit Parametern ausgibt. Die Anwendung führt ihn aus und gibt das Ergebnis an das Modell zurück, das daraus die Antwort formuliert.

Ist Function Calling dasselbe wie Tool Calling?

Ja, beide Begriffe meinen denselben Mechanismus. OpenAI nutzt beide Namen, Anthropic spricht von Tool Use, Google von Function Calling.

Führt das Sprachmodell die Funktion selbst aus?

Nein. Das Modell schlägt den Aufruf nur vor, ausführen muss ihn die Anwendung, bei eingebauten Werkzeugen die Infrastruktur des Anbieters. Deshalb liegen Rechte, Prüfungen und Freigaben in der Anwendung.

Was ist der Unterschied zwischen Function Calling und MCP?

Function Calling ist die Fähigkeit des Modells, einen Aufruf vorzuschlagen. MCP ist ein offenes Protokoll, über das Anwendungen Werkzeuge von Servern abfragen und aufrufen. MCP vereinheitlicht also die Anbindung, Function Calling die Auswahl durch das Modell, und in der Praxis arbeiten beide zusammen.

Was ist der Unterschied zwischen Function Calling und RAG?

RAG bringt Wissen aus Dokumenten in den Kontext des Modells, Function Calling löst Abfragen oder Aktionen in anderen Systemen aus. Für aktuelle Daten wie einen Lieferstatus passt Function Calling, für Wissen aus Handbüchern RAG. Steht die Dokumentensuche als Funktion bereit, entscheidet das Modell, wann es sucht.

Welche Sicherheitsrisiken hat Function Calling?

Das Risiko sind Aufrufe, die niemand wollte, ausgelöst durch Fehler des Modells oder durch manipulierte Inhalte (Prompt Injection). Den Schaden begrenzen eng geschnittene Funktionen, die Rechte der angemeldeten Person, eine Freigabe vor schreibenden Aktionen und ein vollständiges Protokoll.

Was kostet Function Calling?

Function Calling hat keinen eigenen Preis, abgerechnet werden die verarbeiteten Token. Die Funktionsbeschreibungen zählen bei jeder Anfrage als Eingabe, und jeder Aufruf braucht eine weitere Runde zum Modell. Knappe Beschreibungen, wenige Funktionen und Prompt Caching für gleichbleibende Definitionen senken die Kosten.

    ↑ ↓ wählen · Enter öffnen · Esc schließen