KI-API-Kosten im laufenden Betrieb kontrollieren
KI-API-Kosten sind die einzige Kostenart in unserem Betrieb, die sich verzehnfachen kann, ohne dass jemand eine Bestellung unterschreibt. Eine Endlosschleife in einem Automatisierungsskript, ein zu groß gewähltes Modell für eine Routineaufgabe, ein Tool das plötzlich zehnmal öfter aufgerufen wird als geplant — und aus einem einstelligen Tagesbetrag wird ein dreistelliger. Nach über 40 produktiven Systemen steuern wir das in drei Schichten: loggen, routen, deckeln.
Ohne Logging ist jede Kostendiskussion Spekulation
Jeder einzelne API-Aufruf wird bei uns zentral erfasst: welches System hat angefragt, welches Modell, wie viele Tokens rein und raus, was der Aufruf gekostet hat. Nicht monatlich aggregiert aus der Anbieter-Rechnung, sondern pro Aufruf, auf den Cent, in einer eigenen Datenbank. Alle Systeme laufen dafür über eine gemeinsame Schnittstelle, die den Absender in jedem Request mitschreibt.
Der praktische Unterschied: Wenn die Kosten steigen, wissen wir am selben Tag, welches System verantwortlich ist — nicht vier Wochen später beim Rechnungseingang. Der unbequemere Effekt: Logging macht sichtbar, welche Systeme ihr Geld nicht wert sind. Ein System, das im Monat mehr kostet als die Arbeitszeit, die es einspart, hat kein Kostenproblem, sondern ein Existenzproblem.
Das teuerste Modell ist selten das richtige
Zwischen dem kleinsten und dem größten Modell, das wir einsetzen, liegt ein Preisfaktor von etwa 15. Deshalb entscheidet bei uns nicht der Entwickler im Einzelfall, welches Modell ein System nutzt, sondern eine zentrale Routing-Logik anhand der Aufgabe: Klassifizieren, Extrahieren und Taggen erledigt die kleinste Stufe. Analysen und Zusammenfassungen übernimmt die mittlere. Das große Modell bekommt nur Aufgaben, bei denen Urteilskraft den Unterschied macht — strategische Synthesen, komplexe Bewertungen mit viel Kontext.
Dazu kommt konsequentes Caching. Daten, die sich einmal am Tag ändern, fragen wir nicht fünfmal an: Je nach Quelle halten wir Antworten zwischen 60 Sekunden und 30 Tagen vor. Für Datenabfragen ist der Cache der größte einzelne Hebel, denn die günstigste Antwort ist die, die kein zweites Mal berechnet wird.
Budgets, die sich selbst durchsetzen
Für die teuerste Modellklasse hat jedes System ein Tagesbudget. Wird es überschritten, gibt es keine Ermahnung und keinen Report, sondern eine abgelehnte Anfrage: automatischer Stopp bis Mitternacht, dann Reset. Die Grenzen lassen sich zur Laufzeit ändern, ohne Deployment — wenn ein System einen legitimen Lastspitzen-Tag hat, dreht jemand den Regler hoch, bewusst und dokumentiert.
Zwei Konstruktionsentscheidungen haben sich dabei bewährt. Die Budgetprüfung arbeitet fail-open: Fällt sie selbst aus, läuft der Betrieb weiter. Kostenkontrolle darf nie der Grund sein, warum ein produktives System steht. Und der Stopp greift nur bei der teuersten Modellklasse — die kleinen Modelle laufen ungebremst, weil dort selbst ein Ausreißer-Tag weniger kostet als eine Stunde Fehlersuche.
Seit die drei Schichten stehen, ist die Frage „Was kostet uns KI eigentlich?" keine Schätzung mehr, sondern eine Datenbankabfrage. Wer KI-Kosten erst auf der Monatsrechnung sieht, betreibt keine Kostenkontrolle, sondern Buchhaltung.