KI-Infrastruktur aufbauen: Ab wann Struktur zwingend wird

Es gibt einen Punkt in der KI-Adoption wo der bisherige Ansatz bricht. Bei uns war dieser Punkt irgendwo zwischen zehn und fünfzehn laufenden Systemen.

Bis dahin: jedes System gebaut wenn ein Bedarf entstand, mit den Tools die gerade verfügbar waren, von dem der gerade Zeit hatte. Das funktioniert für Experimente. Es funktioniert nicht für Betrieb.

Was "Betrieb" wirklich bedeutet

Ein KI-System in Betrieb zu haben bedeutet nicht: Es läuft. Es bedeutet:

Jemand merkt, wenn es nicht mehr das liefert was es soll. Jemand weiß warum es so gebaut wurde wie es gebaut wurde. Jemand entscheidet, wenn ein Modell-Update oder eine API-Änderung das Verhalten verändert. Jemand kann es erklären, dem Team, dem Kunden, dem Management.

Bei fünf Systemen kann eine Person das überblicken. Bei zwanzig nicht mehr.

Was wir in der zweiten Jahreshälfte 2024 aufgebaut haben

Zentrales API-Gateway. Alle externen API-Calls laufen durch einen zentralen Service. Das klingt technischer als es ist. Konkret: Authentifizierung, Rate Limiting und Logging passieren an einer Stelle, nicht in jedem System neu gebaut.

Vorher: jedes System hatte seine eigene API-Konfiguration. Wenn sich ein API-Key änderte, musste man in fünf Stellen suchen. Heute: eine Stelle.

Eigentümer-Prinzip. Jedes System hat einen benannten Eigentümer. Nicht den Entwickler, sondern den Prozessverantwortlichen. Den Menschen im Team der sagt: "Dieses System gehört zu meinem Verantwortungsbereich, ich stelle sicher, dass es das liefert was es soll."

Das ändert die Haltung: Systeme werden sorgfältiger gebaut, wenn jemand damit namentlich verknüpft ist.

Monatliche Betriebsprüfung. Einmal pro Monat: jedes System kurz auf den Tisch. Läuft es? Wird es genutzt? Hat sich der Anwendungsfall verändert? Diese Prüfung dauert zwei Stunden und verhindert den KI-Sprawl den wir Anfang 2024 aufgeräumt hatten.

Was ich beim ersten Mal falsch gemacht habe

Ich habe zu lange gewartet bis wir Struktur eingeführt haben. Die Überzeugung war: erst bauen und beweisen, dann strukturieren. Das Problem: Systeme die in Wildwuchs entstehen, sind schwer zu standardisieren wenn sie erst einmal laufen.

Heute würde ich die Eigentümer-Frage und die Betriebsprüfung von Anfang an einführen, auch wenn es am Anfang überstrukturiert wirkt.

Die Frage die ich anderen Geschäftsführern stelle

Wie viele KI-Systeme oder Automatisierungen laufen in Ihrem Betrieb gerade? Können Sie das auf Anhieb sagen?

Wenn die Antwort länger als drei Sekunden dauert, haben Sie wahrscheinlich dasselbe Problem das wir 2023 hatten. Nicht zu wenige Systeme, sondern zu wenig Überblick.

Der Aufbau von KI-Infrastruktur ist kein Technologieprojekt. Es ist ein Organisationsprojekt. Die Frage ist nicht welches Tool man nutzt, sondern wie man sicherstellt, dass zwanzig Systeme morgen noch tun was sie heute tun sollen.