---
title: "KI-Automatisierung: So viel Spielraum, wie sich prüfen lässt | Carl-Uwe Würfel"
description: "KI-Automatisierung bekommt so viel Spielraum, wie sich ihr Ergebnis prüfen lässt. Fünf Regeln und sechs Fragen zeigen, ob ein Ablauf allein laufen darf."
url: https://carl-wuerfel.de/ki-automatisierung
author: Carl-Uwe Würfel
---

1. [Start](https://carl-wuerfel.de/)
  2. [Wissen](https://carl-wuerfel.de/wissen)
  3. KI-Automatisierung

# KI-Automatisierung: Ein Häkchen ist noch keine Freigabe.

Eine KI-Automatisierung bekommt so viel Spielraum, wie sich ihr Ergebnis prüfen lässt.

Üblich sind zwei Extreme: der Agent, der alles allein erledigt, oder die Freigabe für jedes Ergebnis, die bald nur noch ein Häkchen ist. Im ersten Fall bemerkt niemand den Fehler, im zweiten werden Menschen zu Durchreichern, die weitergeben, was sie nicht gelesen haben. Bei SUMAX gibt deshalb ein Mensch frei, was das Haus verlässt, und was im Haus bleibt und sich leicht prüfen lässt, läuft ohne Freigabe je Ergebnis.

[Carl-Uwe Würfel](https://carl-wuerfel.de/about/carl-uwe-wuerfel)Stand 10\. November 2026[English version](https://carl-wuerfel.de/en/ai-automation)

## Auf dieser Seite

  1. Was feste Regeln erledigen, braucht keine KI.
  2. Was das Haus verlässt, gibt ein Mensch frei.
  3. Wer jedes Ergebnis freigeben lässt, bekommt Häkchen statt Prüfung.
  4. Das Modell wird zuletzt gewählt.
  5. Ohne Abschalter geht nichts in Betrieb.
  6. Häufige Fragen

## Betrieb, Freigabe oder lassen?

Denken Sie an einen Ablauf, den Sie mit KI erledigen wollen, und beantworten Sie sechs Fragen dazu. Sie bekommen meine Einschätzung nach denselben Regeln, nach denen ich bei uns entscheide, und was jede Station für diesen Ablauf tun muss.

____________

Noch 6 Fragen offen.

### 

  1. **Zugang** Wer fragt, und darf diese Rolle das?
  2. **Zwischenspeicher** Gibt es ein gültiges Ergebnis schon?
  3. **Modellwahl** Welches Modell genügt für diese Aufgabe?
  4. **Fachprüfung** Hält das Ergebnis die Regeln ein?
  5. **Kostenbuch** Was hat es gekostet, und wem wird es zugeordnet?
  6. **Freigabe** Wer gibt frei, bevor es das Haus verlässt?

Vor dem Start erledigt

  * Testaufgaben mit einfachen, mehrdeutigen und bewusst schwierigen Fällen.
  * Rückweg zur Bearbeitung von Hand vorbereitet.
  * Eine benannte Person, die abschalten darf.

Bei Entscheidungen über Personal kann der AI Act zusätzliche Pflichten auslösen. [AI Act im Mittelstand](https://carl-wuerfel.de/ai-act)

### Die Regeln dahinter

  1. Feste Datenformate verarbeitet klassische Software meist zuverlässiger. KI lohnt sich erst, wenn Sprache mehrdeutig ist oder Dokumente sich ständig ändern.
  2. Ohne eine benannte Person, die den Ablauf verantwortet und abschalten darf, geht nichts in Betrieb.
  3. Lässt sich ein Ergebnis kaum prüfen und kann ein Fehler teuer werden, bleibt die Entscheidung beim Fachteam.
  4. Was das Haus verlässt, schwer zu prüfen ist oder teure Fehler haben kann, gibt ein Mensch frei, bevor es weitergeht.
  5. Was im Haus bleibt, sich leicht prüfen lässt und keine teuren Fehler machen kann, läuft ohne Freigabe für jedes Ergebnis.

So entscheide ich bei uns. Das ist eine allgemeine Orientierung, keine Rechtsberatung und keine Prüfung Ihres Einzelfalls. Ihre Antworten bleiben in Ihrem Browser, es wird nichts gesendet.

Kapitel 1 von 5

## Was feste Regeln erledigen, braucht keine KI.

Feste Datenformate wie Tabellen oder Formularfelder verarbeitet klassische Software meist zuverlässiger, ob als eigenes Programm oder als RPA. KI lohnt sich, wenn Sprache mehrdeutig ist oder Dokumente sich ständig ändern. Ein Sprachmodell ([LLM](https://carl-wuerfel.de/glossar/llm)) bewertet und formuliert, deshalb braucht es Prüfstellen. Anthropic unterscheidet Workflows, in denen der Ablauf die Schritte vorgibt, von Agenten, die Weg und Werkzeuge selbst wählen. Mit jeder Freiheit steigen die Anforderungen an Rechte, Überwachung und Abbruchbedingungen. Ein Agent passt dort, wo der Lösungsweg offen ist und ein Fehler wenig kostet. Wo die Schritte feststehen, gibt der Ablauf die Reihenfolge vor.

FolgerungGeben Sie der Automatisierung umso weniger Spielraum, je vorhersehbarer die Aufgabe ist.

Kapitel 2 von 5

## Was das Haus verlässt, gibt ein Mensch frei.

Was das Haus verlässt, gibt ein Mensch frei.

_Abbildung: Prüfstellen am Beispiel eines Content-Ablaufs: Das Briefing legt die Frage fest, die Recherche liefert Quellen, ein Modell schreibt den Entwurf. Danach prüft eine Person Aussagen und Zielgruppe, erst dann gibt ein Mensch frei, bevor das Ergebnis das Haus verlässt. Bei Inhalten für Gesundheitskunden kommt vor der Freigabe die Prüfung nach dem Heilmittelwerbegesetz hinzu. Was eine Regel verletzt, geht zurück an die Redaktion._

Ein Content-Ablauf zeigt das Muster. Das Briefing legt die Frage fest, die Recherche liefert Quellen, ein Modell schreibt den Entwurf. In der Fachprüfung klärt eine Person Aussagen und Zielgruppe, erst danach gibt ein Mensch frei. Bei Inhalten für Gesundheitskunden kommt vor der Freigabe die Prüfung nach dem Heilmittelwerbegesetz hinzu. Was eine Regel verletzt, geht zurück an die Redaktion, auch wenn der Rest gut klingt. Mit diesem Ablauf entsteht bei SUMAX je Redaktionsstunde ein Vielfaches der Fachtexte von 2024.

FolgerungLegen Sie vor dem Bau fest, welche Schritte automatisch laufen und an welcher Stelle ein Mensch entscheidet.

Kapitel 3 von 5

## Wer jedes Ergebnis freigeben lässt, bekommt Häkchen statt Prüfung.

Eine Freigabe für jedes Ergebnis klingt sicher. Kommt aber jeden Tag dieselbe Art Vorlage, wird sie zum Klick, und der Mensch an der Freigabe wird zum Durchreicher. Freigaben gehören deshalb dorthin, wo sie etwas entscheiden. Was das Haus verlässt, schwer zu prüfen ist oder teure Fehler haben kann, gibt ein Mensch frei. Was im Haus bleibt und sich gegen eine Quelle oder Regel prüfen lässt, läuft ohne Freigabe je Ergebnis, sofern ein Fehler im nächsten Schritt auffällt. Lässt sich ein Ergebnis kaum prüfen und kann ein Fehler teuer werden, automatisiere ich nicht. Dann bleibt die Entscheidung beim Fachteam, und KI arbeitet zu, etwa beim Sortieren oder Zusammenfassen von Unterlagen.

FolgerungSetzen Sie Freigaben dort, wo ein Fehler das Haus verlässt oder teuer wird, und lassen Sie Prüfbares im Haus ohne Einzelfreigabe laufen.

Kapitel 4 von 5

## Das Modell wird zuletzt gewählt.

Die erste Frage lautet oft, welches Modell das beste ist. Ich stelle sie ans Ende. Zuerst kommen Testaufgaben mit einfachen Fällen, mehrdeutigen Eingaben und bewusst schwierigen Beispielen. Jedes Ergebnis wird an festen Kriterien gemessen: sachlich richtig, vollständig, nachvollziehbar, im passenden Format. Danach wird das Modell nach der Aufgabe gewählt, und zwar das kleinste, das die nötige Qualität liefert. Ein zweiter KI-Durchlauf findet manche [Halluzination](https://carl-wuerfel.de/glossar/hallucination), eine unabhängige Faktenprüfung oder die Stichprobe durch einen Menschen ersetzt er nicht. Erscheint eine neue Modellversion, laufen dieselben Testaufgaben erneut.

FolgerungWählen Sie das Modell erst nach den Testaufgaben und lassen Sie diese bei jeder neuen Modellversion erneut laufen.

Kapitel 5 von 5

## Ohne Abschalter geht nichts in Betrieb.

Kosten entstehen durch Modellaufrufe, Datenzugriffe, wiederholte Versuche, Betreuung und die Zeit für die Prüfung, deshalb gibt es keine pauschale Zahl. Bei SUMAX laufen Zehntausende KI-Aufrufe im Monat durch eine eigene Schicht zwischen Anwendungen und Modellen. Sie bucht jeden Aufruf mit seinen Kosten auf eine Anwendung und hält das Modell wechselbar. Frisst die Prüfung den Nutzen auf, lohnt sich der Ablauf nicht. Vor dem Start stehen außerdem eine Übersicht über Fehler und Änderungen, ein vorbereiteter Rückweg zur Bearbeitung von Hand und eine benannte Person, die den Ablauf ohne Umweg über die Technik abschalten darf.

FolgerungNehmen Sie keinen Ablauf in Betrieb, solange Rückweg und Abschalter fehlen.

> Bevor ich einen automatisierten Ablauf freigebe, muss feststehen, wo ein Mensch das Ergebnis prüft und wer bei einem Fehler abschaltet. Welches Modell es wird, entscheide ich zuletzt.

## Aus der Praxis.

  * [Zum Beitrag**KI-Qualitätssicherung: Prüfen heißt mehr als drüberschauen** Welche Kriterien ein Ergebnis erfüllen muss, bevor es weiterverwendet wird, und wer darüber entscheidet.](https://carl-wuerfel.de/notizen/qualitaetssicherung-ki-outputs)
  * [Zur Fachseite**AI Act im Mittelstand** Freigaben, Rechte und Kosten als Regeln im Ablauf, mit der Prüfung nach Heilmittelwerbegesetz als Beispiel.](https://carl-wuerfel.de/ai-act)

Häufige Fragen

## 6 Fragen, kurz beantwortet.

Was ist der Unterschied zwischen RPA und KI-Automatisierung?

[RPA](https://carl-wuerfel.de/glossar/rpa) führt festgelegte Schritte nach festen Regeln aus, etwa mit Tabellen oder Formularfeldern. KI-Automatisierung verarbeitet zusätzlich freien Text und Dokumente, die sich ändern, und braucht deshalb Prüfstellen. Wo feste Regeln reichen, ist RPA oder ein eigenes Programm meist die zuverlässigere Wahl.

Welche Prozesse lassen sich mit KI automatisieren?

Häufige, klar begrenzte Aufgaben mit mehrdeutigen Eingaben, zugänglichen Daten und einem Ergebnis, das sich gegen eine Quelle oder Regel prüfen lässt. Bleibt das Ergebnis im Haus und fällt ein Fehler im nächsten Schritt auf, kann der Ablauf ohne Einzelfreigabe laufen. Lässt sich ein Ergebnis kaum prüfen und kann ein Fehler teuer werden, bleibt die Entscheidung beim Fachteam, und KI arbeitet nur zu.

Braucht jedes KI-Ergebnis eine Freigabe durch einen Menschen?

Nein. Was das Haus verlässt, schwer zu prüfen ist oder teure Fehler haben kann, gibt ein Mensch frei. Was im Haus bleibt und sich leicht prüfen lässt, läuft ohne Freigabe je Ergebnis, sonst wird die Freigabe zum Häkchen. Wer den Ablauf verantwortet, sieht dann Fehler und Kosten und kann ihn abschalten.

Ist KI-Automatisierung für kleine und mittlere Unternehmen geeignet?

Ja, wenn das Fundament steht: Nutzer, Rechte und Zugänge sind einmal für alle geregelt, bevor Werkzeuge für einzelne Aufgaben kommen. Dann muss nicht jedes Werkzeug diese Fragen neu klären. Ein Ablauf, der selten vorkommt, trägt den Aufwand für Tests, Prüfung und Betreuung oft nicht.

Was kostet eine KI-Automatisierung?

Eine pauschale Zahl gibt es nicht. Die Kosten setzen sich aus Modellaufrufen, Datenzugriffen, Wiederholungen, Betreuung und Prüfzeit zusammen. Wer jeden Aufruf mit seinen Kosten auf den Ablauf bucht und die Prüfzeit daneben legt, sieht, ob er sich trägt.

Wer darf eine KI-Automatisierung abschalten?

Die Person, die den Ablauf fachlich verantwortet. Sie braucht dafür keinen Umweg über die Technik, und der Rückweg zur Bearbeitung von Hand muss vorbereitet sein. Gibt es diese Person noch nicht, geht der Ablauf nicht in Betrieb.

## Weiterlesen

  * [KI-Kosten: Wer sie nicht je Aufruf kennt, steuert blind](https://carl-wuerfel.de/notizen/ki-api-kosten-im-betrieb-kontrollieren)
  * [KI-Prompts als Teil der Dokumentation](https://carl-wuerfel.de/notizen/warum-ki-prompts-dokumentation-sind)
  * [KI-System abschalten: Weiterlaufen ist eine Entscheidung](https://carl-wuerfel.de/notizen/wann-wir-ein-ki-system-abschalten)
  * [Eine KI-Roadmap mit Entscheidungspunkten](https://carl-wuerfel.de/ki-roadmap)
  * [KI-Transformation im Mittelstand führen](https://carl-wuerfel.de/ki-mittelstand)

## Quellen

  * [Anthropic: Workflows und Agenten unterscheiden](https://www.anthropic.com/engineering/building-effective-agents)

Für Gespräche über operative Führung und KI-Umstellung.

[Gespräch anfragen](https://carl-wuerfel.de/kontakt)
