---
title: "KI-Governance: Die Richtlinie ist der kleinste Teil | Carl-Uwe Würfel"
description: "KI-Governance im Mittelstand: Die Richtlinie passt auf eine Seite. Wirken müssen Rechte, Zugänge, Kostenbuchung und Freigabe im Ablauf. Mit Prüfliste."
url: https://carl-wuerfel.de/ki-governance
author: Carl-Uwe Würfel
---

1. [Start](https://carl-wuerfel.de/)
  2. [Wissen](https://carl-wuerfel.de/wissen)
  3. KI-Governance

# KI-Governance im Mittelstand: Was das System nicht durchsetzt, gilt nur auf Papier.

KI-Governance wirkt erst, wenn Rechte, Zugänge, Kosten und Freigaben im Ablauf geregelt sind; die Richtlinie dazu passt auf eine Seite.

Der AI Act legt fest, was das Gesetz verlangt, die Governance regelt, wer im eigenen Haus was mit KI tun darf. Üblich ist ein langes Regelwerk, oft mit einem Verbot privater KI-Konten, und im Alltag ändert sich wenig, weil nichts dafür sorgt, dass sich jemand daran hält. Bei SUMAX kamen deshalb zuerst Nutzer, Rechte und Zugangsschlüssel für alle, und jeder KI-Aufruf läuft über eine eigene Schicht, die ihn mit seinen Kosten bucht, heute mehrere Zehntausend im Monat.

[Carl-Uwe Würfel](https://carl-wuerfel.de/about/carl-uwe-wuerfel)Stand 7\. November 2026[English version](https://carl-wuerfel.de/en/ai-governance)

## Auf dieser Seite

  1. Governance beginnt bei Konten, Rechten und Schlüsseln.
  2. Ein Verbot macht Schatten-KI nur unsichtbar.
  3. Wer ein KI-Ergebnis weitergibt, steht dafür gerade.
  4. Das Protokoll je Aufruf ist der beste Nachweis.
  5. Das Risiko hängt daran, wo das Ergebnis landet.
  6. Die KI-Richtlinie passt auf eine Seite.
  7. Häufige Fragen

> Bei uns kamen zuerst Nutzer, Rechte und Zugangsschlüssel, damit nicht jeder auf alles Zugriff hat. Werkzeuge für einzelne Aufgaben kamen erst danach, alle auf demselben Fundament.

## Governance beginnt bei Konten, Rechten und Schlüsseln.

**Folgerung** Regeln Sie Anmeldung, Rechte und Zugangsschlüssel für alle, bevor Sie Regeln für einzelne Werkzeuge schreiben.

Der [AI Act](https://carl-wuerfel.de/ai-act) legt fest, was das Gesetz von einem Unternehmen verlangt. KI-Governance regelt, wer im eigenen Haus welche KI wofür nutzen darf, mit welchen Daten und zu welchen Kosten. Das beginnt beim Fundament für alle: Jede Person meldet sich an, jede Rolle hat ihre Rechte, und die Zugangsschlüssel zu den KI-Anbietern liegen zentral statt bei einzelnen Mitarbeitenden. Bei SUMAX haben wir das zuerst gebaut, mit Sicherheit von Anfang an, damit nicht jeder auf alles Zugriff hat. Werkzeuge für einzelne Aufgaben kamen danach und setzen auf demselben Fundament auf. Wer Zugänge erst später regelt, sammelt verteilte Konten und Schlüssel wieder ein. Jede Regel braucht eine Stelle im Ablauf, an der das System sie durchsetzt.

Jede Regel braucht eine Stelle im Ablauf, an der das System sie durchsetzt.

_Abbildung: Weg einer KI-Nutzung durch fünf Prüfstellen im Ablauf. Erstens Anmeldung und Rechte: Darf diese Rolle dieses Werkzeug nutzen? Wenn nicht, gibt es keinen Zugang. Zweitens Daten: Dürfen diese Daten in dieses Werkzeug? Wenn nicht, bleiben sie draußen. Drittens Kostenbuchung: Der Aufruf wird einer Anwendung zugeordnet und mit seinen Kosten gebucht. Viertens fachliche Prüfung: Stimmt das Ergebnis? Wenn nicht, geht es zurück. Fünftens Freigabe: Darf es das Haus verlassen? Am Ende geht das geprüfte Ergebnis hinaus. Ein privates Konto läuft an allen Prüfstellen vorbei._

## Ein Verbot macht Schatten-KI nur unsichtbar.

**Folgerung** Fragen Sie ohne Sanktion ab, welche KI im Haus genutzt wird, und bieten Sie für die häufigsten Zwecke einen freigegebenen Weg an, bevor Sie etwas verbieten.

[Schatten-KI](https://carl-wuerfel.de/glossar/schatten-ki) sind KI-Werkzeuge, die Mitarbeitende mit privaten Konten nutzen, ohne dass das Unternehmen weiß, welche Daten wohin gehen. Die deutschen Datenschutzaufsichtsbehörden gehen davon aus, dass solche eigenmächtige Nutzung in vielen Unternehmen Realität ist, und empfehlen betriebliche Konten statt privater. Ein Verbot ändert daran wenig. Wer ein Werkzeug nützlich findet, nutzt es weiter, nur sieht es dann niemand mehr. Ein privates Konto läuft an allen Prüfstellen vorbei: keine Rechte, keine Datenregel, keine Kostenbuchung, keine Freigabe. Besser wirkt ein freigegebener Weg, der so bequem ist wie das private Konto. Am Anfang steht eine Abfrage in den Abteilungen ohne Sanktion: welche Werkzeuge, wofür, mit welchen Daten. Ob es wirkt, zeigt der Anteil der Nutzung, der über freigegebene Werkzeuge läuft. Bei SUMAX nutzen die meisten Mitarbeitenden jeden Monat unsere eigenen KI-Werkzeuge.

## Wer ein KI-Ergebnis weitergibt, steht dafür gerade.

**Folgerung** Schreiben Sie Prüfen und Freigeben als getrennte Schritte in die Rollenbeschreibungen und planen Sie die Zeit dafür ein.

Die wichtigste Regel der KI-Governance ist keine technische. Wird sie nicht gelebt, werden Menschen zu Durchreichern, die weiterleiten, was sie nicht gelesen haben. Prüfen und Freigeben sind zwei Schritte. Die fachliche Prüfung klärt, ob ein Ergebnis stimmt, die Freigabe entscheidet, ob es das Haus verlassen darf. Fällt die Prüfung durch, geht das Ergebnis zurück. Bei SUMAX regeln Freigaben, was das Haus verlässt, und Inhalte für Gesundheitskunden werden vorher gegen das Heilmittelwerbegesetz geprüft. Die Rollenbeschreibungen haben wir neu geschrieben. Prüfen und Freigeben gehören hinein, mit Zeit dafür, denn eine Regel, für die niemand Zeit hat, wird zum Häkchen. Wie viel ein Ablauf ohne Freigabe je Ergebnis erledigen darf, ist eine eigene Entscheidung und gehört zur [KI-Automatisierung](https://carl-wuerfel.de/ki-automatisierung).

## Das Protokoll je Aufruf ist der beste Nachweis.

**Folgerung** Leiten Sie jeden KI-Aufruf über eine Stelle, die ihn einer Anwendung zuordnet und mit seinen Kosten bucht, bevor Sie Geld für Governance-Software ausgeben.

Governance braucht Nachweise, und die entstehen am besten im laufenden Betrieb statt kurz vor einem Audit. Bei SUMAX läuft jeder KI-Aufruf aus den eigenen Anwendungen über eine eigene Schicht zwischen Anwendungen und KI-Modellen und wird mit seinen Kosten gebucht. Daraus lässt sich ablesen, welche Anwendung welches Modell wofür genutzt hat und was das kostet, lange bevor die Monatsrechnung kommt. Fällt ein fehlerhaftes Ergebnis auf, zeigt ein solches Protokoll, welche anderen Aufrufe betroffen sein können. Budgets begrenzen den Verbrauch. Über dieselbe Schicht lässt sich das Modell wechseln, ohne die Anwendungen umzubauen, so hängt die Governance an keinem einzelnen Anbieter. Eine zusätzliche Governance-Software bringt wenig, solange die Aufrufe an ihr vorbeilaufen.

## Das Risiko hängt daran, wo das Ergebnis landet.

**Folgerung** Stufen Sie jede Anwendung danach ein, wo ihr Ergebnis landet, und legen Sie die Prüfung danach fest.

KI-Risikomanagement braucht im Mittelstand keine eigene Abteilung, wohl aber eine Übersicht. Für jede Anwendung steht darin, wofür sie genutzt wird, mit welchen Daten und wohin das Ergebnis geht. Danach richtet sich die Prüfung. Eine Zusammenfassung für das eigene Team trägt wenig Risiko. Ein Angebot, ein Fachtext oder eine Auswertung für Kunden verlässt das Haus und braucht eine Freigabe. Geht es um Entscheidungen über Menschen, etwa in der Personalauswahl, kommen Pflichten aus dem AI Act hinzu, die Fachleute für IT-Recht einordnen sollten. Als Gliederung helfen das NIST AI Risk Management Framework mit seinen vier Funktionen Govern, Map, Measure und Manage und die Norm ISO/IEC 42001 für ein KI-Managementsystem. Beide sind freiwillig. Eine Zertifizierung lohnt sich vor allem, wenn Kunden einen formalen Nachweis verlangen.

## Die KI-Richtlinie passt auf eine Seite.

**Folgerung** Legen Sie Ihre Richtlinie neben die acht Punkte und beginnen Sie bei Zugang und Daten, weil die übrigen Punkte darauf aufbauen.

Eine Prüfliste für die Geschäftsleitung, keine Rechtsberatung. Auf die Seite gehören acht Punkte.

  1. Geltung: für wen sie gilt, auch für KI in Standardsoftware.
  2. Zugang: Firmendaten nur über freigegebene Werkzeuge mit betrieblichen Konten.
  3. Daten: welche Daten in welches Werkzeug dürfen, personenbezogene und Kundendaten nur in freigegebene.
  4. Prüfen und Freigeben: Wer weitergibt, hat geprüft, und was das Haus verlässt, gibt ein Mensch frei.
  5. Kosten: Jeder Aufruf wird einer Anwendung zugeordnet.
  6. Neue Werkzeuge: wie eines aufgenommen wird und wer darüber entscheidet.
  7. Fehler: wohin man einen Fehler meldet und wann ein Werkzeug abgeschaltet wird.
  8. Schulung: an echten Aufgaben aus dem eigenen Bereich.

Alles Weitere gehört in die Technik und in die Rollenbeschreibungen. Fragen zu Datenschutz und Arbeitsrecht klären Fachleute.

## Aus der Praxis.

  * [Zur Praxisgeschichte**Die Umstellung bei SUMAX** Rollen und Rechte, Freigaben und die Buchung jedes KI-Aufrufs: wie Regeln bei SUMAX in den Abläufen stecken.](https://carl-wuerfel.de/systeme)
  * [Zum Beitrag**KI-Qualitätssicherung: Prüfen heißt mehr als drüberschauen** Format, Quelle, Fachurteil: drei getrennte Prüfungen. Verantwortlich bleibt, wer weitergibt.](https://carl-wuerfel.de/notizen/qualitaetssicherung-ki-outputs)
  * [Zum Beitrag**KI-Kosten: Wer sie nicht je Aufruf kennt, steuert blind** Wie sich KI-Kosten je Aufruf einer Anwendung zuordnen lassen, mit Budget und Nutzen daneben.](https://carl-wuerfel.de/notizen/ki-api-kosten-im-betrieb-kontrollieren)

## Häufige Fragen

Was ist KI-Governance?

KI-Governance sind die Regeln und Vorkehrungen, mit denen ein Unternehmen festlegt, wer KI wofür nutzen darf, mit welchen Daten, wer Ergebnisse prüft und freigibt und was der Einsatz kostet. Sie wirkt, wenn diese Regeln im Ablauf stehen: Rechte und Zugänge im System, Kostenbuchung je Aufruf, Prüfung vor der Freigabe. Eine Richtlinie beschreibt das, durchsetzen muss es der Betrieb.

Was unterscheidet KI-Governance von KI-Compliance und vom AI Act?

Der AI Act ist das Gesetz, KI-Compliance heißt, ihn und andere Vorgaben wie die DSGVO einzuhalten. KI-Governance ist das Regelwerk im eigenen Haus, das dafür sorgt: wer was nutzen darf, wer prüft, wer freigibt und was es kostet. Ein Einsatz kann rechtlich zulässig sein und trotzdem ohne Prüfung und Kostenübersicht laufen, diese Lücke schließt die Governance.

Braucht ein Unternehmen KI-Governance, wenn Mitarbeitende nur ChatGPT nutzen?

Ja. Nach Auffassung der EU-Kommission fällt schon ein Unternehmen, dessen Beschäftigte ChatGPT etwa für Werbetexte oder Übersetzungen nutzen, unter die Pflicht zur KI-Kompetenz aus Artikel 4 AI Act. Für den Anfang reichen wenige Regeln: betriebliche Konten statt privater, eine klare Regel, welche Daten hinein dürfen, und die Prüfung vor jeder Weitergabe.

Was gehört in eine KI-Richtlinie?

Acht Punkte: Geltung, Zugang, Umgang mit Daten, Prüfen und Freigeben, Kosten, die Aufnahme neuer Werkzeuge, der Umgang mit Fehlern und die Schulung. Das passt auf eine Seite. Wichtiger als die Länge ist, dass jeder Punkt eine Stelle im Ablauf hat, an der er durchgesetzt wird, sonst bleibt die Richtlinie ein PDF.

Wie geht man mit Schatten-KI um?

Erst sichtbar machen, dann ersetzen. Eine Abfrage in den Abteilungen ohne Sanktion zeigt, welche Werkzeuge wofür und mit welchen Daten genutzt werden. Für die häufigsten Zwecke kommt ein freigegebener Weg mit betrieblichen Konten, der so bequem ist wie der private. Ein reines Verbot verschiebt die Nutzung dorthin, wo sie niemand sieht.

Ist eine Zertifizierung nach ISO/IEC 42001 Pflicht?

Nein. ISO/IEC 42001 ist eine freiwillige, zertifizierbare Norm für ein KI-Managementsystem, das NIST AI Risk Management Framework ein freiwilliger Leitfaden aus den USA. Beide helfen, die eigenen Regeln zu gliedern. Eine Zertifizierung lohnt sich vor allem, wenn Kunden oder Auftraggeber einen formalen Nachweis verlangen.

## Weiterlesen

  * [**AI Act im Mittelstand: Heute zählen Schulung und Freigabe**](https://carl-wuerfel.de/ai-act)
  * [**KI-Automatisierung: So viel Spielraum, wie sich prüfen lässt**](https://carl-wuerfel.de/ki-automatisierung)
  * [**Chief AI Officer: Die Rolle gehört nicht in die IT**](https://carl-wuerfel.de/chief-ai-officer)
  * [**KI im Mittelstand: Abläufe vor Werkzeugen**](https://carl-wuerfel.de/ki-mittelstand)
  * [**KI-System abschalten: Weiterlaufen ist eine Entscheidung**](https://carl-wuerfel.de/notizen/wann-wir-ein-ki-system-abschalten)

## Quellen

  1. [NIST: AI Risk Management Framework (AI RMF 1.0, englisch)](https://www.nist.gov/itl/ai-risk-management-framework)
  2. [ISO/IEC 42001:2023, Managementsystem für künstliche Intelligenz (englisch)](https://www.iso.org/standard/42001)
  3. [EU-Kommission: Fragen und Antworten zur KI-Kompetenz (englisch)](https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers)
  4. [Datenschutzkonferenz: Orientierungshilfe Künstliche Intelligenz und Datenschutz (Mai 2024)](https://www.datenschutzkonferenz-online.de/media/oh/20240506_DSK_Orientierungshilfe_KI_und_Datenschutz.pdf)
  5. [BSI: Generative KI-Modelle, Chancen und Risiken für Industrie und Behörden](https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/KI/Generative_KI-Modelle.html)
  6. [EUR-Lex: Verordnung (EU) 2024/1689 (AI Act)](https://eur-lex.europa.eu/eli/reg/2024/1689/oj)