---
title: "KI-Ethik (Responsible AI): Definition und Beispiel"
description: "KI-Ethik erklärt: was die Leitlinien von EU, OECD und UNESCO verlangen, wie sie zum AI Act stehen und wie Unternehmen ethische Grundsätze prüfbar machen."
url: https://carl-wuerfel.de/glossar/ki-ethik
author: Carl-Uwe Würfel
---

1. [Start](https://carl-wuerfel.de/)
  2. [Wissen](https://carl-wuerfel.de/wissen)
  3. [Glossar](https://carl-wuerfel.de/glossar)
  4. KI-Ethik (Responsible AI)

# KI-Ethik (Responsible AI)

KI-Ethik umfasst die Grundsätze und Abwägungen, nach denen KI-Systeme vertretbar entwickelt und eingesetzt werden, auch dort, wo kein Gesetz eine Antwort vorgibt.

## Auf dieser Seite

  1. Drei Rahmenwerke setzen den Maßstab
  2. Die KI-Verordnung übernimmt Teile der Ethik als Pflicht
  3. Responsible AI macht aus Grundsätzen Abläufe
  4. So wird Ethik prüfbar
  5. Ein Leitbild allein ist noch keine KI-Ethik
  6. Wer entscheidet und wie viel Aufwand es braucht
  7. Die Grenze des Begriffs
  8. Häufige Fragen
  9. Quellen

Ethik setzt dort an, wo das Gesetz schweigt oder noch nicht greift.

_Abbildung: Waage am Beispiel eines Logistikunternehmens, das Bewerbungen für Lagerjobs von einem KI-System vorsortieren lässt. Links, was das Recht verlangt: Es ist ein Hochrisiko-System nach Anhang III mit Pflichten ab dem 2. Dezember 2027, dazu gehören menschliche Aufsicht nach Artikel 14 und der Schutz vor rein automatisierten Entscheidungen nach Artikel 22 DSGVO. Rechts, was die Geschäftsführung zusätzlich festlegt: Bewerbende erfahren, dass KI vorsortiert, jede Absage prüft ein Mensch, und die Weiterleitungsquoten je Gruppe werden vierteljährlich verglichen. Darunter: Die Personalleitung ist für das System zuständig und kann es jederzeit abschalten._

KI-Ethik ist angewandte Ethik. Sie fragt, welcher Einsatz von KI vertretbar ist: ob ein System Menschen fair behandelt, ob Betroffene wissen, dass KI beteiligt ist, wer ein Ergebnis stoppen kann und wer für Schäden einsteht. In Unternehmen heißt das Gleiche oft Responsible AI, verantwortungsvolle KI. Gemeint ist dann weniger die philosophische Debatte als die Praxis, also Regeln, Zuständigkeiten und Prüfungen.

Die bekanntesten Rahmenwerke entstanden zwischen 2019 und 2021. Die von der EU-Kommission eingesetzte hochrangige Expertengruppe für KI veröffentlichte im April 2019 Ethik-Leitlinien für vertrauenswürdige KI. Die OECD verabschiedete 2019 ihre KI-Grundsätze und aktualisierte sie im Mai 2024. Die 193 Mitgliedstaaten der UNESCO nahmen im November 2021 eine Empfehlung zur Ethik der KI an. Keines dieser Dokumente bindet ein Unternehmen rechtlich.

Verbindlich ist das Recht, in der EU vor allem die KI-Verordnung ([AI Act](https://carl-wuerfel.de/ai-act)) und die DSGVO. Die KI-Verordnung verweist in Erwägungsgrund 27 ausdrücklich auf die sieben Grundsätze der Expertengruppe, und mehrere davon finden sich als Pflichten wieder. Was darüber hinausgeht, entscheidet jedes Unternehmen selbst. Diese Entscheidung gehört zur Geschäftsführung, weil sie Ruf, Haftung und das Vertrauen von Kunden und Mitarbeitenden betrifft.

Beispiel

Ein Logistikunternehmen lässt Bewerbungen für Lagerjobs von einem KI-System vorsortieren. Rechtlich ist das ein Hochrisiko-System nach Anhang III der KI-Verordnung, und Artikel 22 DSGVO schützt vor rein automatisierten Entscheidungen mit erheblicher Wirkung. Die Geschäftsführung legt zusätzlich fest, dass Bewerbende erfahren, dass KI vorsortiert, dass jede Absage ein Mensch prüft und dass die Weiterleitungsquoten je Gruppe vierteljährlich verglichen werden. Die Personalleitung ist für das System zuständig und kann es jederzeit abschalten.

Kapitel 1 von 7

## Drei Rahmenwerke setzen den Maßstab.

Die Ethik-Leitlinien der EU-Expertengruppe vom 8. April 2019 nennen drei Bestandteile vertrauenswürdiger KI: Sie soll rechtmäßig, ethisch und robust sein. Daraus folgen sieben Anforderungen, nämlich menschliches Handeln und menschliche Aufsicht, technische Robustheit und Sicherheit, Privatsphäre und Daten-Governance, Transparenz, Vielfalt, Nichtdiskriminierung und Fairness, soziales und ökologisches Wohlergehen sowie Rechenschaftspflicht.

Die KI-Grundsätze der OECD enthalten fünf wertebasierte Grundsätze, darunter Transparenz und Erklärbarkeit, Robustheit und Sicherheit sowie Rechenschaftspflicht. Dazu kommen fünf Empfehlungen an Regierungen. Die Fassung vom Mai 2024 berücksichtigt neue technische und politische Entwicklungen seit 2019.

Die UNESCO bezeichnet ihre Empfehlung vom November 2021 als ersten weltweiten Standard zur KI-Ethik. Sie beruht auf vier Grundwerten, darunter Menschenwürde und Menschenrechte, und zehn Grundsätzen, etwa Verhältnismäßigkeit und menschliche Aufsicht. Elf Politikfelder beschreiben, wie Staaten sie umsetzen sollen.

Kapitel 2 von 7

## Die KI-Verordnung übernimmt Teile der Ethik als Pflicht.

Recht zieht Untergrenzen für alle. Ethik fragt, was ein Unternehmen zusätzlich tun oder lassen will. Artikel 5 der KI-Verordnung (EU) 2024/1689 verbietet bestimmte Praktiken, etwa die Ableitung von Emotionen am Arbeitsplatz. Für Hochrisiko-Systeme verlangt sie unter anderem Transparenz (Artikel 13) und wirksame menschliche Aufsicht (Artikel 14). Artikel 95 sieht freiwillige Verhaltenskodizes vor, die ausdrücklich Elemente der Ethik-Leitlinien der Union aufnehmen können.

Dazu kommen Fristen. Nach der Änderungsverordnung (EU) 2026/1744 gelten die Pflichten für Hochrisiko-Systeme nach Anhang III ab dem 2. Dezember 2027. Dazu zählt KI, die Bewerbungen sichtet, filtert oder Bewerber bewertet. Artikel 4 zur KI-Kompetenz verlangt seitdem, dass Anbieter und Betreiber die KI-Kompetenz ihres Personals unterstützen; ein bestimmtes Niveau müssen sie nicht garantieren (Stand November 2026).

Ethik setzt dort an, wo das Gesetz schweigt oder noch nicht greift. Ein Beispiel ist die Frage, ob ein Unternehmen seine Mitarbeitenden überhaupt mit KI bewerten will.

Kapitel 3 von 7

## Responsible AI macht aus Grundsätzen Abläufe.

Unter Responsible AI fassen Unternehmen und Behörden die Umsetzung zusammen. Das US-amerikanische National Institute of Standards and Technology (NIST) nennt in seinem AI Risk Management Framework vom Januar 2023 das Risikomanagement einen zentralen Bestandteil verantwortungsvoller Entwicklung und Nutzung von KI. Als Merkmale vertrauenswürdiger KI führt es auf: gültig und zuverlässig, sicher, geschützt und widerstandsfähig, rechenschaftspflichtig und transparent, erklärbar und interpretierbar, datenschutzfreundlich sowie fair mit beherrschten schädlichen Verzerrungen. Das Rahmenwerk ist freiwillig.

Im Unternehmen besteht Responsible AI aus wenigen festen Bausteinen. Für jedes KI-System ist eine Stelle benannt, die über Einsatz und Abschaltung entscheidet. Vor dem Start klärt eine Prüfung, wen das Ergebnis betrifft, was ein Fehler auslöst und ob Gruppen benachteiligt werden könnten. Bei folgenreichen Entscheidungen über Menschen kann ein Mensch das Ergebnis überstimmen. Betroffene haben einen Weg, sich zu beschweren. Die Entscheidungen sind dokumentiert.

Kapitel 4 von 7

## So wird Ethik prüfbar.

Ein Grundsatz wie Fairness lässt sich erst prüfen, wenn er in eine konkrete Frage mit Messgröße übersetzt ist. Die EU-Expertengruppe hat dafür im Juli 2020 die Assessment List for Trustworthy AI (ALTAI) veröffentlicht, eine Liste zur Selbstbewertung. Sie soll die sieben Anforderungen in Fragen übersetzen, die ein Team für sein System beantwortet.

Oft genügt eine knappe Übersetzung je Grundsatz. Bei Fairness werden die Ergebnisse nach Gruppen verglichen, etwa der Anteil weitergeleiteter Bewerbungen. Transparenz heißt, dass Betroffene erfahren, dass KI beteiligt war, und auf Nachfrage eine verständliche Begründung bekommen. Für die Aufsicht ist festgelegt, wer ein Ergebnis stoppen darf. Rechenschaft bedeutet, dass Prüfungen, Freigaben und Änderungen mit Datum und Namen festgehalten sind.

Prüfbar heißt auch, dass jemand außerhalb des Projekts nachprüfen kann. Eine interne Revision oder ein externes Audit vergleicht dann die Praxis mit den eigenen Regeln und mit anerkannten Rahmenwerken.

Kapitel 5 von 7

## Ein Leitbild allein ist noch keine KI-Ethik.

Der Philosoph Luciano Floridi beschrieb 2019 fünf Risiken bei der Umsetzung digitaler Ethik, darunter das Ethics Bluewashing: oberflächliche Behauptungen ethischen Handelns, die ein besseres Bild erzeugen, als die Praxis hergibt. Das Gegenmittel ist der Nachweis. Wer Grundsätze nennt, kann zeigen, welche Prüfung dazu gehört.

Eine Rechtsprüfung bleibt nötig, denn freiwillige Grundsätze kommen zu den Pflichten aus KI-Verordnung, DSGVO und Gleichbehandlungsrecht nur hinzu.

Eindeutige Antworten liefert Ethik nicht, denn Grundsätze stehen manchmal gegeneinander. Ein genaueres Modell kann schwerer zu erklären sein, und mehr Transparenz über Entscheidungen kann mit dem Schutz personenbezogener Daten kollidieren. Gefragt ist dann eine begründete Abwägung, die jemand verantwortet.

KI-Ethik betrifft auch kleinere Unternehmen. Wer KI in der Personalauswahl oder im Kundenservice einsetzt, trifft dieselben Abwägungen wie ein Konzern, nur mit weniger Systemen.

Kapitel 6 von 7

## Wer entscheidet und wie viel Aufwand es braucht.

Die Verantwortung liegt bei der Geschäftsführung, weil sie über Einsatz, Risiko und Ruf entscheidet. Sie kann die Arbeit verteilen: Ein kleines Gremium aus Fachbereich, IT, Datenschutz und Personalvertretung bereitet Grundsatzfragen vor, die zuständige Stelle je System setzt sie um.

Der Aufwand hängt von Zahl und Art der Systeme ab. Für einen Schreibassistenten genügen eine kurze Regel und eine Schulung. Wer KI aber über Bewerbungen, Kredite oder Leistungen mitentscheiden lässt, braucht eine dokumentierte Prüfung je System, regelmäßige Auswertungen und einen Beschwerdeweg. Einen festen Marktpreis für Beratung oder Audit gibt es nicht.

Ein brauchbarer erster Schritt ist eine Liste aller genutzten KI-Systeme mit Zweck, betroffenen Personen und zuständiger Stelle. Aus ihr ergibt sich, wo eine kurze Notiz reicht und wo eine gründliche Prüfung nötig ist. Rechte, Freigaben und Protokolle im Einzelnen regelt die KI-Governance.

Kapitel 7 von 7

## Die Grenze des Begriffs

KI-Ethik beantwortet, was vertretbar ist. Die Einhaltung von KI-Verordnung und DSGVO prüft die Compliance, Rechte, Freigaben und Protokolle regelt die KI-Governance. [KI-Bias](https://carl-wuerfel.de/glossar/ki-bias) ist ein konkretes Fehlerbild, das KI-Ethik unter Fairness behandelt, [KI-Sicherheit](https://carl-wuerfel.de/glossar/ki-sicherheit) schützt Systeme vor Angriffen und Fehlfunktionen. Maschinenethik fragt, ob Maschinen selbst moralisch handeln können, und ist ein eigenes Forschungsfeld.

## Häufige Fragen

Was ist KI-Ethik?

KI-Ethik ist das Nachdenken darüber, welcher Einsatz von KI vertretbar ist, und die Praxis, das im Unternehmen umzusetzen. Sie fragt nach Fairness, Transparenz, menschlicher Aufsicht, Datenschutz und Verantwortung, auch wo kein Gesetz etwas vorschreibt.

Was ist Responsible AI?

Responsible AI, verantwortungsvolle KI, bezeichnet die Umsetzung ethischer Grundsätze in Abläufe, Zuständigkeiten und Prüfungen. Das NIST nennt Risikomanagement einen zentralen Bestandteil verantwortungsvoller Entwicklung und Nutzung von KI. Der Begriff wird oft gleichbedeutend mit KI-Ethik verwendet.

Ist KI-Ethik gesetzlich vorgeschrieben?

Nein, ethische Leitlinien wie die der EU-Expertengruppe, der OECD oder der UNESCO binden Unternehmen rechtlich nicht. Verbindlich sind Gesetze wie die KI-Verordnung und die DSGVO, in denen sich einige ethische Grundsätze als Pflichten wiederfinden, etwa die menschliche Aufsicht bei Hochrisiko-Systemen.

Was ist der Unterschied zwischen KI-Ethik und KI-Governance?

KI-Ethik legt fest, was ein Unternehmen für vertretbar hält, [KI-Governance](https://carl-wuerfel.de/ki-governance) regelt, wer was darf und wie das kontrolliert wird. Governance ist das Werkzeug, mit dem ethische Grundsätze und gesetzliche Pflichten im Alltag eingehalten werden.

Welche Prinzipien hat KI-Ethik?

Die EU-Leitlinien von 2019 nennen sieben Anforderungen, darunter menschliche Aufsicht, Transparenz, Fairness und Rechenschaftspflicht. Die OECD fasst fünf Grundsätze, die UNESCO zehn. Welche davon ein Unternehmen übernimmt und wie es sie prüft, legt es selbst fest.

Wer ist im Unternehmen für KI-Ethik zuständig?

Die Gesamtverantwortung liegt bei der Geschäftsführung, weil sie über Einsatz und Risiko entscheidet. Für jedes KI-System sollte eine Stelle benannt sein, die über Betrieb und Abschaltung entscheidet.

## Weiter

  * [**KI-Glossar**](https://carl-wuerfel.de/glossar)
  * [**KI-Governance: Rechte, Zugänge, Protokolle**](https://carl-wuerfel.de/ki-governance)
  * [**AI Act: den Einsatz einordnen**](https://carl-wuerfel.de/ai-act)
  * [**KI-Bias**](https://carl-wuerfel.de/glossar/ki-bias)
  * [**Explainable AI**](https://carl-wuerfel.de/glossar/explainable-ai)
  * [ Begriff**Data Governance**](https://carl-wuerfel.de/glossar/data-governance)
  * [ Begriff**Deepfake**](https://carl-wuerfel.de/glossar/deepfake)
  * [ Begriff**KI-Sicherheit (Red Teaming)**](https://carl-wuerfel.de/glossar/ki-sicherheit)

## Quellen

  1. [Hochrangige Expertengruppe für KI der Europäischen Kommission: Ethics Guidelines for Trustworthy AI, 8. April 2019, mit ALTAI von Juli 2020 (englisch)](https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai)
  2. [OECD: AI Principles, 2019, aktualisiert Mai 2024 (englisch)](https://oecd.ai/en/ai-principles)
  3. [UNESCO: Recommendation on the Ethics of Artificial Intelligence, November 2021 (englisch)](https://www.unesco.org/en/artificial-intelligence/recommendation-ethics)
  4. [NIST: Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, Januar 2023 (englisch)](https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf)
  5. [EU: Verordnung (EU) 2024/1689 (KI-Verordnung, AI Act), Erwägungsgrund 27, Art. 5, 13, 14, 95 und Anhang III, 2024](https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689)
  6. [EU: Verordnung (EU) 2026/1744 zur Änderung der KI-Verordnung (Digital-Omnibus zu KI), Art. 4 neu und Geltungsbeginn Hochrisiko, 2026](https://eur-lex.europa.eu/eli/reg/2026/1744/oj/deu)
  7. [EU: Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Art. 22, 2016](https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32016R0679)
  8. [Floridi: Translating Principles into Practices of Digital Ethics: Five Risks of Being Unethical, Philosophy & Technology 32, 2019 (englisch)](https://doi.org/10.1007/s13347-019-00354-x)
