KI-Kennzeichnung

Der Begriff umfasst zwei Ebenen. Die sichtbare Kennzeichnung richtet sich an Menschen: ein Hinweis unter einem Bild, ein Symbol im Video, ein Satz im Text. Die maschinenlesbare Markierung richtet sich an Software und Plattformen: Metadaten in der Datei oder ein unsichtbares Wasserzeichen in Bild, Ton oder Text. Beide sollen erkennbar machen, dass ein Inhalt künstlich erzeugt oder manipuliert ist.

In der EU regelt Artikel 50 der KI-Verordnung (AI Act) die Pflichten. Er gilt seit dem 2. August 2026 und trennt nach Rollen. Anbieter generativer KI-Systeme müssen deren Ausgaben maschinenlesbar markieren. Betreiber, also Unternehmen, die solche Systeme in eigener Verantwortung einsetzen, müssen Deepfakes und bestimmte veröffentlichte KI-Texte offenlegen. Die meisten Unternehmen sind Betreiber. Für Anbieter, deren Systeme schon vor dem 2. August 2026 auf dem Markt waren, gilt die Markierungspflicht nach der Änderungsverordnung (EU) 2026/1744 ab dem 2. Dezember 2026.

Für Führungskräfte ist Kennzeichnung eine Frage des Freigabeprozesses. Wer KI-gestützt Inhalte veröffentlicht, muss je Inhalt entscheiden können, ob eine Pflicht greift, und belegen können, wer geprüft hat. Verstöße gegen Artikel 50 können nach Artikel 99 mit Geldbußen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist; für kleine und mittlere Unternehmen gilt der niedrigere (Stand November 2026).

Was Artikel 50 regelt.

Artikel 50 enthält vier Pflichten. Erstens müssen Anbieter Systeme, die direkt mit Menschen interagieren, etwa Chatbots, so gestalten, dass Menschen wissen, dass sie mit einer KI zu tun haben, sofern das nicht offensichtlich ist. Zweitens müssen Anbieter von Systemen, die synthetische Texte, Bilder, Töne oder Videos erzeugen, die Ausgaben maschinenlesbar markieren und als künstlich erkennbar machen. Ausgenommen sind Hilfsfunktionen für die Standardbearbeitung, die den Inhalt nicht wesentlich verändern. Drittens müssen Betreiber von Systemen zur Emotionserkennung oder biometrischen Kategorisierung die betroffenen Personen informieren.

Die vierte Pflicht trifft Betreiber generativer Systeme. Sie müssen offenlegen, dass ein Deepfake künstlich erzeugt oder manipuliert ist. Die Verordnung definiert Deepfakes als KI-erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich als echt erscheinen würden. Bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken genügt ein Hinweis, der den Genuss des Werks nicht stört. Außerdem müssen Betreiber KI-erzeugte oder manipulierte Texte offenlegen, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Die Information muss klar und eindeutig erkennbar sein, spätestens bei der ersten Interaktion oder Begegnung, und den Anforderungen an Barrierefreiheit genügen. Andere Transparenzpflichten aus EU- oder nationalem Recht bleiben ausdrücklich unberührt.

Die Ausnahme für geprüfte Texte.

Die Offenlegungspflicht für Texte entfällt, wenn der KI-erzeugte Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Für Deepfakes gibt es diese Ausnahme nicht.

Die Europäische Kommission hat in ihren Fragen und Antworten zu Artikel 50 vom Juli 2026 erläutert, was als Prüfung zählt: eine bewusste inhaltliche Prüfung durch einen oder mehrere Menschen. Eine Rechtschreib- oder Grammatikkorrektur reicht nicht, weil sie oberflächlich und rein formal ist. Zu den Angelegenheiten von öffentlichem Interesse zählt die Kommission unter anderem öffentliche Gesundheit, Umweltschutz und Verbrauchersicherheit sowie wirtschaftliche, finanzielle, politische, wissenschaftliche und kulturelle Entwicklungen.

Für Unternehmen heißt das: Ein Fachbeitrag im Firmenblog, ein Marktbericht oder eine Pressemitteilung kann unter die Pflicht fallen. Ob ein Werbetext oder eine Produktbeschreibung darunter fällt, ist eine Frage des Einzelfalls, die Fachleute für IT-Recht beurteilen.

Belastbar wird die Ausnahme erst mit einem Nachweis, wer den Text wann inhaltlich geprüft hat und wer die Verantwortung für die Veröffentlichung trägt. Ein Freigabevermerk im Redaktionssystem macht diese Prüfung nachvollziehbar.

Fristen und Leitfäden, Stand November 2026.

Der AI Act ist am 1. August 2024 in Kraft getreten, Artikel 50 gilt seit dem 2. August 2026. Die Änderungsverordnung (EU) 2026/1744, der sogenannte Digital-Omnibus zu KI, ist seit dem 27. Juli 2026 in Kraft und hat für die Markierung eine Übergangsfrist eingefügt. Anbieter generativer Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, müssen die Pflicht aus Artikel 50 Absatz 2 bis zum 2. Dezember 2026 erfüllen. Die Offenlegungspflichten der Betreiber für Deepfakes und Texte hat die Änderung nicht verschoben.

Am 10. Juni 2026 erschien der freiwillige Verhaltenskodex zur Transparenz KI-generierter Inhalte (Code of Practice). Am 8. Juli 2026 hat die Kommission bewertet, dass der Kodex die Pflichten aus Artikel 50 Absätze 2, 4 und 5 angemessen abdeckt. Am 20. Juli 2026 folgten Leitlinien zu den Transparenzpflichten und kurz darauf die genannten Fragen und Antworten.

Leitlinien, Kodex und Fragenkatalog sind Auslegungshilfen. Maßgeblich bleibt der Verordnungstext, und die Auslegung im Einzelfall liegt bei Aufsicht und Gerichten. Weil sich beides weiterentwickelt, gehört der Stand vor jeder Umstellung von Abläufen erneut geprüft.

Wasserzeichen und C2PA: so funktioniert die technische Markierung.

Für die maschinenlesbare Markierung gibt es zwei Familien von Verfahren. Metadaten hängen Angaben zur Herkunft an die Datei an. Der wichtigste offene Standard dafür heißt C2PA und stammt von der Coalition for Content Provenance and Authenticity. Ein C2PA-Manifest, auch Content Credential genannt, beschreibt Herkunft und Bearbeitungsschritte eines Inhalts und kann ausweisen, dass eine KI beteiligt war. Es wird mit dem Schlüssel der erzeugenden Software oder Hardware digital signiert, sodass sich nachträgliche Änderungen erkennen lassen.

Wasserzeichen verändern den Inhalt selbst, für Menschen kaum wahrnehmbar. Bei Bildern und Videos stecken sie im Bildsignal, bei Ton in der Wellenform, bei Text in der Wortwahl während der Erzeugung. Ein Beispiel ist SynthID von Google DeepMind, das Ausgaben der eigenen Modelle in Bild, Video, Ton und Text markiert und über ein Prüfportal erkennbar macht.

Jedes Verfahren hat Schwächen. Metadaten gehen verloren, wenn eine Plattform sie beim Hochladen entfernt oder jemand ein Bildschirmfoto macht. Wasserzeichen sollen Zuschneiden und Komprimieren überstehen, starke Bearbeitung oder Umformulieren kann sie aber schwächen. Der Verhaltenskodex verlangt deshalb von unterzeichnenden Anbietern, wo nötig mindestens zwei Ebenen maschinenlesbarer Markierung zu kombinieren, etwa Metadaten und Wasserzeichen, und Werkzeuge bereitzustellen, mit denen Dritte prüfen können, ob ein Inhalt KI-generiert ist.

Sichtbare Kennzeichnung im Betrieb.

Betreiber kennzeichnen für Menschen. Der Verhaltenskodex gibt Hinweise, wie und wo ein Hinweis erscheinen soll, und verweist auf ein öffentlich verfügbares EU-Symbol oder gleichwertige Kennzeichen. Für reine Tonformate sind gesprochene Hinweise vorgesehen.

Im Alltag beginnt Kennzeichnung mit einer Übersicht: Welche Werkzeuge erzeugen Inhalte, und wo werden diese veröffentlicht? Daraus folgt je Inhalt eine kurze Prüfung in drei Schritten. Ist es ein Deepfake, also ein realistisch wirkendes Bild, Video oder Tonstück, das echte Personen, Gegenstände, Orte oder Ereignisse nachbildet? Dann ist ein Hinweis nötig, unabhängig von jeder Prüfung. Ist es ein veröffentlichter Text zu einer Angelegenheit von öffentlichem Interesse? Dann hängt die Pflicht davon ab, ob ein Mensch ihn inhaltlich geprüft hat und jemand die redaktionelle Verantwortung trägt. Spricht ein Chatbot mit Kunden? Dann muss erkennbar sein, dass es eine KI ist. Diese Pflicht richtet sich an den Anbieter des Systems; wer einen Chatbot unter eigenem Namen anbietet, kann selbst Anbieter sein.

Für jeden veröffentlichten Inhalt genügt ein kurzer Eintrag: Werkzeug, Art des Inhalts, prüfende Person, Datum, gesetzter Hinweis.

Typische Missverständnisse.

Erstes Missverständnis: Jeder KI-Text müsse gekennzeichnet werden. Der AI Act verlangt das für veröffentlichte Texte zu Angelegenheiten von öffentlichem Interesse, und auch dort entfällt die Pflicht, wenn ein Mensch den Text inhaltlich geprüft hat und jemand die redaktionelle Verantwortung trägt. Die Pflicht knüpft an die Veröffentlichung an; interne Entwürfe sind keine Veröffentlichung.

Zweites Missverständnis: Eine Kennzeichnung mache einen Inhalt unbedenklich. Sie belegt die Herkunft. Auch die C2PA-Dokumentation hält fest, dass Herkunftsangaben allein nicht zeigen, ob ein Inhalt wahr, genau oder sachlich richtig ist. Wer einen gekennzeichneten Text mit falschen Angaben veröffentlicht, bleibt dafür verantwortlich.

Drittes Missverständnis: KI-Erkennung ersetze Kennzeichnung. Erkennungswerkzeuge Dritter schätzen nachträglich, ob ein Inhalt maschinell entstanden ist, und liefern Wahrscheinlichkeiten. Kennzeichnung setzt der Ersteller oder Veröffentlicher bewusst und kann sie belegen.

Viertes Missverständnis: Das Thema betreffe nur Medienhäuser. Jedes Unternehmen, das generierte Bilder realer Personen, Orte oder Gegenstände in Werbung oder sozialen Medien zeigt, kann einen Deepfake im Sinne der Verordnung veröffentlichen, auch ohne jede Täuschungsabsicht.

Die Grenze des Begriffs

KI-Kennzeichnung sagt, dass KI beteiligt war, nicht, ob der Inhalt stimmt. Abzugrenzen ist sie von KI-Erkennung, bei der Dritte nachträglich schätzen, ob ein Inhalt maschinell entstand, und von der Prüfung auf Halluzinationen, die die Richtigkeit betrifft. Pflichten aus Urheber-, Persönlichkeits- oder Wettbewerbsrecht bestehen neben Artikel 50 weiter.