EU AI Act Kennzeichnungspflicht: Was Art. 50 ab August 2026 wirklich verlangt
Viele Schlagzeilen der letzten Tage legen nahe, dass ab sofort jeder KI-generierte Text mit einem Hinweis versehen werden muss. Das stimmt so nicht. Artikel 50 der KI-Verordnung ist präziser und enger als die meiste Berichterstattung vermuten lässt. Ich habe die Regel gelesen, eigene Systeme geprüft und umgebaut, und der Aufwand war überschaubar. Dieser Beitrag ist keine Rechtsberatung, sondern Orientierung aus Operator-Sicht.
Vier Pflichten, kein Generalverdacht: Was Art. 50 KI-VO wirklich vorschreibt
- Chatbots müssen sich als KI offenlegen, bevor das Gespräch beginnt
- KI-Bilder, -Audio und -Video müssen maschinenlesbar markiert sein, Pflicht primär beim Modell-Anbieter
- Deepfakes müssen sichtbar gekennzeichnet werden, Pflicht beim Veröffentlicher
- KI-Texte sind nur bei Inhalten von öffentlichem Interesse kennzeichnungspflichtig, mit Ausnahme bei substanzieller redaktioneller Prüfung
Artikel 50 der KI-Verordnung definiert nicht eine, sondern vier unterschiedliche Transparenzpflichten. Wer sie als einen einzigen Generalauftrag liest, handelt entweder zu eng oder zu weit. Die Pflichten richten sich je nach Inhaltstyp und Situation an unterschiedliche Adressaten.
Vier Mythen zu Art. 50 KI-VO, und was wirklich gilt
Stand: 4. August 2026, Quelle: Verordnung (EU) 2024/1689, Art. 50
Alle KI-generierten Texte müssen gekennzeichnet werden.
Art. 50 Abs. 4 schreibt Textkennzeichnung nur vor, wenn KI-Inhalte zu Themen von öffentlichem Interesse veröffentlicht werden, etwa News oder politische Kommunikation. Marketing- und SEO-Texte fallen nicht darunter, sofern keine zusätzliche sektorale Regel greift. Eine substanzielle redaktionelle Prüfung mit menschlicher Verantwortung begründet außerdem eine Ausnahme.
Art. 50 Abs. 4 KI-VO (EU) 2024/1689Auf jedem KI-Bild muss ein sichtbares Wasserzeichen quer drüber.
Art. 50 Abs. 2 verlangt maschinenlesbare Kennzeichnung, Metadaten, C2PA-Signaturen oder kryptografische Fingerprints genügen. Ein sichtbares Wasserzeichen ist weder vorgeschrieben noch der primäre Standard. Der Maßstab lautet: soweit technisch machbar. Die Pflicht trifft zudem primär den Modell-Anbieter, nicht jeden Nutzer.
Art. 50 Abs. 2 KI-VO (EU) 2024/1689Die Hochrisiko-Regeln des AI Act gelten bereits jetzt vollständig.
Durch den Digital Omnibus wurden die Hochrisiko-Pflichten verschoben: Eigenständige Anhang-III-Systeme gelten erst ab dem 2. Dezember 2027, in Produkte eingebettete KI (Anhang I) erst ab dem 2. August 2028. Seit dem 2. August 2026 gelten nur die Transparenzpflichten aus Art. 50, die GPAI-Regeln und das volle Bußgeld-Regime.
Digital Omnibus 2025; Art. 113 KI-VO (EU) 2024/1689Wer KI nur intern nutzt, braucht sich um Art. 50 nicht zu kümmern.
Für rein intern genutzte KI-Inhalte ohne öffentliche Verbreitung greifen die Offenlegungspflichten aus Art. 50 Abs. 3 und 4 tatsächlich nicht. Relevant wird Art. 50 erst beim Einsatz gegenüber Nutzern (Chatbots) oder bei der Veröffentlichung synthetischer Inhalte. Allerdings gelten Kompetenzpflichten nach Art. 4 bereits seit dem 2. Februar 2025 auch intern.
Art. 50 Abs. 1–4, Art. 4 KI-VO (EU) 2024/1689Pflicht 1: Chatbot-Offenlegung. Wer ein KI-System betreibt, das direkt mit Menschen interagiert, also einen Voicebot, einen Kundenservice-Chatbot oder einen virtuellen Assistenten, muss die Nutzer vor oder spätestens zu Beginn der Interaktion darauf hinweisen, dass sie mit einer KI kommunizieren. Das gilt auch am Telefon.
Pflicht 2: Maschinenlesbare Markierung von KI-Bild, -Audio und -Video. Synthetisch erzeugte oder wesentlich manipulierte Bilder, Audioaufnahmen und Videos müssen maschinenlesbar als KI-generiert markiert sein. Diese Pflicht liegt primär beim Modell-Anbieter, also dem Unternehmen, das das erzeugende KI-System bereitstellt. Für die meisten Betreiber bedeutet das: Sie müssen sicherstellen, dass das eingesetzte Modell diese Markierung bereits mitliefert.
Pflicht 3: Sichtbare Deepfake-Kennzeichnung. Deepfakes, das sind KI-generierte Bilder oder Videos, die real wirkende Personen, Orte oder Ereignisse zeigen, müssen beim Veröffentlichen sichtbar und für den menschlichen Betrachter erkennbar als solche gekennzeichnet sein. Diese Pflicht liegt beim Betreiber, der den Inhalt publiziert.
Pflicht 4: KI-Text bei öffentlichem Interesse. KI-generierte Texte sind nur dann kennzeichnungspflichtig, wenn sie zu Themen von öffentlichem Interesse dienen, etwa journalistische Inhalte oder Informationen zu politischen Wahlen. Die Pflicht entfällt, wenn eine substanzielle redaktionelle Prüfung mit verantwortlicher Person stattgefunden hat. Normale SEO-Texte, Marketing-Copy oder interne Dokumente fallen nicht darunter.
Deepfakes: Warum der Veröffentlicher haftet, nicht der Entwickler
Deepfakes treffen eine andere Pflichten-Logik als maschinenlesbare Metadaten. Wer einen Deepfake veröffentlicht, trägt die Kennzeichnungspflicht, unabhängig davon, welches Modell den Inhalt erzeugt hat. Die Verordnung definiert einen Deepfake als KI-generiertes oder wesentlich manipuliertes Bild, Audio oder Video, das real wirkende Personen, Orte oder Ereignisse zeigt und damit täuschen kann.
Bei Verstößen gegen Transparenzpflichten nach Art. 50 drohen Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes, der jeweils höhere Betrag gilt. Zuständige Aufsichtsbehörde in Deutschland ist die Bundesnetzagentur, die ihre Arbeit seit dem 2. August 2026 aufgenommen hat.
Anbieter oder Betreiber: Wer trägt welche Last?
- Anbieter: Entwickelt das KI-Modell, trägt die Pflicht zur maschinenlesbaren Markierung von synthetischen Bild-, Audio- und Videoinhalten
- Betreiber: Setzt das Modell im Produkt oder Prozess ein, haftet für Chatbot-Offenlegung und sichtbare Deepfake-Kennzeichnung bei Veröffentlichung
- Die meisten Unternehmen, Agenturen und Content-Teams sind Betreiber, nicht Anbieter
Die KI-Verordnung unterscheidet konsequent zwischen Anbieter (Provider) und Betreiber (Deployer). Diese Unterscheidung bestimmt, welche Pflicht auf welcher Seite liegt.
| Rolle | Wer ist das? | Hauptpflicht nach Art. 50 |
|---|---|---|
| Anbieter | Entwickelt und stellt das KI-Modell bereit (z. B. Bildgenerator, Sprachmodell) | Maschinenlesbare Markierung von KI-generiertem Bild, Audio, Video ermöglichen |
| Betreiber | Setzt das Modell im eigenen Produkt oder Prozess ein (Agenturen, Shops, Medien) | Chatbot-Offenlegung, sichtbare Deepfake-Kennzeichnung, Pflichttext bei öffentlichem Interesse |
Die meisten Unternehmen, Agenturen, Onlineshops, Content-Teams, sind Betreiber. Sie haften für das, was sie veröffentlichen, nicht für das, was das Modell intern erzeugt.
Das Bußgeld-Regime im Überblick
- Drei Bußgeldstufen je nach Schwere des Verstoßes, von 7,5 Mio. bis 35 Mio. Euro
- Transparenzpflichten nach Art. 50 liegen in der mittleren Stufe: bis 15 Mio. Euro oder 3 % Jahresumsatz
- Verbote nach Art. 5 und Kompetenzpflicht nach Art. 4 gelten bereits seit 2. Februar 2025
- Hochrisiko-Pflichten wurden per Digital Omnibus auf 2027 bzw. 2028 verschoben
Seit dem 2. August 2026 gilt das vollständige Sanktionssystem der Verordnung (EU) 2024/1689. Drei Stufen, je nach Schwere des Verstoßes:
- Verbotene Praktiken (Art. 5): bis 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes
- Transparenzpflichten (Art. 50): bis 15 Millionen Euro oder 3 % des Jahresumsatzes
- Falschangaben gegenüber Behörden: bis 7,5 Millionen Euro oder 1 % des Jahresumsatzes
Zur Einordnung: Die Verbote nach Art. 5 sowie die KI-Kompetenzpflicht nach Art. 4 gelten bereits seit dem 2. Februar 2025. Hochrisiko-Pflichten wurden per Digital Omnibus verschoben, eigenständige Anhang-III-Systeme erst ab dem 2. Dezember 2027, in Produkte eingebettete KI (Anhang I) ab dem 2. August 2028. Wer jetzt Panik wegen Hochrisiko-Regeln schiebt, hat noch Zeit.
Wer prüfen will, ob das eigene KI-System unter die aktuell geltenden Pflichten fällt, sollte zuerst klären: Handelt es sich um ein System mit direktem Nutzerkontakt, erzeugt es synthetische Bilder oder Videos, oder dient es Themen von öffentlichem Interesse? Nur wenn eine dieser Fragen mit Ja beantwortet wird, greift Art. 50 direkt.
Umsetzung in der Praxis: C2PA, Metadaten und ein Nachmittag Aufwand
- Aktuelle Bildgeneratoren liefern C2PA-Signaturen bereits automatisch mit
- Maschinenlesbare Kennzeichnung über Metadaten, C2PA oder Fingerprints ist ausreichend, kein sichtbares Wasserzeichen auf jedem Bild nötig
- Plattformen entfernen Metadaten beim Upload häufig, das ist ein echtes Compliance-Risiko
- Gesamtaufwand für eine praxistaugliche Implementierung: ein Nachmittag
Bevor ich irgendetwas geändert habe, habe ich gemessen. Ich habe eigene KI-generierte Bilder auf vorhandene Kennzeichnungen geprüft, und festgestellt, dass aktuelle Bildgeneratoren bereits signierte C2PA-Metadaten mitliefern. C2PA steht für Coalition for Content Provenance and Authenticity, einen offenen Standard für kryptografische Herkunftsnachweise, der maschinenlesbar in die Datei eingebettet wird.
Was bedeutet maschinenlesbare Kennzeichnung, und was nicht?
Die Verordnung lässt verschiedene Methoden zu: Wasserzeichen, Metadaten, kryptografische Herkunftsnachweise wie C2PA und digitale Fingerprints. Kein sichtbares Wasserzeichen quer über jedes Bild ist vorgeschrieben. Der Standard ist „soweit technisch machbar“, das ist eine bewusste Formulierung mit Spielraum.
C2PA ist derzeit der tragfähigste offene Standard. Viele führende Bildgeneratoren liefern die Signierung bereits automatisch mit. Das Problem: Soziale Plattformen und viele CMS-Systeme entfernen beim Upload Bild-Metadaten, darunter auch C2PA-Einträge. Das ist ein echter blinder Fleck in der Compliance-Kette, den bisher kaum jemand adressiert.
Mein Ansatz für die eigenen Content-Systeme: maschinenlesbarer Fallback-Marker als Standard-Ausgabe plus automatische sichtbare Kennzeichnung ausschließlich bei fotorealistischen Personenbildern. Bei KI-generierten Texten habe ich bewusst nichts erzwungen, weil normale redaktionell betreute Marketing-Texte nicht unter die Kennzeichnungspflicht nach Art. 50 fallen. Gesamtaufwand für die Implementierung: ein Nachmittag, kein Projekt.
Häufige Fragen aus der Praxis
Muss ich alle KI-generierten Texte kennzeichnen?
Nein. Kennzeichnungspflichtig sind nach Art. 50 KI-VO nur KI-Texte zu Themen von öffentlichem Interesse, etwa Wahlberichterstattung oder politische Inhalte. Normale Marketing-Texte, SEO-Inhalte und interne Dokumente fallen nicht darunter. Findet zudem eine substanzielle redaktionelle Prüfung mit Verantwortungsübernahme statt, entfällt die Pflicht auch dort.
Gilt Art. 50 auch für interne E-Mails oder Protokolle?
Nein. Die Transparenzpflichten richten sich an öffentlich zugängliche oder an Dritte gerichtete Inhalte. Interne Kommunikation, E-Mails, Protokolle, interne Notizen, ist nicht betroffen, solange sie nicht nach außen publiziert wird.
Was passiert, wenn eine Plattform meine C2PA-Metadaten beim Upload entfernt?
Das ist ein reales Compliance-Risiko: Viele Plattformen und CMS-Systeme streifen Bild-Metadaten beim Upload. Wer nur auf maschinenlesbare Signierung setzt, sollte prüfen, ob die Zielplattform C2PA-Daten erhält. Als Fallback empfiehlt sich ein zusätzlicher sichtbarer Kennzeichnungshinweis bei Deepfakes und fotorealistischen Personendarstellungen.
Gilt die Kennzeichnungspflicht auch für Privatpersonen?
Artikel 50 richtet sich an Anbieter und Betreiber im gewerblichen Kontext. Privatpersonen ohne gewerbliche Absicht sind nicht direkt adressiert. Wer jedoch als Influencer oder öffentlich bekannte Person Inhalte veröffentlicht, bei denen Täuschungspotenzial besteht, sollte die Deepfake-Pflicht kennen und anwenden.
Welche Strafen drohen konkret bei fehlender Kennzeichnung?
Verstöße gegen die Transparenzpflichten nach Art. 50 können mit bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden. Zuständig in Deutschland ist die Bundesnetzagentur. Daneben besteht ein wettbewerbsrechtliches Abmahnrisiko, das unabhängig von behördlichen Verfahren greift.
Dieser Beitrag ist Orientierung aus Operator-Sicht, keine Rechtsberatung. Für die rechtliche Einordnung konkreter Einzelfälle empfehle ich einen spezialisierten Anwalt für IT- und Digitalrecht.