--- title: "Deepfake: Definition und Beispiel – Carl-Uwe Würfel" description: "Deepfake erklärt: wie KI Gesichter und Stimmen fälscht, was der AI Act verlangt, welche Strafbarkeit geplant ist und wie sich Unternehmen gegen Betrug schützen." url: https://carl-wuerfel.de/glossar/deepfake author: Carl-Uwe Würfel --- 1. [Start](https://carl-wuerfel.de/) 2. [Wissen](https://carl-wuerfel.de/wissen) 3. [Glossar](https://carl-wuerfel.de/glossar) 4. Deepfake # Deepfake Ein Deepfake ist ein mit KI erzeugter oder veränderter Bild-, Ton- oder Videoinhalt, der echten Personen, Orten oder Ereignissen ähnelt und fälschlich als echt erscheinen würde. ## Auf dieser Seite 1. So entsteht ein Deepfake 2. Wie Deepfakes Unternehmen treffen 3. Warum Erkennen allein nicht schützt 4. Die Kennzeichnungspflicht nach Artikel 50 5. Verbote und Strafbarkeit, Stand November 2026 6. Deepfakes im eigenen Marketing 7. Die Grenze des Begriffs 8. Häufige Fragen 9. Quellen Verlässlich ist die Prüfung über einen zweiten Kanal. _Abbildung: Ablauf am Beispiel eines Maschinenbauers. Kurz vor Monatsende ruft in der Buchhaltung eine Stimme an, die klingt wie die Geschäftsführerin, und verlangt eine vertrauliche Eilüberweisung an einen neuen Lieferanten. Die Mitarbeiterin folgt der internen Regel und ruft über die im System hinterlegte Nummer zurück. Die echte Geschäftsführerin weiß von nichts. Die Zahlung unterbleibt, und der Vorfall geht an die IT-Sicherheit._ **Beispiel** Kurz vor Monatsende ruft in der Buchhaltung eines Maschinenbauers eine Stimme an, die klingt wie die Geschäftsführerin. Sie verlangt eine vertrauliche Eilüberweisung an einen neuen Lieferanten. Die Mitarbeiterin folgt der internen Regel und ruft über die im System hinterlegte Nummer zurück. Die echte Geschäftsführerin weiß von nichts, die Zahlung unterbleibt, und der Vorfall geht an die IT-Sicherheit. Das Wort verbindet [Deep Learning](https://carl-wuerfel.de/glossar/deep-learning), also das Training tiefer neuronaler Netze, mit dem englischen fake für Fälschung. Es kam 2017 in einem Internetforum auf, in dem Nutzer Videos mit ausgetauschten Gesichtern teilten. Heute steht es für Videos, Bilder und Tonaufnahmen, in denen Menschen etwas sagen oder tun, das nie geschehen ist: ein ausgetauschtes Gesicht, angepasste Lippenbewegungen, eine geklonte Stimme. Die KI-Verordnung der EU definiert den Begriff in Artikel 3 Nummer 60. Ein Deepfake ist danach ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Die Rechtsdefinition ist weiter als der Alltagsbegriff. Sie setzt keine Täuschungsabsicht voraus und erfasst neben Menschen auch Orte, Gegenstände und Ereignisse. Reine Texte fallen nicht darunter. Für Führungskräfte hat das Thema zwei Seiten. Betrüger nutzen nachgebildete Stimmen und Gesichter von Vorgesetzten, um Zahlungen oder Zugangsdaten zu erschleichen. Und wer im Marketing oder in der internen Kommunikation realistische KI-Inhalte mit echten Personen oder Orten einsetzt, erstellt womöglich selbst einen Deepfake. Seit dem 2. August 2026 muss er das offenlegen. ## So entsteht ein Deepfake. Am Anfang steht Material der Zielperson: Fotos, Videos, Sprachaufnahmen. Ein neuronales Netz lernt daraus Gesicht, Mimik oder Stimme und überträgt sie auf neues Material. Das BSI beschreibt das Grundprinzip so: Die Netze lernen, aus Gesichtsbildern Mimik und Beleuchtung herauszulesen und daraus passende neue Gesichtsbilder zu erzeugen. Beim Gesichtstausch, englisch Face Swap, ersetzt das Modell ein Gesicht Bild für Bild, während Kopfbewegung und Mimik des Originals erhalten bleiben. Beim Face Reenactment steuert jemand die Mimik einer anderen Person mit dem eigenen Gesicht. Lip-Sync passt die Mundbewegungen an einen neuen Text an. Bild- und Videogeneratoren erzeugen inzwischen ganze Szenen aus einer Textbeschreibung. Bei Stimmen ist der Aufwand besonders gering. Die Forschung arbeitet an Verfahren, die eine bisher unbekannte Stimme aus wenigen Sekunden Sprachaufnahme nachbilden; so beschreibt es eine 2025 in Scientific Reports veröffentlichte Studie als Ziel ihres Fachgebiets. Manche Verfahren arbeiten in Echtzeit, auch in Telefonaten und Videokonferenzen. Für Unternehmen folgt daraus: Jedes öffentliche Video, jedes Interview und jeder Podcast mit Führungskräften ist mögliches Rohmaterial. ## Wie Deepfakes Unternehmen treffen. Ein verbreitetes Muster ist Betrug mit vorgetäuschter Führungskraft, oft CEO-Fraud genannt. Eine Stimme am Telefon oder ein Gesicht im Videocall gibt sich als Geschäftsführung aus und verlangt eine dringende, vertrauliche Überweisung, meist an ein neues Konto. Die Technik ersetzt dabei die früher übliche gefälschte Mail durch etwas, das echter wirkt. Behörden warnen ausdrücklich davor. Das FBI meldete im Mai 2025 eine Kampagne, in der Täter seit April 2025 mit KI-erzeugten Sprachnachrichten hochrangige US-Amtsträger nachahmten. KI-erzeugte Inhalte seien inzwischen oft schwer zu erkennen, heißt es in dem Warnhinweis. Ein weiteres Angriffsziel ist der IT-Support, der auf einen Anruf hin Passwörter zurücksetzt. Dazu kommt der Rufschaden: ein gefälschtes Video, in dem die Geschäftsführung etwas Anstößiges sagt, ein erfundener Produktfehler, eine gefälschte Pressekonferenz. Der Schaden entsteht selten in der IT-Abteilung. Er entsteht dort, wo jemand auf eine Anweisung hin Geld bewegt, Zugänge freigibt oder öffentlich reagiert. Schutz beginnt deshalb bei diesen Abläufen und den Menschen, die sie ausführen. ## Warum Erkennen allein nicht schützt. Ruckelnde Ränder, unnatürliches Blinzeln, Lippen, die nicht zum Ton passen, falsches Licht: Solche Artefakte sind Hinweise, aber kein Beweis, und mit jeder Generatorgeneration werden sie seltener. Am Telefon fehlt selbst das Bild. Erkennungswerkzeuge liefern Wahrscheinlichkeiten. Sie sind auf bekannte Verfahren trainiert und hinken neuen hinterher. Das BSI hält fest, dass Gegenmaßnahmen nicht in allen Situationen anwendbar sind und in der Regel keinen vollständigen Schutz bieten. Herkunftsnachweise helfen, wo es sie gibt. Digitale Signaturen nach dem Standard C2PA oder unsichtbare Wasserzeichen können belegen, dass ein Inhalt von einer bestimmten Quelle stammt oder mit KI erzeugt wurde. Ihr Fehlen beweist aber nichts, denn Betrüger setzen keine. Verlässlich ist die Prüfung über einen zweiten Kanal. Das FBI empfiehlt, Identitäten über eine unabhängig bekannte Telefonnummer zurückzurufen statt über die Nummer aus der Nachricht. Im Unternehmen heißt das: Zahlungen an neue Bankverbindungen, Passwortrücksetzungen und ungewöhnliche Anweisungen nur nach Rückruf über hinterlegte Kontaktdaten und mit Freigabe durch eine zweite Person. Diese Regel gilt ausdrücklich auch, wenn die Anweisung von ganz oben zu kommen scheint, und sie wird mit den Beschäftigten geübt, die Zahlungen freigeben. ## Die Kennzeichnungspflicht nach Artikel 50. Seit dem 2. August 2026 gilt Artikel 50 der KI-Verordnung. Nach Absatz 4 müssen Betreiber eines KI-Systems, das Deepfakes erzeugt oder manipuliert, offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Betreiber ist nach Artikel 3 Nummer 4, wer ein KI-System in eigener Verantwortung einsetzt, etwa ein Unternehmen, das ein Bild- oder Videowerkzeug für eigene Inhalte nutzt. Ausgenommen ist die rein persönliche, nicht berufliche Nutzung (Artikel 2 Absatz 10). Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke genügt ein Hinweis in geeigneter Form, der Darstellung und Genuss des Werks nicht beeinträchtigt. Eine Ausnahme wegen menschlicher Prüfung, wie sie für veröffentlichte KI-Texte gilt, gibt es für Deepfakes nicht. Der Hinweis muss nach Absatz 5 klar und eindeutig sein, spätestens bei der ersten Begegnung mit dem Inhalt erscheinen und barrierefrei sein. Unabhängig davon müssen die Anbieter der Werkzeuge deren Ausgaben maschinenlesbar markieren. Für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, gilt diese Pflicht nach der Änderungsverordnung (EU) 2026/1744 ab dem 2. Dezember 2026. Verstöße gegen Artikel 50 können nach Artikel 99 mit bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, was höher ist; für kleine und mittlere Unternehmen gilt der niedrigere Betrag (Stand November 2026). ## Verbote und Strafbarkeit, Stand November 2026. Ein Deepfake ist in der EU nicht grundsätzlich verboten. Die Änderungsverordnung (EU) 2026/1744 ergänzt aber die verbotenen Praktiken in Artikel 5. Ab dem 2. Dezember 2026 ist es verboten, KI-Systeme anzubieten oder zu verwenden, mit denen realistische intime Darstellungen einer bestimmbaren Person ohne deren ausdrückliche Zustimmung oder Darstellungen sexuellen Kindesmissbrauchs erzeugt werden. Anbieter trifft das Verbot, wenn ihr System dafür bestimmt ist oder solche Inhalte ohne angemessene Schutzvorkehrungen absehbar liefert. Für verbotene Praktiken sieht Artikel 99 Bußgelder bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes vor. In Deutschland gibt es noch keinen eigenen Straftatbestand für Deepfakes. Je nach Fall greifen bestehende Regeln: das Recht am eigenen Bild nach § 22 des Kunsturhebergesetzes, wonach Bildnisse nur mit Einwilligung verbreitet werden dürfen, das allgemeine Persönlichkeitsrecht, der Datenschutz und bei Zahlungsbetrug der Betrugstatbestand. Die Bundesregierung hat am 7. Oktober 2026 den Entwurf eines Gesetzes gegen digitale Gewalt beschlossen. Er sieht einen neuen § 184k StGB gegen das unbefugte Herstellen oder Verbreiten sexualisierter Deepfakes und einen neuen § 201b StGB gegen das unbefugte Verbreiten ansehensschädigender Deepfakes vor. Der Entwurf liegt Bundestag und Bundesrat vor. In den USA stellt der TAKE IT DOWN Act seit Mai 2025 die Veröffentlichung nicht einvernehmlicher intimer Darstellungen unter Strafe, ausdrücklich auch digital gefälschter, und verpflichtet Plattformen, gemeldete Inhalte binnen 48 Stunden zu entfernen. ## Deepfakes im eigenen Marketing. Dieselbe Technik hat legitime Einsätze: synthetische Sprecher für Schulungsvideos, Übersetzungen mit der Stimme der eigenen Geschäftsführung, Produktvideos ohne Dreh. Rechtlich heikel wird es, sobald echte Menschen, Orte oder Ereignisse realistisch nachgebildet werden. Für echte Personen braucht es eine Einwilligung, am besten schriftlich, die Zweck, Dauer, Kanäle und Widerruf regelt; das gilt auch für Beschäftigte und für die eigene Geschäftsführung. Der fertige Inhalt wird nach Artikel 50 gekennzeichnet. Auch ohne Person kann ein Deepfake vorliegen, etwa bei einem realistisch erzeugten Foto eines echten Gebäudes oder eines Ereignisses, das so nie stattgefunden hat. Eine frei erfundene KI-Figur, die keinem echten Menschen ähnelt, ist dagegen kein Deepfake im Sinne der Verordnung. Praktisch bewährt sich eine kurze Prüfung vor jeder Veröffentlichung: Zeigt der Inhalt eine echte Person, einen echten Ort oder ein echtes Ereignis? Würde er als echt durchgehen? Liegt die Einwilligung vor, und ist der Hinweis gesetzt? Werbung mit nachgebildeten Prominenten ohne deren Zustimmung verletzt in aller Regel deren Persönlichkeitsrechte. ## Die Grenze des Begriffs Deepfake setzt drei Dinge voraus: Erzeugung oder Veränderung mit KI, einen realistischen Eindruck und einen Bezug zu echten Personen, Orten, Gegenständen oder Ereignissen. Kein Deepfake sind klassisch bearbeitete Aufnahmen (Shallowfakes), frei erfundene KI-Figuren ohne echtes Vorbild und reine KI-Texte. Synthetische Medien ist der weitere Oberbegriff für alle KI-erzeugten Inhalte; [KI-Kennzeichnung](https://carl-wuerfel.de/glossar/ki-kennzeichnung) beschreibt die Pflichten und Verfahren, solche Inhalte offenzulegen. ## Häufige Fragen Was ist ein Deepfake? Ein Deepfake ist ein mit KI erzeugtes oder verändertes Bild, Video oder Tonstück, das echte Personen, Orte oder Ereignisse täuschend echt nachbildet. Die KI-Verordnung der EU definiert ihn in Artikel 3 Nummer 60. Typisch sind ausgetauschte Gesichter und geklonte Stimmen. Wie erkennt man einen Deepfake? Mit bloßem Auge oder Ohr immer seltener. Artefakte an Rändern, Lippen oder Licht sind Hinweise, Erkennungswerkzeuge liefern nur Wahrscheinlichkeiten. Verlässlich ist die Gegenprobe über einen zweiten Kanal, etwa ein Rückruf über eine bekannte Nummer. Ist ein Deepfake strafbar? Ein eigener Straftatbestand fehlt in Deutschland bisher, je nach Fall greifen aber das Recht am eigenen Bild, das Persönlichkeitsrecht oder der Betrugstatbestand. Ein Gesetzentwurf der Bundesregierung vom Oktober 2026 sieht neue Straftatbestände für sexualisierte und ansehensschädigende Deepfakes vor (Stand November 2026). Müssen Deepfakes gekennzeichnet werden? Ja. Seit dem 2. August 2026 müssen Betreiber nach Artikel 50 Absatz 4 der KI-Verordnung offenlegen, dass ein Deepfake künstlich erzeugt oder manipuliert ist. Bei offensichtlich künstlerischen oder satirischen Werken genügt ein Hinweis, der das Werk nicht stört. Wie schützt sich ein Unternehmen vor Deepfake-Betrug? Mit festen Abläufen statt mit Bauchgefühl. Zahlungen an neue Konten und ungewöhnliche Anweisungen werden nur nach Rückruf über hinterlegte Kontaktdaten und mit zweiter Freigabe ausgeführt. Die Beschäftigten, die Zahlungen freigeben, werden darauf geschult. Was ist der Unterschied zwischen Deepfake und Shallowfake? Ein Shallowfake ist echtes Material, das ohne KI verfälscht wurde, etwa durch Schnitt, Verlangsamung oder einen falschen Zusammenhang. Ein Deepfake entsteht mit KI. Für die Abwehr ist der Unterschied zweitrangig, beide täuschen. Darf ein Unternehmen Deepfakes in der Werbung nutzen? Ja, mit Einwilligung der dargestellten Personen und mit Kennzeichnung nach Artikel 50. Ohne Einwilligung verletzt die Nachbildung echter Personen in der Regel deren Persönlichkeitsrechte. Für intime Darstellungen gilt ab dem 2. Dezember 2026 ein Verbot. ## Weiter * [**KI-Glossar**](https://carl-wuerfel.de/glossar) * [**AI Act: den Einsatz einordnen**](https://carl-wuerfel.de/ai-act) * [**KI-Kennzeichnung**](https://carl-wuerfel.de/glossar/ki-kennzeichnung) * [**KI-Governance**](https://carl-wuerfel.de/ki-governance) * [**Generative KI**](https://carl-wuerfel.de/glossar/generative-ki) * [**Deep Learning** Begriff](https://carl-wuerfel.de/glossar/deep-learning) ## Quellen 1. [Europäisches Parlament und Rat: Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 2 Abs. 10, Art. 3 Nr. 4 und 60, Art. 50, Art. 99 und Erwägungsgrund 134, 2024](https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689) 2. [Europäisches Parlament und Rat: Verordnung (EU) 2026/1744 zur Änderung der KI-Verordnung (Digital-Omnibus zu KI), Art. 5 Abs. 1 Buchst. ba und bb neu, 2026](https://eur-lex.europa.eu/eli/reg/2026/1744/oj/deu) 3. [Bundesministerium der Justiz und für Verbraucherschutz: Bundesregierung bringt Gesetz gegen digitale Gewalt auf den Weg, Pressemitteilung vom 7. Oktober 2026](https://www.bmjv.de/SharedDocs/Pressemitteilungen/DE/2026/1007_Digitale_Gewalt.html) 4. [Gesetz betreffend das Urheberrecht an Werken der bildenden Künste und der Photographie (KUG), § 22](https://www.gesetze-im-internet.de/kunsturhg/__22.html) 5. [Bundesamt für Sicherheit in der Informationstechnik (BSI): Deepfakes, Gefahren und Gegenmaßnahmen](https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/Deepfakes/deepfakes_node.html) 6. [Xiangchun Liu u. a.: High fidelity zero shot speaker adaptation in text to speech synthesis with denoising diffusion GAN, Scientific Reports, 2025](https://doi.org/10.1038/s41598-025-90507-0) 7. [FBI, Internet Crime Complaint Center: Senior US Officials Impersonated in Malicious Messaging Campaign, Warnhinweis vom 15. Mai 2025 (englisch)](https://www.ic3.gov/PSA/2025/PSA250515) 8. [US-Kongress: TAKE IT DOWN Act, Public Law 119-12, 2025 (englisch)](https://www.govinfo.gov/app/details/PLAW-119publ12)