Mit freundlicher Unterstützung von
← Zurück zu GenAI & Content Creation
Deepfake bezeichnet KI-generierte oder KI-manipulierte Medieninhalte, bei denen Gesichter, Stimmen oder ganze Videosequenzen täuschend echt gefälscht werden, ohne dass die dargestellte Person zugestimmt hat oder die Szene real stattgefunden hat.

Rubrik: GenAI & Content Creation · Unterrubrik: KI-Ethik & Gesellschaft · Niveau: Einsteiger Synonyme / Auch bekannt als: Deep Fake, Face Swap, Synthetic Media, KI-Fälschung, Voice Clone, manipuliertes Video

Was ist ein Deepfake?

Der Begriff „Deepfake“ entstand 2017 in Online-Foren, eine Kombination aus „Deep Learning“ und „Fake“ (Westerlund 2019). Frühe Deepfakes entstanden vor allem mit Autoencodern und Generative Adversarial Networks (GANs), bei denen zwei neuronale Netze gegeneinander trainiert werden: ein Generator, der zunehmend realistischere Fälschungen produziert, und ein Diskriminator, der echte von gefälschten Inhalten unterscheidet. Heute kommen zusätzlich Diffusionsmodelle zum Einsatz, die qualitativ hochwertigere Ergebnisse liefern. Deepfakes umfassen Bild-, Audio- und Videomanipulationen und sind durch leicht bedienbare KI-Tools auch für Menschen ohne technisches Vorwissen zugänglich geworden.

Erklärung

Technische Varianten

Face Swap: Das Gesicht einer Person wird auf den Körper einer anderen montiert. Open-Source-Werkzeuge wie DeepFaceLab oder FaceSwap und kommerzielle Dienste machen das ohne Programmierkenntnisse möglich, inzwischen teils in Echtzeit, etwa in Videokonferenzen.

Voice Cloning: Aus kurzen Sprachaufnahmen klonen KI-Systeme wie ElevenLabs eine individuelle Stimme mit ihren charakteristischen Merkmalen. Beliebige Texte können dann in dieser Stimme synthetisiert werden. Microsoft stellte 2024 das Forschungsmodell VALL-E 2 vor, das schon mit sehr kurzen Sprachproben arbeitet, aber nicht öffentlich freigegeben wurde.

Lip Sync: Bestehende Videos werden so manipuliert, dass die Mundbewegungen einer Person zu einem neuen Sprachinhalt passen. Dienste wie D-ID oder HeyGen ermöglichen dies ohne Vorkenntnisse.

Full Video Synthesis: Text-to-Video-Modelle wie Sora, Veo oder Runway generieren vollständige Videosequenzen aus Textbeschreibungen. Hier wird kein Ursprungsvideo manipuliert, sondern etwas vollständig Neues erschaffen.

Legitime Anwendungsgebiete

Deepfake-Techniken haben zahlreiche legitime Anwendungsbereiche:

Film und VFX: Digitale Verjüngung oder Alterung von Darstellenden, digitale Doubles für gefährliche Stunts, Rekonstruktion von Figuren verstorbener Schauspielerinnen und Schauspieler (mit Zustimmung der Rechtsnachfolge), Synchronisation in anderen Sprachen mit passendem Lip Sync.

Bildung und Barrierefreiheit: KI-generierte Übersetzungsvideos, bei denen Lehrende in einer anderen Sprache zu sprechen scheinen. Dienste wie HeyGen übertragen Videos mit Lip Sync in zahlreiche Sprachen.

Historische Dokumentation: Museumsprojekte erwecken historische Persönlichkeiten mit synthetischen Medien zum Leben, klar als Rekonstruktion ausgewiesen.

Werbung und Marketing: KI-Avatare für Produktpräsentationen ohne teure Studioaufnahmen; internationale Versionen einer Werbung in verschiedenen Sprachen mit demselben Avatar.

Missbräuchliche Anwendungen und gesellschaftliche Risiken

Non-consensual Intimate Images (NCII): Der häufigste Missbrauch ist die Erstellung sexualisierter Bilder und Videos ohne Einwilligung. Die Firma Deeptrace (heute Sensity) zählte 2019 in ihrem Bericht „The State of Deepfakes“, dass 96 % der gefundenen Deepfake-Videos pornografisch waren; betroffen waren in dieser Stichprobe ausschließlich Frauen.

Anteil pornografischer Deepfake-Videos in der Stichprobe von Deeptrace
  • 96 % pornografische Deepfake-Videos
Quelle: Deeptrace (2019): The State of Deepfakes: Landscape, Threats, and Impact

Politische Desinformation: Deepfakes von Politikerinnen und Politikern mit gefälschten Aussagen können Wahlen beeinflussen, etwa durch gefälschte Audios kurz vor einem Wahltermin.

CEO-Fraud und Finanzbetrug: Gefälschte Videokonferenzen mit Stimmen oder Gesichtern von Vorgesetzten werden für Überweisungsbetrug genutzt. Ein Fall aus Hongkong (2024) führte zu einem Schaden von rund 200 Millionen Hongkong-Dollar, etwa 25 Millionen US-Dollar.

Liar's Dividend: Die Rechtswissenschaftler/innen Robert Chesney und Danielle Citron prägten diesen Begriff (2019): Wenn alle wissen, dass Deepfakes existieren, können echte, belastende Aufnahmen als Deepfakes abgetan werden, eine neue Form der Leugnung.

Rechtliche Lage in Deutschland und der EU

In Deutschland schützt das Kunsturhebergesetz (§§ 22, 23, 33 KUG) das Recht am eigenen Bild: Wer ein Bildnis einer Person ohne Einwilligung verbreitet, handelt grundsätzlich rechtswidrig. Dazu kommen das allgemeine Persönlichkeitsrecht und die Beleidigungsdelikte (§§ 185 ff. StGB). § 201a StGB erfasst nach herrschender Auffassung nur echte Bildaufnahmen, nicht synthetische Deepfakes. Ein Gesetzentwurf gegen digitale Gewalt, den das Bundeskabinett am 7. Oktober 2026 beschlossen hat, sieht einen neuen § 201b StGB für ansehensschädigende Deepfakes und eine Erweiterung von § 184k StGB vor; er ist noch nicht in Kraft (Stand: November 2026).

Der EU AI Act regelt Deepfakes in Art. 50, der seit dem 2. August 2026 gilt: Wer ein KI-System einsetzt, um Deepfakes zu erzeugen, muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert ist (Art. 50 Abs. 4). Bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken genügt ein Hinweis, der die Darstellung nicht beeinträchtigt. Anbieter generativer Systeme müssen ihre Ausgaben zusätzlich maschinenlesbar markieren (Art. 50 Abs. 2); für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, gilt dafür eine Frist bis 2. Dezember 2026.

Auch andere Staaten führen spezifische Straftatbestände ein; in Großbritannien machte der Online Safety Act 2023 das Verbreiten intimer Deepfakes ohne Einwilligung strafbar.

Beispiele

  1. CEO-Fraud Hongkong (2024): Ein Angestellter des britischen Ingenieurkonzerns Arup überwies nach einer Videokonferenz, in der vermeintliche Vorgesetzte per Deepfake auftraten, rund 200 Millionen Hongkong-Dollar in 15 Transaktionen. Die Hongkonger Polizei machte den Fall im Februar 2024 öffentlich, Arup bestätigte ihn im Mai 2024.
  2. Taylor Swift, NCII-Deepfakes (Januar 2024): Sexualisierte KI-generierte Bilder der Sängerin verbreiteten sich auf X und erreichten Millionen Aufrufe, bevor sie gelöscht wurden. Der Fall verstärkte die Debatte über NCII-Gesetze in den USA.
  3. Deepfake-Werbung mit Prominenten (Oktober 2023): Tom Hanks warnte auf Instagram vor einem Werbevideo für einen Zahnversicherungstarif, das eine KI-Version von ihm zeigte; in derselben Woche warnte die CBS-Moderatorin Gayle King vor einem ähnlich manipulierten Video.

In der Praxis

Für Medienschaffende: Inhalte, die bekannte Personen in unerwarteten oder brisanten Situationen zeigen, sollten vor der Veröffentlichung oder Weiterleitung verifiziert werden: Quelle prüfen, Kontext prüfen, ergänzend Detektoren wie Reality Defender, Sensity oder Hive einsetzen.

Content Credentials (C2PA): Eigene Inhalte können mit kryptografisch signierten Herkunftsangaben versehen werden. Adobe, Leica und andere Partner integrieren C2PA bereits in Kameras und Software.

Für Privatpersonen: Weniger öffentliche Bilder und Videos verringern das Risiko, als Deepfake-Material missbraucht zu werden. Bei sexualisierten Deepfakes: sofort bei der Plattform melden (Meldewege nach dem DSA), Anzeige bei der Polizei erstatten und Hilfsangebote wie HateAid nutzen.

Vergleich & Abgrenzung

Deepfake vs. Photoshop-Retusche: Bildbearbeitung verändert vorhandenes Bildmaterial; Deepfakes nutzen KI, um täuschend echte neue Inhalte zu erschaffen oder Personen in anderen Situationen zu zeigen.

Deepfake vs. Satire: Erkennbar satirische Darstellungen sind grundsätzlich zulässig, auch wenn sie KI-Technik nutzen. Die Grenze liegt bei der Täuschung und der fehlenden Erkennbarkeit als Satire.

Deepfake vs. Cheap Fake: Cheap Fakes sind einfach manipulierte Videos ohne KI (z. B. verlangsamt, geschnitten), die trotzdem täuschen.

Häufige Fragen

Ist das Erstellen von Deepfakes grundsätzlich verboten? Nein. Deepfake-Techniken selbst sind nicht verboten; strafbar oder rechtswidrig kann ihr Einsatz für täuschende, ehrverletzende oder sexualisierte Inhalte ohne Einwilligung sein. Nach Art. 50 Abs. 4 AI Act müssen Deepfakes seit dem 2. August 2026 offengelegt werden. Im Einzelfall hilft eine Anwältin oder ein Anwalt.

Wie erkenne ich ein Deepfake mit bloßem Auge? Typische Artefakte: unnatürliche Augenreflexionen oder seltenes Blinzeln, unscharfe Haarsträhnen oder Ohren, inkonsistente Beleuchtung, „verschmierte“ Konturen um das Gesicht. Mit zunehmender Qualität der Modelle werden diese Hinweise aber seltener.

Was bedeutet Liar's Dividend? Der von Chesney und Citron geprägte Begriff beschreibt, dass das Wissen um Deepfakes es erleichtert, echte, belastende Aufnahmen als Fälschung abzutun.

Verwandte Einträge

Weiterführend

  • Westerlund, M. (2019): The Emergence of Deepfake Technology: A Review. Technology Innovation Management Review, 9(11)
  • Chesney, R. / Citron, D. K. (2019): Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, 107(6)
  • Deeptrace (2019): The State of Deepfakes: Landscape, Threats, and Impact
  • Bundesamt für Sicherheit in der Informationstechnik: Deepfakes, Gefahren und Gegenmaßnahmen. bsi.bund.de
  • Verordnung (EU) 2024/1689 (AI Act), Art. 50. eur-lex.europa.eu
← Zurück zu GenAI & Content Creation
Infotag

Sei am Freitag dabei.
Bring Eltern oder Freunde mit.

Ein halber Nachmittag, der dir drei Jahre Klarheit bringen kann. Kostenlos, unverbindlich, ehrlich.

  • Rundgang durch Studios, Schnitträume und Tonstudio
  • Echte Absolventenfilme sehen
  • 1:1-Beratung zu Bewerbung & BAföG
  • Studierende direkt fragen
  • Kaffee, kein Sales-Pitch
  • Auch online möglich

Platz beim Infotag reservieren

Dauert 30 Sekunden. Bestätigung per E-Mail.
100 % kostenlos · keine Verpflichtung · jederzeit absagbar