Deepfake bezeichnet KI-generierte oder KI-manipulierte Medieninhalte, bei denen Gesichter, Stimmen oder ganze Videosequenzen täuschend echt gefälscht werden, ohne dass die dargestellte Person zugestimmt hat oder die Szene real stattgefunden hat.
Rubrik: GenAI & Content Creation · Unterrubrik: KI-Ethik & Gesellschaft · Niveau: Einsteiger Synonyme / Auch bekannt als: Deep Fake, Face Swap, Synthetic Media, KI-Fälschung, Voice Clone, manipuliertes Video, Cheap Fake
Was ist ein Deepfake?
Der Begriff „Deepfake" entstand 2017 in Online-Foren – eine Kombination aus „Deep Learning" und „Fake". Frühe Deepfakes entstanden durch Generative Adversarial Networks (GANs), bei denen zwei neuronale Netze gegeneinander trainiert werden: ein Generator, der zunehmend realistischere Fälschungen produziert, und ein Diskriminator, der echte von gefälschten Inhalten unterscheidet. Heute dominieren Diffusionsmodelle und spezialisierte Transformerarchitekturen, die qualitativ hochwertigere Ergebnisse liefern. Deepfakes umfassen Bild-, Audio- und Videomanipulationen und sind durch die Demokratisierung von KI-Tools für breite Bevölkerungsgruppen ohne technisches Vorwissen zugänglich geworden.
Erklärung
Technische Varianten
Face Swap: Das Gesicht einer Person wird auf den Körper einer anderen montiert. Tools wie DeepFaceLab, FaceSwap oder kommerzielle Dienste benötigen nur wenige Dutzend Ausgangsbilder. Das Ergebnis kann in Echtzeit in Videos eingesetzt werden.
Voice Cloning: Aus wenigen Minuten Sprachaufnahmen klonen KI-Systeme (ElevenLabs, Microsoft VALL-E, Eleven Multilingual v2) eine individuelle Stimme mit allen charakteristischen Merkmalen. Beliebige Texte können dann in dieser Stimme synthetisiert werden. 2024 wurde VALL-E 2 vorgestellt, das mit deutlich weniger Trainingsdaten arbeitet.
Lip Sync: Bestehende Videos werden so manipuliert, dass die Mundbewegungen einer Person zu einem neuen, erfundenen Sprachinhalt passen. Dienste wie D-ID oder HeyGen ermöglichen dies ohne Vorkenntnisse.
Full Video Synthesis: Text-to-Video-Modelle (Sora, Runway Gen-3, Luma Dream Machine) generieren vollständige Videosequenzen aus Textbeschreibungen – ohne Ausgangsmaterial der dargestellten Person. Das ist die gefährlichste Entwicklungsstufe, da kein Ursprungsvideo manipuliert, sondern etwas vollständig Neues erschaffen wird.
Legitime Anwendungsgebiete
Deepfake-Techniken haben zahlreiche legitime Anwendungsbereiche:
Film und VFX: Digitale Verjüngung oder Alterung von Darstellenden, digitale Doubles für gefährliche Stunts, Rekonstruktion von Figuren mit verstorbenen Schauspielerinnen und Schauspielern (mit Rechtsnachfolge-Genehmigung), Synchronisation in anderen Sprachen mit passendem Lip Sync.
Bildung und Barrierefreiheit: KI-generierte Übersetzungsvideos, bei denen Lehrende in ihrer Fremdsprache zu sprechen scheinen. D-ID und HeyGen ermöglichen, Bildungsinhalte mit natürlichem Lip Sync in Dutzende Sprachen zu übertragen.
Historische Dokumentation: Museumsprojekte erwecken historische Persönlichkeiten mit synthetischen Medien zum Leben – klar als Rekonstruktion ausgewiesen.
Werbung und Marketing: KI-Avatare für Produktpräsentationen ohne teure Studioaufnahmen; internationale Versionen einer Werbung in verschiedenen Sprachen mit demselben Avatar.
Missbräuchliche Anwendungen und gesellschaftliche Risiken
Non-consensual Intimate Images (NCII): Der häufigste Missbrauch von Deepfake-Technologie ist die Erstellung sexualisierter Bilder ohne Einwilligung. Laut einer Studie des Unternehmens Sensity AI (2023) machen NCII über 90 % aller missbräuchlichen Deepfake-Inhalte aus. Betroffen sind überproportional häufig Frauen und Mädchen.
Politische Desinformation: Deepfakes von Politikerinnen und Politikern mit gefälschten Aussagen können Wahlen beeinflussen. Das Faktencheckportal Reuters Verification Unit dokumentierte 2024 mehrere Wahlkampf-Deepfakes in verschiedenen Ländern.
CEO-Fraud und Finanzbetrug: Gefälschte Videokonferenzen mit Stimmen oder Gesichtern von Vorgesetzten wurden für Überweisungsbetrug genutzt. Ein dokumentierter Fall aus Hongkong (2024) führte zu einem Schaden von 25 Millionen US-Dollar.
Liar's Dividend: Der Philosoph Danielle Citron prägte diesen Begriff: Wenn alle wissen, dass Deepfakes existieren, können tatsächlich echte, belastende Videos als Deepfakes abgetan werden – eine neue Form der Leugnung.
Rechtliche Lage in Deutschland und der EU
In Deutschland schützt § 201a Abs. 2 StGB vor der Verbreitung von Bildaufnahmen, die geeignet sind, den Ruf einer Person erheblich zu schädigen. NCII-Deepfakes können darunter fallen. Das KünstUrhG (§ 22 f.) schützt das Recht am eigenen Bild; die Verbreitung von Deepfakes, die eine Person zeigen, bedarf grundsätzlich ihrer Einwilligung.
Der EU AI Act (Art. 50 Abs. 2) schreibt vor, dass KI-generierte oder manipulierte Bilder, Audio- oder Videoinhalte, die reale Personen, Orte oder Ereignisse darstellen, als solche gekennzeichnet werden müssen. Ausnahmen gelten für erkennbare Satire oder Kunst.
Die EU-Mitgliedstaaten beginnen zudem, spezifische Straftatbestände für NCII-Deepfakes einzuführen; das britische Online Safety Act 2023 stellte NCII-Deepfakes unter Strafe.
Beispiele
- CEO-Fraud Hongkong (2024): Ein Finanzangestellter überwies nach einer gefälschten Videokonferenz 25 Millionen US-Dollar. Der vermeintliche CFO und alle anderen Konferenzteilnehmer waren Deepfakes. Der Fall wurde von der Hongkonger Polizei bestätigt und weltweit berichtet.
- Politischer Deepfake Moldawien (2023): Kurz vor der Parlamentswahl kursierten Deepfake-Videos der moldauischen Präsidentin Maia Sandu in sozialen Netzwerken, in denen sie angeblich Unterstützung für prorussische Parteien aussprach. Sie wurden von Faktencheckern schnell identifiziert, hatten aber bereits beträchtliche Reichweite.
- Taylor Swift – NCII-Deepfakes (Januar 2024): Sexualisierte KI-generierte Bilder der Sängerin kursierten auf X (Twitter) und erreichten Millionen Aufrufe, bevor sie gelöscht wurden. Der Fall führte zu intensiven Debatten über die Notwendigkeit von NCII-Gesetzen in den USA.
- Positiv – Star Wars „Rogue One" (2016): Die verstorbene Schauspielerin Carrie Fisher wurde per CGI und Deepfake-ähnlicher Technik als junge Prinzessin Leia in einer kurzen Abschlussszene dargestellt – mit Genehmigung ihrer Erben und mit transparenter Kommunikation über die Technik.
- Deepfake-Werbung mit bekannten Personen (2024): Mehrere Prominente, darunter Tom Hanks und Gayle King, warnten öffentlich vor gefälschten Werbespots, in denen ihr Gesicht für angebliche Gesundheitsprodukte genutzt wurde – ohne Einwilligung und mithilfe von Deepfake-Technologie.
In der Praxis
Für Medienschaffende: Inhalte, die bekannte Personen in unerwarteten oder brisanten Situationen zeigen, sollten mit Deepfake-Detektoren geprüft werden, bevor sie veröffentlicht oder weitergeleitet werden. Tools: Microsoft Video Authenticator, Sensity.ai, Reality Defender, Hive Moderation.
Content Credentials (C2PA): Eigene Inhalte können mit kryptografischen Metadaten versehen werden, die Entstehungsgeschichte und Echtheit belegen. Adobe, Leica und andere Partner integrieren C2PA bereits in Kameras und Software.
Für Privatpersonen: Weniger öffentliche Bilder und Videos verringern das Risiko, als Deepfake-Material missbraucht zu werden. Bei NCII-Deepfakes: Sofortmeldung bei der Plattform (DSA-Beschwerdewege nutzen), Anzeige bei der Polizei (§ 201a StGB), Hilfsangebote wie HateAid nutzen.
Vergleich & Abgrenzung
Deepfake vs. Photoshop-Retusche: Bildbearbeitung verändert vorhandenes Bildmaterial; Deepfakes nutzen KI, um täuschend echte neue Inhalte zu erschaffen oder Personen in anderen Situationen zu zeigen. Die Täuschungsabsicht und KI-Basis unterscheiden Deepfakes.
Deepfake vs. Satire: Erkennbar satirische Darstellungen (z. B. Comedy-Sendungen) sind grundsätzlich zulässig, auch wenn sie KI-Technik nutzen. Die Grenze liegt bei der Täuschungsabsicht und der fehlenden Erkennbarkeit als Satire.
Deepfake vs. Cheap Fake: Cheap Fakes sind einfach manipulierte Videos ohne KI (z. B. verlangsamt, geschnitten), die trotzdem täuschen. Deepfakes erfordern KI, sind aber bei schlechter Qualität von Cheap Fakes schwer zu unterscheiden.
Häufige Fragen (FAQ)
Ist das Erstellen von Deepfakes grundsätzlich verboten? Nein. Deepfake-Techniken selbst sind nicht verboten; ihr Einsatz für täuschende, beleidigende oder NCII-Inhalte ist es in vielen Ländern. Die EU-Kennzeichnungspflicht für synthetische Medien gilt für alle Deepfakes, die reale Personen täuschend echt zeigen.
Wie erkenne ich ein Deepfake mit bloßem Auge? Typische Artefakte: unnatürliche Augenreflexionen oder seltenes Blinzeln, unscharfe Haarsträhnen oder Ohren, inkonsistente Beleuchtung, „verschmierte" Konturen um das Gesicht, fehlende natürliche Hautvenen. Mit zunehmender Qualität der Modelle werden diese Hinweise aber seltener und schwerer zu erkennen.
Verwandte Einträge
Weiterführend
- Westerlund, M. (2019): The Emergence of Deepfake Technology. Technology Innovation Management Review, 9(11)
- Citron, D. K. / Chesney, R. (2019): Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, 107(6)
- Bundesamt für Sicherheit in der Informationstechnik (2023): Deepfakes – Gefahren und Schutzmaßnahmen. bsi.bund.de
- HateAid (2024): Deepfakes und digitale Gewalt. hateaid.org
