Deepfakes sind KI-generierte oder KI-manipulierte Medieninhalte – Videos, Audiodateien oder Bilder –, in denen Personen täuschend echt Dinge sagen oder tun, die in Wirklichkeit nie stattgefunden haben; sie stellen eine grundlegende Herausforderung für die gesellschaftliche Fähigkeit dar, authentische von manipulierten Medien zu unterscheiden.
Rubrik: Medienpsychologie & Wirkungsforschung · Unterrubrik: Digitale Phänomene · Niveau: Fortgeschritten Synonyme / Auch bekannt als: Synthetische Medien, AI-generierte Fakes, Synthetic Media, Face Swap, manipulierte KI-Videos
Was sind Deepfakes?
Das Wort Deepfake entstand 2017 als Kombination aus Deep Learning (einer KI-Technologie) und Fake. Zunächst bezeichnete es pornografische Videos, in denen Gesichter von Prominenten auf die Körper anderer Personen montiert wurden – ein Fall, der sofort massive ethische Debatten auslöste. Seitdem hat sich die Technologie rasant entwickelt und ist durch einfach bedienbare Apps für ein breites Publikum zugänglich geworden.
Erklärung
Die Technologie: Wie Deepfakes entstehen
Deepfakes basieren auf Generativen Adversariellen Netzwerken (Generative Adversarial Networks, GANs), einer 2014 von Ian Goodfellow entwickelten KI-Architektur. Zwei neuronale Netzwerke – ein Generator und ein Diskriminator – trainieren sich gegenseitig: Der Generator erstellt synthetische Bilder, der Diskriminator versucht, sie von echten zu unterscheiden. Durch dieses Spiel verbessert sich der Generator kontinuierlich, bis der Diskriminator die Fakes nicht mehr erkennen kann.
Für ein überzeugendes Gesichts-Deepfake werden Dutzende bis Tausende Bilder einer Person benötigt. Da soziale Medien enormen öffentlichen Bildmaterial von Prominenten, Politikern und zunehmend auch Privatpersonen bereitstellen, sinkt die Zugangsschwelle. Apps wie FaceSwap, DeepFaceLab oder – in der Sprachdomäne – ElevenVoice machen die Technologie für Laien nutzbar.
Aktuelle Entwicklungen
Neben Gesichts-Deepfakes gibt es:
- Audio-Deepfakes: KI-generierte Stimmen, die echte Personen imitieren. Für wenige Sekunden echter Audioaufnahme kann eine überzeugende Stimm-KI trainiert werden.
- Text-zu-Video: Systeme wie Sora (OpenAI, 2024) oder Veo (Google, 2024) ermöglichen die Generierung realistischer Videos aus Textbeschreibungen.
- Real-Time Deepfakes: Software ermöglicht 2024 die Echtzeit-Gesichtsübertragung in Videokonferenzen.
Missbrauch und gesellschaftliche Risiken
Die Missbrauchspotenziale sind gravierend:
Politische Desinformation: Gefälschte Videos von Politikern, die Aussagen machen, die sie nie getroffen haben, können Wahlen beeinflussen. In Indien wurden 2024 im Wahlkampf Deepfake-Videos von Politikern massenhaft verbreitet. In der Slowakei tauchten kurz vor der Parlamentswahl 2023 Audio-Deepfakes auf, die eine Absprache zwischen Oppositionsführern und Journalisten simulierten.
Non-konsensualer Intimcontent (NCII): Laut der NGO Sensity AI sind über 90 % aller Deepfake-Videos nicht-konsensueller Intime Inhalte (deepfake porn) – überwiegend Frauen als Opfer. In Deutschland wurde 2023 die Verbreitung solcher Inhalte unter Strafe gestellt.
Betrug: Audio-Deepfakes werden für Betrugsmaschen eingesetzt – etwa das Imitieren von Führungskräften, um Mitarbeiter zu Überweisungen zu veranlassen (CEO Fraud). Ein vielzitierter Fall aus 2019: ein britischer Energiekonzern verlor 220.000 Euro, weil ein Mitarbeiter einer deepgefälschten Stimme seines Vorgesetzten folgte.
Legaliser Schaden: Auch wahre, gut dokumentierte Ereignisse können durch die Existenz von Deepfakes in Zweifel gezogen werden – das sogenannte Liar's Dividend: Akteure können echte belastende Aufnahmen als Deepfakes abtun.
Erkennung: Ein Wettrüsten
Deepfake-Erkennungstechnologien existieren, aber es ist ein permanentes Wettrüsten: Kaum ist eine Erkennungsmethode entwickelt, werden GANs darauf trainiert, sie zu umgehen. Microsoft (2020), Intel (2022) und diverse akademische Institutionen haben Erkennungstools entwickelt, die Artefakte wie unnatürliches Blinzeln, inkonsistente Beleuchtung oder digitale Fingerabdrücke im Pixel-Rauschen analysieren. Für den Laien bleiben aktuelle Deepfakes oft unerkennbar.
Beispiele
- Barack Obama Deepfake (2018): Buzzfeed und Regisseur Jordan Peele veröffentlichten ein Deepfake-Video von Obama als Aufklärungsprojekt – es löste die erste große öffentliche Debatte über die Technologie aus.
- Zelensky-Deepfake (2022): Ein Deepfake-Video, in dem der ukrainische Präsident Selenskyj zum Niederlegen der Waffen aufzurufen schien, wurde kurz nach Beginn des russischen Einmarsches verbreitet – und schnell entlarvt.
- Taylor Swift NCII (2024): Explizite KI-generierte Bilder der Sängerin verbreiteten sich massenhaft auf X/Twitter, was eine intensive politische Debatte über Regulierungsmaßnahmen in den USA auslöste.
- Indien Wahlkampf 2024: KI-generierte Wahlkampfvideos mit täuschend echten Deepfake-Politikern wurden von allen großen Parteien eingesetzt – teils legal als kreative Wahlwerbung, teils illegal als Desinformation.
- CEO-Fraud via Audiofake: Mehrere dokumentierte Fälle in Europa zeigen, wie Audiofakes von Führungskräften genutzt wurden, um Mitarbeiter zu fraudulenten Transaktionen zu bewegen.
In der Praxis
Für Medienkonsumenten: Erste Warnsignale für Deepfakes: Unnatürliches Blinzeln oder Fehlen davon, verschwommene Ränder um Haare und Gesicht, inkonsistente Beleuchtung, merkwürdige Zahn- oder Zungenanimationen, Sprachmelodie, die nicht zur Person passt. Grundregel: Je emotionaler und aufwühlender ein Video, desto mehr Prüfvorsicht ist geboten.
Für die Gesellschaft: Medienkompetenzbildung muss Deepfake-Bewusstsein integrieren. Rechtliche Rahmen müssen NCII und politische Deepfakes klarer adressieren. Plattformen brauchen verbindliche Kennzeichnungspflichten für synthetische Medien.
Vergleich & Abgrenzung
Deepfake vs. Photoshop-Manipulation: Bildmanipulation gibt es seit der Frühzeit der Fotografie. Deepfakes unterscheiden sich durch ihre Skalierbarkeit (automatisiert, ohne Expertenwissen), Überzeugungskraft und Anwendung auf Video und Audio.
Deepfake vs. CGI: Computer-generated Imagery (CGI) in Filmen wird offen als Fiktion kommuniziert. Deepfakes zielen auf täuschende Echtheit ohne Kennzeichnung.
Häufige Fragen (FAQ)
Sind Deepfakes illegal? Das ist stark kontextabhängig. In Deutschland sind nicht-konsensuelle Intimate Deepfakes seit 2021 strafbar. Politische Deepfakes fallen oft in Grauzonen zwischen Satire und Desinformation. Eine umfassende Regulierung fehlt noch in den meisten Ländern.
Kann man Deepfakes zuverlässig erkennen? Mit aktueller Technologie: Nein – nicht für Laien und oft auch nicht automatisch. Hochwertige Deepfakes sind für das bloße Auge nicht erkennbar. Kontext und Quellenprüfung sind wichtiger als visuelle Inspektion.
Verwandte Einträge
Weiterführend
- Chesney, R. & Citron, D. K. (2019): Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, 107(6).
- Paris, B. & Donovan, J. (2019): Deepfakes and Cheap Fakes. Data & Society Research Institute.
- Westerlund, M. (2019): The Emergence of Deepfake Technology. Technology Innovation Management Review, 9(11).
- Online: Sensity AI – Deepfake Detection Research –
- Online: MIT Media Lab – Detect Fakes Project –
