Mit freundlicher Unterstützung von
← Zurück zu GenAI & Content Creation
Deepfake-Erkennung bezeichnet Verfahren und Technologien, die KI-generierte oder KI-manipulierte Medieninhalte identifizieren, durch automatische KI-Detektoren, visuelle Analyse und kryptografische Provenienzprüfung.

Rubrik: GenAI & Content Creation · Unterrubrik: KI-Ethik & Gesellschaft · Niveau: Einsteiger Synonyme / Auch bekannt als: Deepfake Detection, Media Forensics, KI-Fälschungserkennung, Synthetic Media Detection, Forgery Detection

Was ist Deepfake-Erkennung?

Deepfake-Erkennung (engl. Deepfake Detection) ist das Gegengewicht zur Deepfake-Generierung: eine Sammlung von Methoden, die manipulierte Medieninhalte von echten unterscheiden sollen. Das Problem ist strukturell, denn Erkennung und Generierung stehen in einem wettrüstungsähnlichen Verhältnis, jede Verbesserung der Generierungsmodelle erfordert neue Erkennungsmethoden. Während frühe Deepfakes von Laien oft erkannt werden konnten, sind aktuelle hochwertige Deepfakes ohne spezialisierte Werkzeuge kaum zu identifizieren. Detektoren erreichen auf bekannten Benchmark-Datensätzen hohe Trefferquoten, verlieren aber bei Material aus neuen, unbekannten Generatoren oft deutlich an Genauigkeit (Tolosana et al. 2020).

Erklärung

KI-basierte Detektionstools

Die stärksten Erkennungsmethoden setzen selbst auf maschinelles Lernen:

Intel FakeCatcher (2022): Sucht im Video nach Blutflusssignalen, also feinen Farbveränderungen der Haut, die der Herzschlag erzeugt (Photoplethysmografie). Echte Gesichter zeigen kohärente Signale, Deepfakes oft nicht. Intel nannte bei der Vorstellung im November 2022 eine Genauigkeit von 96 %; eine unabhängige Bestätigung dieser Herstellerangabe gibt die Mitteilung nicht.

Microsoft Video Authenticator (2020): Analysiert Bilder und Videos und liefert einen Konfidenzwert, wie wahrscheinlich eine Manipulation vorliegt, bei Videos sogar Bild für Bild. Microsoft stellte das Tool vor der US-Wahl 2020 nur ausgewählten Organisationen über die Initiative „Reality Defender 2020“ der AI Foundation zur Verfügung, nicht der Allgemeinheit.

Reality Defender: Ein kommerzieller Dienst für Medienhäuser, Behörden und Unternehmen, der Videos, Bilder und Audiodateien auf Manipulationen analysiert.

Sensity AI: Kommerzieller Anbieter von Deepfake-Erkennung für Unternehmen und Plattformen, unter anderem mit API-Zugang für die automatische Prüfung hochgeladener Inhalte.

Hive: Anbieter von KI-gestützter Inhaltsmoderation, der auch Erkennung KI-generierter Bilder, Videos und Audios anbietet.

FaceForensics++: Wissenschaftlicher Benchmark-Datensatz (Rössler et al., ICCV 2019, TU München und Partner) für die Entwicklung und Evaluierung von Erkennungsalgorithmen; Grundlage vieler Forschungsarbeiten.

Visuelle und akustische Merkmale

Für eine erste manuelle Überprüfung gibt es typische Artefakte:

Visuelle Merkmale:

  • Inkonsistente oder unrealistische Augenreflexionen (Glanzlichter)
  • Unnatürliches Blinzeln oder fehlende Augenbewegungen
  • Unscharfe oder verschmierte Haarsträhnen, Ohren, Brillenränder
  • Inkonsistente Beleuchtung zwischen Gesicht und Hintergrund
  • „Morphing“ oder „Flickering“ an den Gesichtsrändern
  • Unnatürlich glatte Haut ohne Poren
  • Unnatürliche Zahndarstellung (zu perfekt oder zu unscharf)

Akustische Merkmale bei Voice Clones:

  • Unnatürliche Betonung, fehlende Atemgeräusche zwischen Sätzen
  • Gleichförmige Sprechgeschwindigkeit ohne natürliche Pausen
  • Fehlende Hintergrundgeräusche, die zum Kontext passen müssten
  • Metallisch oder zu glatt klingende Stimmtextur

Kontextuelle Merkmale:

  • Inhalt, der nicht zur bekannten Haltung einer Person passt
  • Unbekannte oder nicht verifizierbare Quelle
  • Fehlen von Originalmetadaten oder manipulierte EXIF-Daten
  • Verbreitungskontext: Weitergabe über nicht offizielle Kanäle

Kryptografische und Provenienz-basierte Methoden

Der nachhaltigste Ansatz ist nicht Detektion, sondern Provenienz, also die Verifizierung der Entstehungsgeschichte eines Inhalts:

C2PA (Coalition for Content Provenance and Authenticity): Ein technischer Standard, der kryptografisch signierte Herkunftsangaben in Mediendateien einbettet. Diese belegen, mit welchem Gerät oder welcher Software ein Inhalt erstellt und bearbeitet wurde. Getragen wird C2PA unter anderem von Adobe, Microsoft, Google, Sony und Leica.

Content Credentials: Die nutzerfreundliche Bezeichnung für C2PA-Herkunftsangaben, die Adobe unter anderem in Photoshop, Lightroom und Firefly integriert hat. Über contentcredentials.org/verify lässt sich die Entstehungsgeschichte eines Bildes anzeigen.

Metadaten-Analyse: EXIF-Daten von Fotos und Videos enthalten Geräteinformationen, GPS-Koordinaten und Zeitstempel. Manipulierte oder fehlende Metadaten sind ein Warnsignal, allerdings entfernen viele Plattformen Metadaten beim Hochladen.

Grenzen der Deepfake-Erkennung

Die Grenzen der aktuellen Erkennungsmethoden sind erheblich:

Generalisierungsproblem: Detektoren, die auf bestimmten Deepfake-Generierungsmodellen trainiert wurden, versagen oft bei neuen Modellen. Ein Detektor, der FaceSwap-Deepfakes erkennt, scheitert möglicherweise an Diffusionsmodell-Deepfakes.

Kompression und Nachbearbeitung: Wenn ein Deepfake-Video über WhatsApp geteilt oder auf YouTube hochgeladen wird, gehen durch Kompression Artefakte verloren, die Detektoren nutzen.

Wettrüsten: Sobald bekannt wird, welche Artefakte Detektoren suchen, können Deepfake-Generierungsmodelle angepasst werden, diese zu vermeiden.

Adversariale Angriffe: Deepfakes können absichtlich mit minimalen Perturbationen versehen werden, die für das menschliche Auge unsichtbar sind, aber KI-Detektoren täuschen.

Beispiele

  1. Leica M11-P mit Content Credentials (2023): Leica stellte am 26. Oktober 2023 die M11-P vor, nach Herstellerangabe die erste kommerziell erhältliche Kamera, die Content Credentials direkt bei der Aufnahme in jedes Foto einbettet. Die Funktion lässt sich abschalten.
  2. Adobe Content Credentials in Firefly: Mit Adobe Firefly generierte Bilder erhalten Content Credentials, die die KI-Generierung dokumentieren.
  3. Google SynthID: Google DeepMind versieht KI-generierte Bilder, Videos, Audios und Texte aus eigenen Produkten mit dem unsichtbaren Wasserzeichen SynthID. Es soll verlustbehaftete Kompression, Zuschnitt und Filter überstehen. Mit dem SynthID Detector lässt sich prüfen, ob ein Inhalt das Wasserzeichen trägt (Stand: November 2026).
  4. Microsoft Video Authenticator (2020): Das Tool wurde vor der US-Präsidentschaftswahl 2020 gezielt Nachrichtenorganisationen und Wahlkampfteams angeboten, ein frühes Beispiel für Detektion als Dienst für den Journalismus.

In der Praxis

Für Nachrichtenredaktionen: Ein dreistufiges Verifikationsvorgehen empfiehlt sich: (1) Quellenprüfung und Kontextanalyse, (2) manuelle visuelle Prüfung auf Artefakte, (3) automatische Detektion mit mindestens zwei verschiedenen Tools. Kein Detektor allein ist zuverlässig.

Verifikation in drei Stufen
  1. 1. QuelleQuellenprüfung und Kontextanalyse
  2. 2. Sichtprüfungmanuelle visuelle Prüfung auf Artefakte
  3. 3. Detektorenautomatische Detektion mit mindestens zwei Tools
Quelle: Eigene Darstellung nach diesem Eintrag, Stand November 2026

Für Social Media Plattformen: Meta, TikTok und YouTube setzen automatische KI-Moderation in Kombination mit menschlicher Prüfung ein. Der Digital Services Act (DSA) verpflichtet sehr große Plattformen, systemische Risiken, etwa für die gesellschaftliche Debatte und Wahlen, zu bewerten und zu mindern.

Für Privatpersonen: Hilfreich sind die umgekehrte Bildersuche (etwa Google Lens) zur Quellenverifikation, FotoForensics für die Fehlerlevelanalyse von Bildern und die Prüfung von Content Credentials. Bei Verdacht auf sexualisierte Deepfakes: Meldung bei der Plattform und Unterstützung bei Beratungsstellen wie HateAid.

Vergleich & Abgrenzung

Detektion vs. Provenienz: Detektion versucht, an Artefakten festzustellen, ob ein Inhalt gefälscht ist. Provenienz (C2PA) belegt die Herkunft durch kryptografische Signatur. Beide Ansätze ergänzen sich: Provenienz schützt echte Inhalte; Detektion hilft, wenn keine Provenienz vorhanden ist.

Detektion und Provenienz im Vergleich
DetektionProvenienz
Prinzipsucht Artefakte im Inhaltbelegt die Herkunft per Signatur
BeispieleIntel FakeCatcher und Sensity AIC2PA und Content Credentials
Stärkehilft auch ohne Herkunftsangabenschützt echte Inhalte
Grenzeverliert bei neuen Generatoren an Genauigkeitwirkt nur, solange die Angaben nicht entfernt wurden
Quelle: Eigene Darstellung nach diesem Eintrag, Stand November 2026

Deepfake-Erkennung vs. Plagiatserkennung: Plagiatserkennung sucht nach kopierten Texten; Deepfake-Erkennung analysiert visuelle und akustische Authentizität. Beides sind Unterfelder der digitalen Forensik.

Häufige Fragen

Welches kostenlose Werkzeug eignet sich für Einsteiger/innen? Für Bilder helfen die umgekehrte Bildersuche, FotoForensics (Fehlerlevelanalyse) und die Prüfung von Content Credentials über contentcredentials.org/verify. Keines dieser Werkzeuge sollte als alleinige Entscheidungsgrundlage genutzt werden.

Können Deepfake-Detektoren selbst gehackt oder umgangen werden? Ja, durch sogenannte adversariale Angriffe. Ein Bild oder Video kann mit minimalen, für Menschen unsichtbaren Modifikationen versehen werden, die KI-Detektoren täuschen. Das ist ein aktives Forschungsfeld, und kein kommerzieller Detektor ist immun dagegen.

Warum ist Provenienz zuverlässiger als Detektion? Detektoren müssen mit jedem neuen Generator Schritt halten und verlieren bei unbekanntem oder stark komprimiertem Material an Genauigkeit. Provenienzangaben wie C2PA belegen dagegen die Herkunft eines Inhalts direkt, sofern sie nicht entfernt wurden.

Verwandte Einträge

Weiterführend

  • Rössler, A. et al. (2019): FaceForensics++: Learning to Detect Manipulated Facial Images. ICCV 2019
  • Tolosana, R. et al. (2020): Deepfakes and Beyond: A Survey of Face Manipulation and Fake Detection. Information Fusion, 64
  • Intel (2022): Intel Introduces Real-Time Deepfake Detector, 14.11.2022. intel.com/newsroom
  • Microsoft (2020): New Steps to Combat Disinformation, 01.09.2020. blogs.microsoft.com
  • Google DeepMind: SynthID. deepmind.google/models/synthid
← Zurück zu GenAI & Content Creation
Infotag

Sei am Freitag dabei.
Bring Eltern oder Freunde mit.

Ein halber Nachmittag, der dir drei Jahre Klarheit bringen kann. Kostenlos, unverbindlich, ehrlich.

  • Rundgang durch Studios, Schnitträume und Tonstudio
  • Echte Absolventenfilme sehen
  • 1:1-Beratung zu Bewerbung & BAföG
  • Studierende direkt fragen
  • Kaffee, kein Sales-Pitch
  • Auch online möglich

Platz beim Infotag reservieren

Dauert 30 Sekunden. Bestätigung per E-Mail.
100 % kostenlos · keine Verpflichtung · jederzeit absagbar