Desinformation durch KI bezeichnet die absichtliche Produktion und Verbreitung von bewusst falschen oder irreführenden Inhalten mit Hilfe generativer KI – von Deepfake-Videos bis zu automatisch skalierten Fake-News-Netzwerken.
Rubrik: GenAI & Content Creation · Unterrubrik: KI-Ethik & Gesellschaft · Niveau: Einsteiger Synonyme / Auch bekannt als: AI-generated Disinformation, KI-Propaganda, synthetische Desinformation, Fake News, Informationsmanipulation, FIMI (Foreign Information Manipulation and Interference)
Was ist Desinformation durch KI?
Desinformation – die absichtliche Verbreitung falscher Informationen zur Täuschung – ist kein neues Phänomen. Propaganda, gefälschte Zeitungsartikel und manipulierte Bilder haben eine lange Geschichte. Generative KI hat aber das Problem qualitativ und quantitativ verändert: Die Kosten der Produktion täuschend echter Falschinhalte sind drastisch gesunken, die Qualität gestiegen und die Skalierung ohne menschlichen Aufwand möglich geworden. Was früher staatlichen Propagandaministerien oder gut finanzierten Akteuren vorbehalten war, ist nun für Einzelpersonen mit einfachen Mitteln machbar.
Erklärung
Formen KI-gestützter Desinformation
Textgenerierte Fake News: Große Sprachmodelle (GPT-4, Llama) können in Sekundenbruchteilen täuschend echte Nachrichtenartikel, Social-Media-Posts, Wikipedia-ähnliche Einträge oder Zitate bekannter Persönlichkeiten erstellen. Netzwerke aus Fake-Newsportalen mit vollständig KI-generierten Inhalten wurden 2023/2024 in den USA (NewsGuard-Studie) und Europa dokumentiert.
Deepfake-Videos und -Audios: Synthetische Videos und Audiodateien, die reale Personen (Politiker, Journalisten, Unternehmensführer) Dinge sagen oder tun lassen, die sie nie getan haben. Der Schadenspotenzial ist bei Deepfakes besonders hoch, weil audiovisuelle Inhalte als besonders glaubwürdig wahrgenommen werden.
Synthetische Social-Media-Profile (Astroturfing): KI-generierte Profile, Profilbilder (erstellt mit StyleGAN) und Kommentare können Massenunterstützung für Positionen simulieren, die in Wahrheit von wenigen Akteuren vertreten werden. KI-gestütztes Astroturfing ist deutlich schwerer zu erkennen als manuelle Fake-Accounts.
Kommentarfluten und Narrative-Flooding: Plattformen können mit KI-generierten Kommentaren zu bestimmten Themen geflutet werden, um legitime Diskussionen zu übertönen oder die öffentliche Meinung zu verzerren.
Personalisierte Desinformation: KI kann Falschinformationen an individuelle psychografische Profile anpassen – maßgeschneidert auf die bekannten Überzeugungen und Ängste einer Zielperson. Diese Form der Desinformation ist besonders gefährlich und schwer zu erkennen.
Desinformation im Wahlkontext
Wahlen sind historisch das wichtigste Angriffsziel für Desinformationskampagnen. KI verschärft das Problem:
Superwahljahr 2024: 2024 war das größte Wahljahr in der Geschichte – über 4 Milliarden Menschen waren in mehr als 70 Ländern wahlberechtigt. Researchers of EuReCA, First Draft und anderen NGOs dokumentierten in diesem Jahr den bisher größten Einsatz KI-generierter Wahlkampfdesinformation.
Wahlkampf-Deepfakes: In Bangladesch, Pakistan, Indien, der Slowakei, Rumänien und anderen Ländern kursierten 2024 Deepfake-Videos von Kandidaten oder amtierenden Politikern mit falschen Aussagen.
Robo-Calling mit KI-Stimmen: In den US-Primaries 2024 wurden KI-generierte Stimmen von Joe Biden für automatisierte Telefonanrufe (Robocalls) genutzt, die New Hampshire-Demokraten davon abhalten sollten, an der Vorwahl teilzunehmen.
EU-Verordnung zu politischer Werbung: Die EU verabschiedete 2024 neue Regeln für politische Werbung im Netz, die auch KI-generierte Wahlkampfinhalte und Microtargeting adressieren.
Gegenmaßnahmen und deren Grenzen
Faktenchecking: Organisationen wie Correctiv (Deutschland), Snopes (USA), AFP Fact Check und Reuters Fact Check prüfen virale Inhalte auf Richtigkeit. Das Problem: Faktenchecken skaliert nicht. Bei Millionen KI-generierten Inhalten täglich können menschliche Faktenchecker nur einen Bruchteil prüfen.
KI-Detektoren für KI-Inhalte: Automatische Tools (Originality.ai, Hive Moderation, Grover für Texte) versuchen, KI-generierte Texte zu erkennen. Die Erkennungsrate ist begrenzt (60–85 %) und sinkt bei neuen Modellen.
Plattform-Moderation: Meta, YouTube, TikTok und X haben Policy-Teams und KI-Moderationssysteme für Desinformation. Der Digital Services Act (DSA) verpflichtet sehr große Plattformen (VLOPs) zu Risikobewertung und -minderung für Desinformation.
Pre-Bunking: Forschungen (Jon Roozenbeek, Cambridge) zeigen, dass das Impfen gegen Desinformationstechniken (Pre-Bunking) effektiver sein kann als späteres Korrigieren falscher Informationen.
C2PA und Content Credentials: Wenn echte Inhalte kryptografisch zertifiziert sind, sind unzertifizierte Inhalte leichter als verdächtig einzustufen. Diese Positivstrategie ergänzt die Negativstrategie der Desinformationserkennung.
Liar's Dividend (Gefahrenpotenzial des Bekämpfens): Paradox der Deepfake-Bekämpfung: Wenn alle über Deepfakes wissen, können echte belastende Videos als Deepfakes abgetan werden. Dieser „Liar's Dividend" (Citron/Chesney, 2019) ist eine ernsthafte Bedrohung für die Rechenschaftspflicht öffentlicher Personen.
Beispiele
- Slowakei-Wahl Deepfake (September 2023): Zwei Tage vor der Parlamentswahl in der Slowakei kursierte ein Deepfake-Audio, in dem Oppositionsführer Michal Šimečka scheinbar einen Wahlbetrug plante. Das Audio, das von Faktencheckern als Fälschung identifiziert wurde, erzielte Millionen Aufrufe und beeinflusste möglicherweise die knappe Wahlniederlage der liberalen Partei.
- KI-Biden-Robocall (Januar 2024): Unbekannte Akteure nutzten eine KI-geklonte Stimme von Joe Biden für Robocalls an New Hampshire-Demokraten, die sagten: „Don't vote in Tuesday's primary." Die Aktion wurde von der FCC als illegal eingestuft; der mutmaßliche Auftraggeber ermittelt.
- NewsGuard: AI-Generated News Network (2024): Die Medienprüforganisation NewsGuard identifizierte über 900 Websites, die vollständig oder überwiegend KI-generierte Falschinhalte verbreiteten – ohne menschliche Redakteure, gezielt auf Werbeeinnahmen und Meinungsmanipulation ausgerichtet.
- EU-Wahl und EEAS (Juni 2024): Der Europäische Auswärtige Dienst (EEAS) dokumentierte vor der EU-Wahl 2024 umfangreiche FIMI-Kampagnen (Foreign Information Manipulation and Interference) mit KI-generierten Inhalten, die Russland und China zugeschrieben wurden.
- Drake/The Weeknd AI-Song (2023): Ein anonymer Nutzer veröffentlichte einen überzeugend klingenden Song mit geklonten Stimmen von Drake und The Weeknd. Obwohl kein politisches Desinformationsziel, illustriert der Fall, wie einfach KI täuschend echte Audio-Inhalte ermöglicht – und wie schnell diese viral gehen.
In der Praxis
Für Medienschaffende: Einen Verifikationsworkflow für verdächtige Inhalte etablieren: Quellenprüfung zuerst, dann visuelle/akustische Analyse, dann KI-Detektoren als Ergänzung (nie als alleiniges Kriterium). Deepfakes immer von mehreren Personen prüfen lassen. Faktenchecknetzwerke (IFCN, EDJ) nutzen.
Für Social-Media-Nutzer: Vor dem Teilen eines überraschenden oder empörenden Videos oder Audios: Woher kommt es? Wer hat es zuerst veröffentlicht? Gibt es offizielle Bestätigung? Erst denken, dann teilen – das bleibt die wichtigste Medienkompetenznorm.
Für Plattformen: Proaktives Labeling KI-generierter Inhalte, verstärkte Moderation politischer Deepfakes vor Wahlen, Kooperation mit Faktencheckern und Forschern. DSA schreibt Risikomanagement explizit vor.
Vergleich & Abgrenzung
Desinformation vs. Misinformation: Desinformation ist absichtlich falsch; Misinformation kann auch ohne böse Absicht falsch sein (z. B. gut gemeinte, aber veraltete Informationen). KI kann beides produzieren – Halluzinationen sind Misinformation; gezielte Propagandaproduktion ist Desinformation.
KI-Desinformation vs. klassische Propaganda: Propaganda durch menschliche Akteure ist aufwendig und teuer; KI-Desinformation kann in Millisekunden skaliert werden. Das ist der qualitative Unterschied, der regulatorische und gesellschaftliche Antworten erfordert.
Häufige Fragen (FAQ)
Kann KI-Desinformation durch Gesetze gestoppt werden? Nicht vollständig – aber reguliert und eingedämmt. Der EU AI Act verbietet KI-Systeme, die durch unterschwellige Manipulation die freie Willensbildung beeinflussen. Das DSA verpflichtet Plattformen zur Risikominderung. Strafrechtliche Normen (§ 267 StGB Urkundenfälschung, § 186 StGB Üble Nachrede) können auf Deepfakes angewendet werden. Technische Maßnahmen (C2PA, Watermarking) ergänzen das rechtliche Instrumentarium.
Ist Satire mit KI erlaubt? Ja, erkennbare Satire ist nach deutschem und EU-Recht zulässig (Kunstfreiheit, Meinungsfreiheit). Die Grenze liegt dort, wo die Täuschungsabsicht überwiegt und die satirische Intention für das Publikum nicht erkennbar ist.
Verwandte Einträge
Weiterführend
- Chesney, R. / Citron, D. K. (2019): Deepfakes and the New Disinformation Ecosystem. Foreign Affairs, 98(1)
- EEAS (2024): FIMI Threat Landscape 2024. eeas.europa.eu
- Correctiv (2024): Faktencheck KI-generierte Inhalte. correctiv.org
- Roozenbeek, J. / van der Linden, S. (2022): The Psychological Vaccine Against Fake News. Scientific American
