Desinformation durch KI bezeichnet die absichtliche Produktion und Verbreitung von bewusst falschen oder irreführenden Inhalten mit Hilfe generativer KI, von Deepfake-Videos bis zu automatisch skalierten Fake-News-Netzwerken.
Rubrik: GenAI & Content Creation · Unterrubrik: KI-Ethik & Gesellschaft · Niveau: Einsteiger Synonyme / Auch bekannt als: AI-generated Disinformation, KI-Propaganda, synthetische Desinformation, Fake News, Informationsmanipulation, FIMI (Foreign Information Manipulation and Interference)
Was ist Desinformation durch KI?
Desinformation, die absichtliche Verbreitung falscher Informationen zur Täuschung, ist kein neues Phänomen. Propaganda, gefälschte Zeitungsartikel und manipulierte Bilder haben eine lange Geschichte. Generative KI hat das Problem aber verändert: Die Kosten der Produktion täuschend echter Falschinhalte sind drastisch gesunken, die Qualität ist gestiegen, und Inhalte lassen sich mit wenig menschlichem Aufwand in großer Zahl erzeugen. Was früher staatlichen Propagandaapparaten oder gut finanzierten Akteuren vorbehalten war, ist nun auch für Einzelpersonen machbar.
Erklärung
Formen KI-gestützter Desinformation
Textgenerierte Fake News: Große Sprachmodelle können in Sekunden täuschend echte Nachrichtenartikel, Social-Media-Posts oder erfundene Zitate bekannter Persönlichkeiten erstellen. Die Medienprüforganisation NewsGuard dokumentiert Websites, die überwiegend mit KI erzeugte Inhalte ohne nennenswerte redaktionelle Kontrolle veröffentlichen, sogenannte KI-Content-Farmen.
Deepfake-Videos und -Audios: Synthetische Videos und Audiodateien, die reale Personen (Politiker/innen, Journalist/innen, Führungskräfte) Dinge sagen oder tun lassen, die sie nie gesagt oder getan haben. Das Schadenspotenzial ist hoch, weil audiovisuelle Inhalte als besonders glaubwürdig wahrgenommen werden.
Synthetische Social-Media-Profile (Astroturfing): KI-generierte Profile, Profilbilder und Kommentare können Massenunterstützung für Positionen simulieren, die in Wahrheit von wenigen Akteuren vertreten werden.
Kommentarfluten und Narrative-Flooding: Plattformen können mit KI-generierten Kommentaren zu bestimmten Themen geflutet werden, um legitime Diskussionen zu übertönen oder die öffentliche Meinung zu verzerren.
Personalisierte Desinformation: KI kann Falschinformationen an die Überzeugungen und Ängste bestimmter Zielgruppen anpassen. Diese Form ist schwer zu erkennen, weil sie oft nur kleine Kreise erreicht.
Desinformation im Wahlkontext
Wahlen sind ein bevorzugtes Angriffsziel für Desinformationskampagnen. KI verschärft das Problem:
Wahljahr 2024: 2024 fanden in vielen großen Demokratien Wahlen statt, darunter die Europawahl, die Wahlen in Indien und die US-Präsidentschaftswahl. KI-generierte Inhalte spielten in Wahlkämpfen verschiedener Länder eine Rolle, etwa als gefälschte Audios oder Videos von Kandidierenden.
Robocalls mit KI-Stimmen: Vor der Vorwahl in New Hampshire im Januar 2024 erhielten Wähler/innen automatisierte Anrufe mit einer KI-generierten Stimme, die wie Joe Biden klang und davon abriet, an der Vorwahl teilzunehmen.
EU-Verordnung zu politischer Werbung: Die Verordnung (EU) 2024/900 über die Transparenz und das Targeting politischer Werbung schreibt unter anderem Kennzeichnungen und Transparenzhinweise vor und begrenzt das Targeting mit personenbezogenen Daten.
Gegenmaßnahmen und deren Grenzen
Faktenchecking: Organisationen wie Correctiv (Deutschland), Snopes (USA), AFP Faktencheck und Reuters Fact Check prüfen virale Inhalte. Das Problem: Faktenchecks skalieren nicht im selben Maß wie automatisch erzeugte Inhalte.
KI-Detektoren: Automatische Tools versuchen, KI-generierte Texte, Bilder und Audios zu erkennen. Ihre Zuverlässigkeit ist begrenzt und sinkt bei neuen Modellen, deshalb taugen sie nur als Ergänzung.
Plattform-Moderation: Meta, YouTube, TikTok und X haben Richtlinien und Moderationssysteme gegen Desinformation. Der Digital Services Act (DSA) verpflichtet sehr große Online-Plattformen (VLOPs), systemische Risiken, etwa für die gesellschaftliche Debatte und Wahlprozesse, zu bewerten und zu mindern.
Pre-Bunking: Forschung um Jon Roozenbeek und Sander van der Linden (Cambridge) zeigt, dass kurze Videos, die vorab über typische Manipulationstechniken aufklären (psychologische „Impfung“), die Widerstandsfähigkeit gegen Desinformation erhöhen können (Roozenbeek et al. 2022).
C2PA und Content Credentials: Wenn echte Inhalte kryptografisch signierte Herkunftsangaben tragen, lassen sie sich leichter von unbelegten Inhalten unterscheiden. Diese Positivstrategie ergänzt die Erkennung von Fälschungen.
Liar's Dividend: Paradox der Deepfake-Debatte: Wenn alle über Deepfakes Bescheid wissen, können echte, belastende Aufnahmen als Deepfakes abgetan werden. Den Begriff prägten Robert Chesney und Danielle Citron (2019).
Beispiele
- Slowakei-Wahl (September 2023): Kurz vor der Parlamentswahl in der Slowakei verbreitete sich eine gefälschte Audioaufnahme, in der Oppositionsführer Michal Šimečka angeblich über Wahlmanipulation sprach. Faktenchecker/innen stuften sie als Fälschung ein; ob sie das Ergebnis beeinflusste, ist nicht belegt.
- KI-Biden-Robocall (Januar 2024): Die US-Telekommunikationsbehörde FCC stellte am 8. Februar 2024 klar, dass KI-generierte Stimmen als „künstliche“ Stimmen unter den Telephone Consumer Protection Act fallen und solche Anrufe eine Einwilligung voraussetzen. Gegen den verantwortlichen Politikberater schlug sie eine Geldbuße von 6 Millionen US-Dollar vor.
- NewsGuard: KI-Content-Farmen: NewsGuard zählte bis Juni 2026 3.749 Websites in 16 Sprachen, die überwiegend KI-generierte Inhalte ohne nennenswerte menschliche Kontrolle verbreiten, häufig, um Werbeeinnahmen zu erzielen.
- EEAS-Bericht zu FIMI (März 2025): Der Europäische Auswärtige Dienst (EEAS) beschreibt in seinem dritten Bericht über ausländische Informationsmanipulation und Einmischung Kampagnen vor allem aus Russland, aber auch aus China.
- „Heart on My Sleeve“ (2023): Ein anonymer Nutzer veröffentlichte einen Song mit KI-geklonten Stimmen von Drake und The Weeknd. Obwohl kein politisches Ziel dahinterstand, zeigt der Fall, wie leicht KI täuschend echte Audio-Inhalte ermöglicht und wie schnell diese viral gehen.
- September 2023gefälschte Audioaufnahme vor der Parlamentswahl in der Slowakei
- Januar 2024KI-Robocall mit Biden-Stimme vor der Vorwahl in New Hampshire
- 08.02.2024FCC: KI-Stimmen fallen unter den Telephone Consumer Protection Act
- März 2025dritter EEAS-Bericht über ausländische Informationsmanipulation
- Juni 2026NewsGuard zählt 3.749 KI-Content-Farmen in 16 Sprachen
- 02.08.2026AI Act verlangt die Offenlegung von Deepfakes (Art. 50)
In der Praxis
Für Medienschaffende: Einen Verifikationsworkflow für verdächtige Inhalte etablieren: Quellenprüfung zuerst, dann visuelle und akustische Analyse, dann KI-Detektoren als Ergänzung (nie als alleiniges Kriterium). Faktencheck-Netzwerke wie das International Fact-Checking Network (IFCN) oder das European Digital Media Observatory (EDMO) nutzen.
Für Social-Media-Nutzer/innen: Vor dem Teilen eines überraschenden oder empörenden Videos oder Audios fragen: Woher kommt es? Wer hat es zuerst veröffentlicht? Gibt es eine offizielle Bestätigung? Erst prüfen, dann teilen.
Für Plattformen: Kennzeichnung KI-generierter Inhalte, verstärkte Moderation politischer Deepfakes vor Wahlen, Kooperation mit Faktenchecker/innen und Forschenden. Der DSA schreibt Risikomanagement für sehr große Plattformen ausdrücklich vor.
Vergleich & Abgrenzung
Desinformation vs. Misinformation: Desinformation ist absichtlich falsch; Misinformation kann auch ohne böse Absicht falsch sein (z. B. gut gemeinte, aber veraltete Informationen). KI kann beides produzieren: Halluzinationen sind Misinformation, gezielte Propagandaproduktion ist Desinformation.
KI-Desinformation vs. klassische Propaganda: Propaganda durch menschliche Akteure ist aufwendig und teuer; KI-Desinformation lässt sich schnell und günstig skalieren. Das ist der Unterschied, der regulatorische und gesellschaftliche Antworten erfordert.
Häufige Fragen
Kann KI-Desinformation durch Gesetze gestoppt werden? Nicht vollständig, aber eingedämmt. Der EU AI Act verbietet KI-Systeme, die Menschen mit unterschwelligen oder manipulativen Techniken erheblich schädigend beeinflussen (Art. 5), und verlangt seit dem 2. August 2026 die Offenlegung von Deepfakes (Art. 50). Der DSA verpflichtet sehr große Plattformen zur Risikominderung. Strafrechtlich kommen etwa üble Nachrede und Verleumdung (§§ 186, 187 StGB) in Betracht.
Ist Satire mit KI erlaubt? Erkennbare Satire ist durch Kunst- und Meinungsfreiheit grundsätzlich geschützt. Die Grenze liegt dort, wo die Täuschung überwiegt und die satirische Absicht für das Publikum nicht erkennbar ist. Im Einzelfall hilft eine Anwältin oder ein Anwalt.
Was ist Pre-Bunking? Pre-Bunking klärt Menschen vorab über typische Manipulationstechniken auf, damit sie Desinformation später leichter erkennen. Studien aus Cambridge zeigen, dass schon kurze Erklärvideos die Widerstandsfähigkeit erhöhen können.
Verwandte Einträge
Weiterführend
- Chesney, R. / Citron, D. K. (2019): Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, 107(6)
- Roozenbeek, J. / van der Linden, S. / Goldberg, B. / Rathje, S. et al. (2022): Psychological inoculation improves resilience against misinformation on social media. Science Advances, 8(34)
- EEAS (2025): 3rd EEAS Report on Foreign Information Manipulation and Interference Threats, 19.03.2025. eeas.europa.eu
- NewsGuard: AI Tracking Center. newsguardtech.com/special-reports/ai-tracking-center
- Verordnung (EU) 2024/900 über die Transparenz und das Targeting politischer Werbung. eur-lex.europa.eu
