Haftung für KI-generierte Inhalte

KI-Haftung im Medienkontext bezeichnet die Frage, wer rechtlich verantwortlich ist, wenn Systeme der Künstlichen Intelligenz Inhalte erzeugen, die Persönlichkeitsrechte verletzen, falsche Tatsachen behaupten, urheberrechtlich geschützte Werke reproduzieren oder anderweitig rechtliche Schäden verursachen.

Was ist die Haftungsfrage bei KI-Inhalten?

Generative KI-Systeme (Large Language Models, Bildgeneratoren, Videosynthese) können eigenständig Texte, Bilder, Audios und Videos erzeugen. Diese Inhalte können rechtswidrig sein: Sie können Personen fälschlicherweise zitieren (sog. „Halluzinationen"), Bilder realer Personen fälschen (Deepfakes), urheberrechtlich geschützte Werke reproduzieren oder als Falschinformation verbreitet werden. Die Haftungsfragen sind 2024/2025 noch weitgehend in Klärung, aber erste Gerichte und der EU-Gesetzgeber haben Grundlinien gesetzt.

Erklärung

EU AI Act (2024): Risikopflichten für KI-Anbieter

Die Verordnung (EU) 2024/1689 (AI Act), seit August 2024 in Kraft (Geltung gestaffelt bis 2026), schafft einen Risikorahmen für KI-Systeme:

Verbotene KI-Praktiken (Art. 5 AI Act, gültig ab 2. 2. 2025):

• Social Scoring durch staatliche Stellen
• Manipulation des Unterbewusstseins
• Fernbiometrie-Echtzeiterkennung in öffentlichen Räumen (mit eng begrenzten Ausnahmen)

Hochrisiko-KI (Art. 6 AI Act): KI in kritischen Infrastrukturen, Bildung, Beschäftigung, Medizin, Justiz. Für Mediensysteme weniger unmittelbar relevant.

Allgemeinzweck-KI-Modelle (GPAI, Art. 51 ff. AI Act): GPT-4, Gemini, Claude und vergleichbare Modelle müssen:

• Technische Dokumentation bereitstellen
• Trainingsdata-Transparenz gewährleisten (welche Daten wurden für das Training verwendet?)
• Urheberrechtskonformität bei Trainingsdaten nachweisen
• Bei systemischen Risiken (sehr leistungsstarke Modelle) erweiterte Sicherheitsprüfungen

Urheberrecht und KI-Training

Training auf urheberrechtlich geschützten Werken: Die DSM-Richtlinie (Art. 4) erlaubt Text- und Data-Mining zu Forschungszwecken und als allgemeine Ausnahme, sofern keine wirksame Opt-out-Erklärung des Rechtsinhabers vorliegt. Ob und wie weit kommerzielles Training auf urheberrechtlich geschützten Inhalten zulässig ist, ist noch ungeklärt. In Deutschland wird § 44b UrhG diskutiert, der Text-und-Datamining für legitim erklärt, wenn keine Gegenmaßnahmen des Rechtsinhabers vorliegen.

Urheberrecht an KI-Outputs: KI-generierte Werke sind nach deutschem Recht nicht urheberrechtlich schutzfähig, da kein menschlicher Schöpfer vorhanden ist (§ 7 UrhG: Urheber = natürliche Person). Der Nutzer eines KI-Systems kann allenfalls dann Urheberrechtsschutz erlangen, wenn seine kreativen Anweisungen (Prompts) und Nachbearbeitungen ausreichend persönliche geistige Schöpfung darstellen.

Persönlichkeitsrecht und Deepfakes

Deepfakes – KI-generierte Bilder oder Videos, die echte Personen täuschend echt nachahmen – sind ein gravierendes Problem:

• Zivilrechtlich: Deepfakes verletzen das allgemeine Persönlichkeitsrecht (Art. 2 I GG, § 823 BGB) und das Recht am eigenen Bild (§§ 22 ff. KUG). Betroffene können Unterlassung, Löschung und ggf. Schadensersatz verlangen.
• Strafrechtlich: § 184k StGB (seit 2021) stellt die Herstellung und Verbreitung von Deepfake-Pornografie unter Strafe. § 201a StGB schützt vor Bildaufnahmen, die die Würde verletzen.
• KI-Act: Art. 50 AI Act verpflichtet Anbieter von KI, die täuschend echte Bild-, Audio- oder Videoinhalte erzeugen, zur Kennzeichnung (Watermarking oder Metadaten-Kennzeichnung).

Haftung für KI-Halluzinationen in Medien

KI-Systeme produzieren gelegentlich falsche Fakten (Halluzinationen). Wenn Medienunternehmen oder Journalisten KI-generierte Inhalte ohne ausreichende Prüfung veröffentlichen und diese falsche Tatsachenbehauptungen enthalten, haftet das Medienunternehmen nach den allgemeinen presserechtlichen Sorgfaltspflichten. Die KI als Werkzeug befreit nicht von der Prüfpflicht.

Produkthaftung und KI-Haftungsrichtlinie

Der EU-Gesetzgeber arbeitet an einer KI-Haftungsrichtlinie (AI Liability Directive), die 2022 als Vorschlag vorgelegt wurde. Sie sieht eine erleichterte Kausalitätsvermutung vor: Wer durch eine KI geschädigt wird, kann leichter Haftungsansprüche durchsetzen, wenn der Anbieter seine Dokumentationspflichten verletzt hat.

Die überarbeitete Produkthaftungsrichtlinie (2022/0302/COD) erweitert den Produktbegriff auf Software und KI-Systeme.

Beispiele

• Falsch zitierter Wissenschaftler: ChatGPT generiert auf Anfrage eines Journalisten ein falsches Zitat eines Professors. Der Journalist veröffentlicht es ohne Prüfung. Haftbar ist primär der Journalist/das Medium wegen Verletzung der Sorgfaltspflicht.
• Deepfake-Pornografie: Jemand erstellt ein KI-Deepfake einer Prominenten. Das ist strafbar (§ 184k StGB) und begründet zivilrechtliche Ansprüche.
• KI-Bildgenerator und Urheberrecht: Ein Unternehmen nutzt Stable Diffusion für Marketingbilder. In den USA und Europa laufen Klagen von Künstlern, deren Werke unerlaubt für das Training genutzt wurden.

In der Praxis

Für Medienschaffende:

1. KI-generierte Inhalte immer auf Korrektheit prüfen, bevor sie veröffentlicht werden
2. Bei KI-erstellten Texten: Prüfen, ob das Ergebnis echte Personen fälschlich zitiert
3. KI-generierte Inhalte gemäß Art. 50 AI Act als solche kennzeichnen
4. Für Bildgeneratoren: Nutzungsbedingungen und Lizenzbedingungen des Anbieters prüfen
5. Keine Deepfakes ohne ausdrückliche Einwilligung der abgebildeten Person

Für KI-Anbieter:

1. GPAI-Dokumentationspflichten nach AI Act einhalten
2. Opt-out-Möglichkeit für Rechteinhaber beim Training implementieren
3. Watermarking für synthetische Inhalte einführen

Vergleich & Abgrenzung

Häufige Fragen (FAQ)

Gehören KI-Outputs mir (als Nutzer)? Nach deutschem Recht hat niemand automatisch Urheberrecht an KI-Outputs. Wenn Sie kreative Beiträge geleistet haben, können Sie urheberrechtlichen Schutz für diese spezifischen Beiträge beanspruchen.

Kann ich ein Bild, das eine KI von mir generiert hat, löschen lassen? Ja, über das Persönlichkeitsrecht und ggf. das Recht am eigenen Bild (§ 22 KUG). Deepfakes sind explizit strafbar (§ 184k StGB).

Muss KI-generierter Content als solcher gekennzeichnet werden? Art. 50 AI Act verpflichtet Anbieter von GPAI-Systemen zur Kennzeichnung täuschend echter synthetischer Inhalte. Für journalistische Inhalte empfiehlt auch der Pressekodex Transparenz.

Verwandte Einträge

• User Generated Content – Rechtsfragen
• Persönlichkeitsrecht in den Medien
• Recht am eigenen Bild (KUG)
• Haftung für Links & fremde Inhalte
• Schleichwerbung & Kennzeichnungspflicht

Weiterführend

• Gesetze: Verordnung (EU) 2024/1689 (AI Act); § 44b UrhG (Text-Data-Mining); § 184k StGB (Deepfake-Pornografie); § 201a StGB; DSGVO Art. 22 (automatisierte Entscheidungen)
• Dokumente: EU-Kommission: Vorschlag KI-Haftungsrichtlinie, COM(2022) 496; Überarbeitete Produkthaftungsrichtlinie (2022/0302/COD)
• Literatur: Dreier, Thomas: Urheberrecht und KI, GRUR 2023, S. 1 ff.; Specht-Riemenschneider, Louisa: KI und Immaterialgüterrecht, NJW 2022, S. 2481 ff.; Wiebe, Andreas: AI Act, 2024, C.H. Beck

Hinweis: Dieser Artikel dient ausschließlich der allgemeinen Information und stellt keine Rechtsberatung dar. Für konkrete Rechtsfragen wenden Sie sich an eine qualifizierte Rechtsanwältin oder einen qualifizierten Rechtsanwalt.