Mit freundlicher Unterstützung von
← Zurück zu GenAI & Content Creation
Die Ethik der KI-Bildgenerierung umfasst die normativen Fragen um Einwilligung, Urheberrecht, Personenwürde, Transparenz und Schutz vor Missbrauch bei der maschinellen Erzeugung von Bildinhalten mithilfe von Modellen wie Stable Diffusion.

Rubrik: GenAI & Content Creation · Unterrubrik: Stable Diffusion · Niveau: Fortgeschritten


Was ist die Ethik der KI-Bildgenerierung?

KI-gestützte Bildgenerierung, insbesondere mit Stable Diffusion und verwandten Modellen, ist technisch leistungsfähig genug, um fotorealistische Bilder von beliebigen Personen, Szenarien und Inhalten zu erzeugen. Diese Fähigkeit wirft fundamentale ethische Fragen auf, die weit über technische Parameter hinausgehen.

Die Medienbranche, Rechtsordnungen und die Tech-Community entwickeln gemeinsam Normen und Standards, um den Missbrauch dieser Technologie einzudämmen. Gleichzeitig entstehen legitime, kreative und wirtschaftlich wertvolle Anwendungen, die denselben Technologiestapel nutzen.

Eine fundierte Auseinandersetzung mit diesen Fragen ist für alle Personen verbindlich, die KI-Bildgenerierung professionell oder halbprofessionell einsetzen.


Erklärung

Trainingsdaten und Copyright

Stable Diffusion v1 wurde laut Modellkarte auf Teilmengen von LAION-2B(en) trainiert, dem englischsprachigen Teil von LAION-5B, einem aus dem Internet gesammelten Datensatz mit 5,85 Milliarden Bild-Text-Paaren (Schuhmann et al., 2022). Ein erheblicher Teil dieser Bilder ist urheberrechtlich geschützt, von Stockfoto-Anbietern, Künstlerinnen und Künstlern, Fotografinnen und Fotografen, ohne deren ausdrückliche Einwilligung.

Rechtliche Lage (Stand November 2026): Gerichte in mehreren Ländern befassen sich mit Klagen gegen Anbieter von Bildgeneratoren; die rechtliche Einordnung des Trainings auf urheberrechtlich geschütztem Material ist nicht abschließend geklärt. In Deutschland erlaubt § 44b UrhG Vervielfältigungen für Text und Data Mining, solange Rechteinhaber sich das nicht vorbehalten haben; bei online zugänglichen Werken muss dieser Nutzungsvorbehalt maschinenlesbar sein. Nach der EU-KI-Verordnung gelten seit dem 02.08.2025 eigene Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (Kapitel V), darunter die Veröffentlichung einer Zusammenfassung der Trainingsinhalte.

Praxiskonsequenz: Für professionelle Anwendungen sollte die Herkunft genutzter Modelle bekannt sein. Einige Anbieter (etwa Adobe Firefly) werben damit, nach eigenen Angaben nur auf lizenzierten oder eigenen Inhalten zu trainieren; das kann eine rechtlich klarere Grundlage bieten.

Consent: Persönlichkeitsrechte und Deepfakes

Die Möglichkeit, fotorealistische Bilder real existierender Personen zu generieren, insbesondere wenn LoRAs auf Fotos dieser Personen trainiert werden, berührt fundamentale Persönlichkeitsrechte:

Informationelle Selbstbestimmung: In Deutschland seit dem Volkszählungsurteil des Bundesverfassungsgerichts (1983) als Ausprägung des allgemeinen Persönlichkeitsrechts anerkannt; die DSGVO regelt die Einwilligung in Art. 7. Das Erstellen fotorealistischer Bildmontagen von Personen ohne deren Einwilligung kann dieses Recht verletzen.

Recht am eigenen Bild: Nach § 22 KunstUrhG dürfen Bildnisse nur mit Einwilligung der abgebildeten Person verbreitet oder öffentlich zur Schau gestellt werden; § 33 KunstUrhG stellt Verstöße unter Strafe (Antragsdelikt). KI-generierte Bilder, die erkennbare Personen realistisch darstellen, können unter diesen Schutz fallen.

Non-Consensual Intimate Images (NCII): Sexuelle oder intime KI-Bilder real existierender Personen ohne deren Einwilligung werden international zunehmend verboten. In Deutschland erfasst § 201a StGB nur tatsächliche Bildaufnahmen; einen eigenen Straftatbestand für KI-Fälschungen enthält das StGB bisher nicht (Stand November 2026). Das Bundeskabinett hat am 07.10.2026 den Entwurf eines Gesetzes gegen digitale Gewalt beschlossen: Eine Neufassung von § 184k StGB soll sexualisierte Deepfakes erfassen, ein neuer § 201b StGB das Verbreiten täuschend echter, ansehensschädigender Deepfakes. Bundestag und Bundesrat müssen noch zustimmen, in Kraft treten soll das nach Angaben des Bundesjustizministeriums voraussichtlich ab Mitte 2027. Je nach Fall kommen das Verbreitungsverbot nach §§ 22, 33 KunstUrhG, Beleidigungsdelikte und zivilrechtliche Ansprüche aus dem Persönlichkeitsrecht in Betracht.

Deepfakes: Realistisch wirkende, gefälschte Video- oder Bildaufnahmen realer Personen zu Desinformationszwecken (z. B. gefälschte Politikeraussagen) können je nach Inhalt Straftaten wie üble Nachrede oder Verleumdung darstellen. Zusätzlich müssen Betreiber eines KI-Systems, das Deepfakes erzeugt, nach Art. 50 Abs. 4 KI-Verordnung offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert sind; Art. 50 gilt seit dem 02.08.2026.

C2PA, Content Provenance Standard

C2PA (Coalition for Content Provenance and Authenticity) ist eine Standardisierungsinitiative unter dem Dach der Joint Development Foundation, die die Arbeit der Content Authenticity Initiative und von Project Origin bündelt. Ihre Spezifikation „Content Credentials“ ermöglicht die kryptografische Signierung von Bildinhalten mit Metadaten zu Herkunft und Bearbeitungshistorie. Laut contentcredentials.org beteiligen sich über 500 Unternehmen, angeführt unter anderem von Adobe, Microsoft, Intel, BBC, Sony, OpenAI, Google, Meta und Amazon.

Wie C2PA funktioniert:

  1. Beim Erstellen eines Bildes (KI oder Kamera) werden Metadaten kryptografisch signiert und dem Bild angehängt: Werkzeug, Modell, Zeitstempel, ggf. Benutzer-ID.
  2. Bei jeder Bearbeitung wird die Kette erweitert, die vollständige Bearbeitungshistorie ist nachverfolgbar.
  3. Browser-Plugins und Mediaplattformen können die C2PA-Signatur lesen und Provenienzinformation anzeigen.
So funktionieren Content Credentials
  1. ErstellenWerkzeug, Modell und Zeitstempel werden signiert angehängt
  2. Bearbeitenjede Bearbeitung erweitert die Kette
  3. AnzeigenBrowser und Plattformen lesen die Signatur aus
Quelle: Eigene Darstellung nach diesem Eintrag, Stand November 2026

Status der Adoption (Stand November 2026): Content Credentials werden von großen Plattform- und Softwareanbietern unterstützt. Lokale Stable-Diffusion-Oberflächen wie AUTOMATIC1111 oder ComfyUI schreiben sie nicht standardmäßig; wer lokal generiert, muss Kennzeichnung und Metadaten selbst ergänzen. Mit Art. 50 Abs. 2 KI-VO müssen Anbieter generativer Systeme ihre Ausgaben maschinenlesbar als KI-erzeugt kennzeichnen; für Systeme, die vor dem 02.08.2026 in Verkehr gebracht wurden, gilt dafür eine Frist bis 02.12.2026.

Grenzen von C2PA: Die Signatur kann durch Screenshots oder Exportieren ohne Metadaten entfernt werden. C2PA ist eine Vertrauens- und Transparenzlösung, kein Sicherheits-DRM.

Opt-Out für Künstlerinnen und Künstler

Mehrere Initiativen und Werkzeuge ermöglichen Künstlern, ihre Werke vor dem Training auf KI-Modellen zu schützen:

Maschinenlesbarer Nutzungsvorbehalt (§ 44b UrhG): In Deutschland können Rechteinhaber Text und Data Mining ihrer online zugänglichen Werke vorbehalten, wirksam nur in maschinenlesbarer Form (etwa über robots.txt, Metadaten oder entsprechende Protokolle).

Glaze: Forschungsprojekt des SAND Lab in Chicago (Shan et al., USENIX Security 2023). Fügt für Menschen kaum sichtbare Veränderungen („style cloaks“) zu Bildern hinzu, die das Nachahmen eines Stils durch Fine-Tuning erschweren sollen.

Nightshade: Ebenfalls vom SAND Lab (Shan et al., IEEE Security and Privacy 2024). Ein gezielter Vergiftungsangriff: Laut Arbeit können schon rund 100 manipulierte Bilder ein Konzept in einem Modell beschädigen, wenn sie ins Training gelangen.

Spawning / Have I Been Trained: Werkzeug, mit dem Künstlerinnen und Künstler eigene Bilder in großen Trainingsdatensätzen suchen und Opt-out-Wünsche hinterlegen können; deren Beachtung durch Modellanbieter ist freiwillig.

robots.txt-Einträge: Sperren für KI-Crawler in der robots.txt werden von großen Crawlern unterschiedlich respektiert.


Schritt-für-Schritt / Einrichtung

Ethische Leitlinien für professionelle Nutzung

```

  1. Personen-Darstellungen:

- Keine fotorealistischen Bilder realer Personen ohne explizite Einwilligung - Keine sexuellen/intimen Darstellungen realer Personen (illegal in vielen Ländern) - Keine politischen Deepfakes oder Desinformations-Inhalte

  1. Urheberrecht:

- Lizenzstatus verwendeter Modelle prüfen (CreativeML, Apache 2.0 etc.) - Kommerzielle Nutzung mit kommerziell lizenzierten Modellen - Transparenz über KI-Einsatz bei Client-Projekten sicherstellen

  1. Transparenz:

- KI-generierte Bilder als solche kennzeichnen (intern/extern je nach Kontext) - C2PA/Content Credentials wenn verfügbar aktivieren - IPTC-Metadaten mit KI-Kennzeichnung versehen

  1. Inhaltssicherheit:

- Keine NSFW-Inhalte in beruflichen/öffentlichen Kontexten - Minderjährige nie in sexuellen Zusammenhängen generieren (StGB § 184b) - Hassrede, Diskriminierung, Gewaltverherrlichung ausschließen ```


Beispiele (5 konkrete Anwendungsfälle)

  1. Transparenz bei Editorial-Content: Eine Nachrichtenredaktion verwendet SD-generierte Illustrationen für Artikel. Alle KI-generierten Bilder erhalten einen standardisierten Zusatz „Illustration: KI-generiert mit Stable Diffusion", sowohl in der Bildunterschrift als auch in den IPTC-Metadaten.
  2. Consent-Management bei Portrait-LoRAs: Ein Fotostudio möchte ein LoRA auf Bildern eines Models trainieren. Vorher wird ein schriftliches Consent-Dokument erstellt, das explizit die KI-Nutzung, den Verwendungszweck und die Weitergabe des LoRA regelt.
  3. Künstler-Opt-Out respektieren: Ein Medienunternehmen prüft vor der Nutzung von Community-Modellen deren Trainingsdaten-Quellen. Modelle, die explizit auf Opt-Out-respektierenden Datensätzen trainiert wurden (z. B. Adobe Firefly), erhalten Priorität für kommerzielle Kampagnen.
  4. Deepfake-Prävention im Team: Ein Social-Media-Team hält eine schriftliche Policy, die KI-generierte Bilder realer Personen (auch berühmter) ohne deren Einwilligung verbietet. Das Negative-Prompt-Preset enthält Anweisungen, öffentliche Persönlichkeiten zu vermeiden.
  5. C2PA-Implementierung für Verlag: Ein Buchverlag integriert Content Credentials in seinen SDXL-Workflow, alle KI-generierten Titelillustrationen tragen automatisch Provenienz-Metadaten, die für Leserinnen und Leser über ein Web-Plugin einsehbar sind.

In der Praxis

Rechtlicher Status in der EU (2025/2026)

Die EU-KI-Verordnung (AI Act) kategorisiert Bildgenerierungs-KI je nach Kontext:

  • KI-Modelle mit allgemeinem Verwendungszweck (GPAI): Für ihre Anbieter gelten seit 02.08.2025 die Pflichten aus Kapitel V, unter anderem eine Zusammenfassung der Trainingsinhalte. Ob ein Bildmodell darunter fällt, hängt von Größe und Einsatzbreite ab.
  • Transparenzpflichten (Art. 50): Seit 02.08.2026 müssen Anbieter Ausgaben generativer Systeme maschinenlesbar kennzeichnen (Bestandssysteme bis 02.12.2026) und Betreiber Deepfakes offenlegen.
  • Hochrisiko-Anwendungen: Wenn KI-Systeme in kritischen Kontexten nach Anhang III (etwa Justiz, Bildung, kritische Infrastruktur) eingesetzt werden, gelten verschärfte Anforderungen, nach VO (EU) 2026/1744 ab 02.12.2027.
  • Verbotene Anwendungen: Soziales Scoring, Echtzeit-Biometrische Überwachung, Subliminal-Manipulation, für Bildgenerierungs-KI im Normalfall nicht relevant.
Fristen der KI-Verordnung für Bildgeneratoren
  1. 02.08.2025Pflichten für Anbieter von GPAI-Modellen, Kapitel V
  2. 02.08.2026Transparenzpflichten nach Art. 50 gelten
  3. 02.12.2026maschinenlesbare Kennzeichnung auch für Bestandssysteme
  4. 02.12.2027Hochrisiko-Anwendungen nach Anhang III
Quelle: KI-Verordnung (EU) 2024/1689, geändert durch VO (EU) 2026/1744, Stand November 2026

DSGVO-Relevanz: Das Trainieren auf Bildern mit erkennbaren Personen ohne Einwilligung könnte eine unzulässige Verarbeitung personenbezogener Daten darstellen (DSGVO Art. 6). Für europäische Nutzer und Anbieter ist das relevant.


Vergleich & Abgrenzung

ThemaTechnische LösungRechtliche LösungStatus
Copyright TrainingsdatenSchutzwerkzeuge (Glaze, Nightshade)§ 44b UrhG (Nutzungsvorbehalt), Art. 53 KI-VOTeils geklärt, Verfahren laufen
PersönlichkeitsrechtTechnische Filter§§ 22, 33 KunstUrhG, PersönlichkeitsrechtAnwendbar, Einzelfall
DeepfakesC2PA, WasserzeichenArt. 50 Abs. 4 KI-VO (Offenlegung)Gilt seit 02.08.2026
TransparenzContent CredentialsArt. 50 Abs. 2 KI-VO (maschinenlesbare Kennzeichnung)Gilt seit 02.08.2026, Bestandssysteme ab 02.12.2026
Opt-out für KunstschaffendeNutzungsvorbehalt, haveibeentrainedVorbehalt nach § 44b UrhGFreiwillige Tools begrenzt wirksam

Häufige Fragen (FAQ)

F: Muss ich KI-generierte Bilder kennzeichnen? Nach Art. 50 KI-Verordnung, der seit dem 02.08.2026 gilt, müssen Anbieter generativer KI-Systeme deren Ausgaben maschinenlesbar als künstlich erzeugt kennzeichnen (für vor dem 02.08.2026 in Verkehr gebrachte Systeme Frist bis 02.12.2026). Wer als Betreiber Deepfakes erzeugt, also realistisch wirkende Darstellungen echter Personen, Orte oder Ereignisse, muss offenlegen, dass sie künstlich sind; bei offensichtlich künstlerischen oder satirischen Werken genügt ein geeigneter Hinweis. Viele Plattformen verlangen zusätzlich eine Kennzeichnung in ihren Nutzungsbedingungen. Unabhängig von Rechtspflichten ist transparente Kennzeichnung ethisch geboten. Das ist keine Rechtsberatung.

F: Darf ich LoRAs auf öffentlich verfügbare Fotos einer bekannten Person trainieren? Rechtlich ist das nicht abschließend geklärt: Das Recht am eigenen Bild (Deutschland: §§ 22, 33 KunstUrhG) schützt vor allem gegen das Verbreiten von Bildnissen, das Training selbst berührt zudem Datenschutz (Art. 6 DSGVO) und Urheberrecht der Fotografierenden. Ethisch ist es ohne explizite Einwilligung der Person problematisch, insbesondere wenn der LoRA zur Generierung realistischer Bilder dieser Person genutzt wird. Die Grenze zur Persönlichkeitsrechtsverletzung wird schnell überschritten.

F: Schützt Glaze meine Bilder zuverlässig vor KI-Training? Nein, nicht vollständig. Glaze soll das Nachahmen eines Stils durch Fine-Tuning erschweren, Nightshade ist ein gezielter Vergiftungsangriff auf das Training. Beide sind Forschungswerkzeuge ohne Garantie. Rechtlich wirksamer ist in Deutschland ein maschinenlesbarer Nutzungsvorbehalt nach § 44b UrhG.


Verwandte Einträge


Weiterführend

  • KI-Verordnung (EU) 2024/1689:
  • Änderungsverordnung (EU) 2026/1744 (Digital Omnibus):
  • § 44b UrhG:
  • §§ 22, 33 KunstUrhG:
  • C2PA Standard:
  • Content Credentials:
  • Spawning / Have I Been Trained:
  • Shan, S. et al. (2023). Glaze: Protecting Artists from Style Mimicry by Text-to-Image Models. USENIX Security 2023.
  • Shan, S. et al. (2023). Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models. IEEE S&P 2024.
  • Schuhmann, C. et al. (2022). LAION-5B: An open large-scale dataset for training next generation image-text models. NeurIPS 2022.
  • Rombach, R. et al. (2022). High-Resolution Image Synthesis with Latent Diffusion Models. CVPR.
  • Birhane, A. et al. (2023). Into the LAIONs Den: Investigating Hate in Multimodal Datasets. NeurIPS.
← Zurück zu GenAI & Content Creation
Infotag

Sei am Freitag dabei.
Bring Eltern oder Freunde mit.

Ein halber Nachmittag, der dir drei Jahre Klarheit bringen kann. Kostenlos, unverbindlich, ehrlich.

  • Rundgang durch Studios, Schnitträume und Tonstudio
  • Echte Absolventenfilme sehen
  • 1:1-Beratung zu Bewerbung & BAföG
  • Studierende direkt fragen
  • Kaffee, kein Sales-Pitch
  • Auch online möglich

Platz beim Infotag reservieren

Dauert 30 Sekunden. Bestätigung per E-Mail.
100 % kostenlos · keine Verpflichtung · jederzeit absagbar