Die Ethik der KI-Bildgenerierung umfasst die normativen Fragen um Einwilligung, Urheberrecht, Personenwürde, Transparenz und Schutz vor Missbrauch bei der maschinellen Erzeugung von Bildinhalten mithilfe von Modellen wie Stable Diffusion.
Rubrik: GenAI & Content Creation · Unterrubrik: Stable Diffusion · Niveau: Fortgeschritten
Was ist die Ethik der KI-Bildgenerierung?
KI-gestützte Bildgenerierung, insbesondere mit Stable Diffusion und verwandten Modellen, ist technisch leistungsfähig genug, um fotorealistische Bilder von beliebigen Personen, Szenarien und Inhalten zu erzeugen. Diese Fähigkeit wirft fundamentale ethische Fragen auf, die weit über technische Parameter hinausgehen.
Die Medienbranche, Rechtsordnungen und die Tech-Community entwickeln gemeinsam Normen und Standards, um den Missbrauch dieser Technologie einzudämmen. Gleichzeitig entstehen legitime, kreative und wirtschaftlich wertvolle Anwendungen, die denselben Technologiestapel nutzen.
Eine fundierte Auseinandersetzung mit diesen Fragen ist für alle Personen verbindlich, die KI-Bildgenerierung professionell oder halbprofessionell einsetzen.
Erklärung
Trainingsdaten und Copyright
Stable Diffusion wurde auf LAION-5B trainiert, einem aus dem Internet gecrawlten Datensatz mit fünf Milliarden Bild-Text-Paaren. Ein erheblicher Teil dieser Bilder ist urheberrechtlich geschützt — von Stockfoto-Anbietern, Künstlern, Fotografen und anderen Urhebern — ohne deren explizite Einwilligung.
Rechtliche Lage (Stand 2025/2026): In mehreren Ländern sind Sammelklagen gegen Stability AI, Midjourney und andere Anbieter anhängig. Die rechtliche Einordnung des Trainings auf urheberrechtlich geschütztem Material ist ungeklärt. In der EU könnte die EU-KI-Verordnung (KI-Act) ab 2026 Transparenzpflichten für Trainingsdaten einführen. Die US-amerikanische Rechtsprechung hat bisher keine konsistente Linie gefunden.
Praxiskonsequenz: Für professionelle Anwendungen sollte die Herkunft genutzter Modelle bekannt sein. Einige Anbieter (Adobe Firefly, Shutterstock AI) trainieren explizit auf lizenzierten oder eigenen Inhalten und bieten damit eine rechtlich klarere Grundlage.
Consent: Persönlichkeitsrechte und Deepfakes
Die Möglichkeit, fotorealistische Bilder real existierender Personen zu generieren — insbesondere wenn LoRAs auf Fotos dieser Personen trainiert werden — berührt fundamentale Persönlichkeitsrechte:
Informationelle Selbstbestimmung: In Deutschland als grundrechtsähnliches Schutzgut anerkannt (Volkszählungsurteil 1983, DSGVO Art. 7 ff.). Das Erstellen fotorealistischer Bildmontagen von Personen ohne deren Einwilligung kann dieses Recht verletzen.
Recht am eigenen Bild: § 22 KunstUrhG schützt in Deutschland das Recht jeder Person, über die Verbreitung ihres Bildnisses zu entscheiden. KI-generierte Bilder, die Personen realistisch darstellen, können unter diesen Schutz fallen.
Non-Consensual Intimate Images (NCII): Das Generieren sexueller oder intimer KI-Bilder real existierender Personen ohne deren Einwilligung ist in mehreren US-Bundesstaaten und zunehmend auch in der EU verboten. In Deutschland fällt dies unter § 201a StGB (Verletzung des höchstpersönlichen Lebensbereichs).
Deepfakes: Realistisch wirkende, gefälschte Video- oder Bildaufnahmen realer Personen zu Desinformationszwecken (z. B. gefälschte Politikeraussagen) können Straftaten wie üble Nachrede, Nötigung oder Identitätsdiebstahl darstellen. Mehrere Länder haben spezifische Anti-Deepfake-Gesetze erlassen.
C2PA – Content Provenance Standard
C2PA (Coalition for Content Provenance and Authenticity) ist ein offener Standard für digitale Inhalts-Provenienz, entwickelt von Adobe, Microsoft, Intel, BBC, AP und anderen. C2PA ermöglicht die kryptografische Signierung von Bildinhalten mit Metadaten zu Herkunft und Modifikationshistorie.
Wie C2PA funktioniert:
- Beim Erstellen eines Bildes (KI oder Kamera) werden Metadaten kryptografisch signiert und dem Bild angehängt: Werkzeug, Modell, Zeitstempel, ggf. Benutzer-ID.
- Bei jeder Bearbeitung wird die Kette erweitert — die vollständige Bearbeitungshistorie ist nachverfolgbar.
- Browser-Plugins und Mediaplattformen können die C2PA-Signatur lesen und Provenienzinformation anzeigen.
Status der Adoption (2025/2026): Adobe Firefly, Bing Image Creator und Content Credentials-kompatible Kameras (Sony, Nikon) implementieren C2PA. Stable-Diffusion-Tools wie AUTOMATIC1111 implementieren C2PA noch nicht standardmäßig — ein Plugin-Projekt ist in Entwicklung.
Grenzen von C2PA: Die Signatur kann durch Screenshots oder Exportieren ohne Metadaten entfernt werden. C2PA ist eine Vertrauens- und Transparenzlösung, kein Sicherheits-DRM.
Opt-Out für Künstlerinnen und Künstler
Mehrere Initiativen und Werkzeuge ermöglichen Künstlern, ihre Werke vor dem Training auf KI-Modellen zu schützen:
Do Not Train (dni.dev): Metadaten-Standard, der Dateien als „nicht für KI-Training freigegeben" markiert. Beteiligt sind Getty Images, Shutterstock u. a. Die Einhaltung durch Crawler ist jedoch freiwillig.
Glaze: Universitätsforschungsprojekt (UChicago SAND Lab). Fügt menschlich unsichtbare Perturbationen zu Bildern hinzu, die das Stillernen durch KI-Modelle erschweren. Für einzelne Künstler als Desktop-App verfügbar.
Nightshade: Ebenfalls von UChicago SAND Lab. Vergiftet den Trainingsdatensatz aktiv — Bilder mit Nightshade-Perturbationen können, wenn in großer Menge ins Training eingespeist, Modelle in bestimmten Konzepten korrumpieren.
Spawning AI / Have I Been Trained? Werkzeug, das Künstlern ermöglicht, eigene Bilder im LAION-Datensatz zu finden und Opt-Out-Anfragen zu stellen. Verbreitung ist begrenzt.
robots.txt Erweiterungen: Verschiedene Crawling-Richtlinien (AI-Trainings-Blocker in robots.txt) werden von großen Crawlern unterschiedlich respektiert.
Schritt-für-Schritt / Einrichtung
Ethische Leitlinien für professionelle Nutzung
```
- Personen-Darstellungen:
- Keine fotorealistischen Bilder realer Personen ohne explizite Einwilligung - Keine sexuellen/intimen Darstellungen realer Personen (illegal in vielen Ländern) - Keine politischen Deepfakes oder Desinformations-Inhalte
- Urheberrecht:
- Lizenzstatus verwendeter Modelle prüfen (CreativeML, Apache 2.0 etc.) - Kommerzielle Nutzung mit kommerziell lizenzierten Modellen - Transparenz über KI-Einsatz bei Client-Projekten sicherstellen
- Transparenz:
- KI-generierte Bilder als solche kennzeichnen (intern/extern je nach Kontext) - C2PA/Content Credentials wenn verfügbar aktivieren - IPTC-Metadaten mit KI-Kennzeichnung versehen
- Inhaltssicherheit:
- Keine NSFW-Inhalte in beruflichen/öffentlichen Kontexten - Minderjährige nie in sexuellen Zusammenhängen generieren (StGB § 184b) - Hassrede, Diskriminierung, Gewaltverherrlichung ausschließen ```
Beispiele (5 konkrete Anwendungsfälle)
- Transparenz bei Editorial-Content: Eine Nachrichtenredaktion verwendet SD-generierte Illustrationen für Artikel. Alle KI-generierten Bilder erhalten einen standardisierten Zusatz „Illustration: KI-generiert mit Stable Diffusion" — sowohl in der Bildunterschrift als auch in den IPTC-Metadaten.
- Consent-Management bei Portrait-LoRAs: Ein Fotostudio möchte ein LoRA auf Bildern eines Models trainieren. Vorher wird ein schriftliches Consent-Dokument erstellt, das explizit die KI-Nutzung, den Verwendungszweck und die Weitergabe des LoRA regelt.
- Künstler-Opt-Out respektieren: Ein Medienunternehmen prüft vor der Nutzung von Community-Modellen deren Trainingsdaten-Quellen. Modelle, die explizit auf Opt-Out-respektierenden Datensätzen trainiert wurden (z. B. Adobe Firefly), erhalten Priorität für kommerzielle Kampagnen.
- Deepfake-Prävention im Team: Ein Social-Media-Team hält eine schriftliche Policy, die KI-generierte Bilder realer Personen (auch berühmter) ohne deren Einwilligung verbietet. Das Negative-Prompt-Preset enthält Anweisungen, öffentliche Persönlichkeiten zu vermeiden.
- C2PA-Implementierung für Verlag: Ein Buchverlag integriert Content Credentials in seinen SDXL-Workflow — alle KI-generierten Titelillustrationen tragen automatisch Provenienz-Metadaten, die für Leserinnen und Leser über ein Web-Plugin einsehbar sind.
In der Praxis
Rechtlicher Status in der EU (2025/2026)
Die EU-KI-Verordnung (AI Act) kategorisiert Bildgenerierungs-KI je nach Kontext:
- Allgemeines KI-System (GPAI): Stable Diffusion und Flux fallen hierunter. Ab 2025 gelten Transparenzpflichten zu Trainingsdaten.
- Hochrisiko-Anwendungen: Wenn KI-Bilder in kritischen Kontexten (Justiz, Bildung, kritische Infrastruktur) eingesetzt werden, gelten verschärfte Anforderungen.
- Verbotene Anwendungen: Soziales Scoring, Echtzeit-Biometrische Überwachung, Subliminal-Manipulation — für Bildgenerierungs-KI im Normalfall nicht relevant.
DSGVO-Relevanz: Das Trainieren auf Bildern mit erkennbaren Personen ohne Einwilligung könnte eine unzulässige Verarbeitung personenbezogener Daten darstellen (DSGVO Art. 6). Für europäische Nutzer und Anbieter ist das relevant.
Vergleich & Abgrenzung
| Thema | Technische Lösung | Rechtliche Lösung | Status |
|---|---|---|---|
| Copyright Trainingsdaten | Opt-Out (Glaze, Nightshade) | Gesetzgebung ausstehend | Unklar |
| Persönlichkeitsrecht | Technische Filter | § 201a StGB, NCII-Gesetze | Teils anwendbar |
| Deepfake-Erkennung | C2PA, Wasserzeichen | Anti-Deepfake-Gesetze | Im Aufbau |
| Transparenz | Content Credentials | KI-Kennzeichnungspflicht (EU) | In Entwicklung |
| Opt-Out für Künstler | DNI-Standard, Spawning | Freiwillig | Begrenzt wirksam |
Häufige Fragen (FAQ)
F: Muss ich KI-generierte Bilder kennzeichnen? In der EU besteht mit dem KI-Act ab 2025 eine Kennzeichnungspflicht für KI-generierte Inhalte, die für die Öffentlichkeit bestimmt sind — insbesondere wenn sie mit realem Content verwechselt werden können (Deepfake-Regelung). In Deutschland empfiehlt der Pressekodex Kennzeichnung bei redaktionellen Inhalten. Plattformen wie Instagram/Facebook verlangen Kennzeichnung für KI-Realismus-Inhalte in ihren AGB. Unabhängig von Rechtspflichten ist transparente Kennzeichnung ethisch geboten.
F: Darf ich LoRAs auf öffentlich verfügbare Fotos einer bekannten Person trainieren? Rechtlich ist das in den meisten Ländern eine Grauzone — das Recht am eigenen Bild (Deutschland: KunstUrhG) schützt Personen, aber die Anwendbarkeit auf KI-Training ist noch nicht gerichtlich abschließend geklärt. Ethisch ist es ohne explizite Einwilligung der Person problematisch, insbesondere wenn der LoRA zur Generierung realistischer Bilder dieser Person genutzt wird. Die Grenze zur Persönlichkeitsrechtsverletzung wird schnell überschritten.
Verwandte Einträge
- Stable Diffusion Grundlagen — Technische Grundlage der besprochenen Systeme
- LoRA Training — Personenbezogenes Training als besonders sensibles Feld
- Modelle & Checkpoints — Lizenz-Aspekte bei Modellnutzung
Weiterführend
- EU AI Act:
- C2PA Standard:
- Adobe Content Credentials:
- Spawning / Have I Been Trained:
- Glaze & Nightshade (UChicago):
- Rombach, R. et al. (2022). High-Resolution Image Synthesis with Latent Diffusion Models. CVPR.
- Birhane, A. et al. (2023). Into the LAIONs Den: Investigating Hate in Multimodal Datasets. NeurIPS.
