Mit freundlicher Unterstützung von
← Zurück zu GenAI & Content Creation
Bias in KI-generierten Bildern bezeichnet die systematische Verzerrung in den Ausgaben von KI-Bildgeneratoren, die entstehende Stereotype, Diskriminierungen und Unterrepräsentationen aus den Trainingsdaten reproduziert und verstärkt.

Rubrik: GenAI & Content Creation · Unterrubrik: KI-Ethik & Gesellschaft · Niveau: Einsteiger Synonyme / Auch bekannt als: Algorithmic Bias, AI Bias, Daten-Bias, Vorurteile in KI, Trainingsdaten-Verzerrung, Stereotyp-Verstärkung

Was ist Bias in KI-Bildern?

KI-Bildgeneratoren wie Midjourney, DALL-E, Stable Diffusion oder Adobe Firefly lernen aus riesigen Mengen menschlicher Bilder und textueller Beschreibungen. Diese Daten spiegeln die Gesellschaft wider, einschließlich ihrer Vorurteile, Ungleichheiten und Stereotypen. Das Ergebnis: KI-Modelle reproduzieren und verstärken diese Muster in ihren Ausgaben. Wenn ein Modell auf Millionen von Bildern trainiert wird, in denen „CEO" mit weißen Männern in Anzügen assoziiert wird, wird es genau das erzeugen, wenn man „einen CEO" generiert. Dieser Bias ist keine Absicht der Entwicklerinnen und Entwickler, sondern ein strukturelles Problem der datengetriebenen KI-Entwicklung.

Erklärung

Arten von Bias in KI-Bildern

Repräsentationsbias: Bestimmte Gruppen sind in Trainingsdaten unter- oder überrepräsentiert. Das Internet und kommerzielle Bildarchive spiegeln historische Ungleichheiten wider: Bilder von westlichen, wohlhabenden, weißen, jungen Personen sind überrepräsentiert. Das führt zu schlechteren Ausgaben und mehr Stereotypen bei der Darstellung anderer Gruppen.

Assoziationsbias: KI-Modelle lernen gesellschaftliche Assoziationen aus dem Trainingsmaterial: Ärzte sind männlich und weiß, Krankenschwestern weiblich, CEOs sind Männer, Kriminelle bestimmter Hautfarbe. Diese Assoziationen werden in Bildern reproduziert, auch wenn der Prompt neutral formuliert ist.

Schönheitsbias: KI-Modelle trainiert auf kommerziellen Schönheitsbildern neigen dazu, eine enge Schönheitsnorm zu reproduzieren: schlanke Körper, symmetrische Gesichter, jugendliches Aussehen. Ältere, dickere, körperlich diverse Personen werden seltener und oft stereotyper dargestellt.

Geografischer und kultureller Bias: Prompts wie „ein traditionelles Haus" oder „typisches Essen" produzieren Bilder aus dem westlichen Kontext, weil dieser in den Trainingsdaten dominiert. Andere Kulturen werden exotisiert oder vereinfacht dargestellt.

Genderbias: Untersuchungen zeigen, dass KI-Bildgeneratoren Frauen in Berufen, die traditionell als männlich gelten (Ingenieurin, Pilot, Wissenschaftlerin), seltener darstellen, und wenn, dann oft mit betont femininen Merkmalen oder in sexualisierter Pose.

Ursachen auf technischer Ebene

Daten-Bias: Die Qualität und Diversität der Ausgaben hängt direkt von den Trainingsdaten ab. LAION-5B, einer der häufig genutzten Datensätze, besteht aus rund 5,85 Milliarden Bild-Text-Paaren aus dem Web; davon sind laut den Autoren etwa 2,3 Milliarden englischsprachig (Schuhmann et al. 2022). Englischsprachige und westliche Inhalte sind damit stark vertreten.

LAION-5B, Bild-Text-Paare insgesamt und davon englischsprachig
5,85 Mrd.Bild-Text-Paare insgesamt
2,3 Mrd.davon englischsprachig · 39 %
Quelle: Schuhmann et al. (2022): LAION-5B, arXiv:2210.08402

Labeling-Bias: Menschen, die Daten beschriften (Annotierungen, Captions), bringen eigene Vorurteile mit. Wenn Bilder von spielenden Kindern unterschiedlicher Herkunft verschieden beschriftet werden, lernt das Modell diese Unterschiede.

Optimization-Bias: Wenn Modelle für „Schönheit" oder „Attraktivität" optimiert werden (z. B. durch Reinforcement Learning from Human Feedback, RLHF), übernehmen sie die Schönheitsstandards der bewertenden Personen.

Messung von KI-Bias

Mehrere Forschungsgruppen und NGOs haben systematische Tests durchgeführt:

Bloomberg-Analyse (Juni 2023): Bloomberg ließ Stable Diffusion mehr als 5.000 Bilder zu 14 Berufen und drei kriminalitätsbezogenen Kategorien erzeugen. Ergebnis: Auf jedes Bild einer als Frau wahrgenommenen Person kamen fast dreimal so viele Bilder von Männern; Frauen waren in gut bezahlten Berufen unter-, in schlecht bezahlten überrepräsentiert, und Menschen mit dunklerer Haut erschienen überproportional in Niedriglohnberufen.

Gender Shades (2018, Joy Buolamwini und Timnit Gebru): Obwohl auf Gesichtsanalyse fokussiert, ist diese wegweisende Untersuchung relevant für KI-Bias generell: Kommerzielle Systeme zur Geschlechtsklassifikation hatten bei hellhäutigen Männern eine Fehlerquote von höchstens 0,8 %, bei dunkelhäutigen Frauen von bis zu 34,7 %.

Gender Shades, höchste Fehlerquote bei der Geschlechtsklassifikation in Prozent
hellhäutige Männer0,8 %
dunkelhäutige Frauen34,7 %
Quelle: Buolamwini, Gebru (2018): Gender Shades, Proceedings of Machine Learning Research 81

Stable Bias (2023, Luccioni et al.): Die Forschenden analysierten systematisch, wie Text-zu-Bild-Modelle wie Stable Diffusion und DALL·E 2 Berufe und Eigenschaften mit Geschlecht und Herkunft verknüpfen, und fanden deutliche Verzerrungen zugunsten weißer und männlicher Darstellungen.

Maßnahmen gegen Bias

Diversere Trainingsdaten: Bewusste Kuration diverserer Datensätze. Anbieter mit lizenzierten, kuratierten Datensätzen (etwa Adobe für Firefly) haben mehr Kontrolle darüber, was das Modell lernt.

Adversariales Training und Fairness-Filter: Modelle können gezielt auf Fairness optimiert werden; Filter können stereotypisierende Ausgaben filtern oder umlenken.

Prompting-Strategien: Nutzerinnen und Nutzer können Bias durch explizite Prompts teilweise korrigieren: „Eine Ärztin verschiedener Ethnie" statt nur „eine Ärztin".

Diversität in Entwicklungsteams: Diverse Teams erkennen Bias früher. Die Homogenität der KI-Industrie (überwiegend weiß, männlich, westlich) ist selbst ein strukturelles Bias-Problem.

Beispiele

  1. Google Photos, Gorilla-Kontroverse (2015): Googles Foto-KI klassifizierte Bilder von dunkelhäutigen Personen fälschlicherweise als Gorillas. Google entfernte die Kategorie „Gorilla" komplett aus dem System, eine Behelfslösung, die das strukturelle Problem nicht löste.
  2. Bloomberg-Test mit Stable Diffusion (2023): Bei Berufen wie Sozialarbeit, Fast-Food-Service oder Spülküche zeigte Stable Diffusion mehrheitlich Frauen mit dunklerer Haut, bei gut bezahlten Berufen überwiegend hellhäutige Männer, stärker verzerrt als die US-Arbeitsmarktdaten.
  3. Amazon Recruiting-KI (2018): Amazons internes KI-Recruiting-Tool bewertete weibliche Bewerberinnen systematisch schlechter, weil es auf historischen Bewerberdaten trainiert worden war, in denen Männer dominierten. Amazon stellte das System ein.
  4. Lensa Magic Avatars (2022): Die Journalistin Melissa Heikkilä berichtete in der MIT Technology Review, dass die auf Stable Diffusion basierende App viele ihrer Avatare nackt oder sexualisiert darstellte, ihre männlichen Kollegen dagegen als Astronauten oder Entdecker.
  5. Google Gemini, Überkorrektur (2024): Google hatte die Personendarstellung in Gemini auf Vielfalt abgestimmt; das führte bei historischen Motiven zu unpassenden Bildern. Am 23.02.2024 räumte Google ein, die Abstimmung habe Fälle nicht berücksichtigt, die „eindeutig keine Vielfalt zeigen sollten", und pausierte die Bildgenerierung von Personen.

In der Praxis

Für Kreativschaffende: Bewusstsein für eigene Prompt-Entscheidungen entwickeln. Welche Standardannahmen hat das genutzte Modell? Explizit um diverse Darstellungen bitten. Ausgaben auf Stereotypen prüfen, bevor sie veröffentlicht werden.

Für Redaktionen und Medien: KI-generierte Bilder vor Veröffentlichung auf Bias und Stereotypen prüfen. Die Frage stellen: Würde ich dieses Bild mit einem menschlichen Fotografen so bestellen? Wenn nein: Prompt überarbeiten.

Für Werbeagenturen: KI-generierte Werbemittel auf Repräsentations-Bias überprüfen. Diverse interne Review-Prozesse einführen. Bei der Toolwahl auch auf Angaben der Anbieter zu Trainingsdaten und Fairness-Maßnahmen achten.

Vergleich & Abgrenzung

Bias in KI-Bildern vs. Bias in KI-Texten: LLMs wie ChatGPT haben ähnliche Bias-Probleme bei Assoziationen und Darstellungen; bei Bildern ist der Bias aber unmittelbar visuell und damit leichter erkennbar und schlagkräftiger in seiner gesellschaftlichen Wirkung.

Bias vs. Halluzination: Bias ist systematisch und reproduzierbar; Halluzination ist unvorhersehbar und bedeutet das Erfinden falscher Fakten. Beide sind Qualitätsprobleme von KI, aber mit unterschiedlichen Ursachen und Konsequenzen.

Häufige Fragen (FAQ)

Kann ich Bias in KI-Bildern komplett vermeiden? Nicht vollständig, aber erheblich reduzieren. Durch explizite Prompts, die Vielfalt einfordern, und durch die Wahl von Modellen mit sorgfältig kuratierten Trainingsdaten kann Bias verringert werden. Grundsätzlich sollten alle KI-generierten Bilder mit Menschen auf Stereotypen geprüft werden.

Sind KI-Unternehmen für Bias verantwortlich? Juristisch ist das noch weitgehend ungeklärt. Ethisch und regulatorisch (EU AI Act Art. 10) sind Anbieter von Hochrisiko-KI zur Sicherstellung der Datenqualität und Bias-Reduktion verpflichtet. Für Bildgeneratoren gelten vor allem die Transparenzpflichten nach Art. 50 (seit 02.08.2026) und die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck; die Anforderungen sind weniger streng als bei Hochrisiko-Systemen.

Woher kommt Bias in KI-Bildern? Vor allem aus den Trainingsdaten: Große Web-Datensätze wie LAION-5B spiegeln die Verzerrungen des Internets wider. Hinzu kommen Beschriftungen durch Menschen und die Optimierung auf menschliche Bewertungen, die eigene Schönheits- und Rollenbilder mitbringen.

Verwandte Einträge

Weiterführend

  • Buolamwini, J. / Gebru, T. (2018): Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research, 81
  • Nicoletti, L. / Bass, D. (2023): Humans Are Biased. Generative AI Is Even Worse. Bloomberg, Juni 2023. bloomberg.com/graphics/2023-generative-ai-bias
  • Luccioni, A. S. et al. (2023): Stable Bias: Analyzing Societal Representations in Diffusion Models. arXiv:2303.11408
  • Schuhmann, C. et al. (2022): LAION-5B: An open large-scale dataset for training next generation image-text models. arXiv:2210.08402
  • Raghavan, P. (2024): Gemini image generation got it wrong. We'll do better. Google, 23.02.2024. blog.google
  • AI Now Institute (2018): Algorithmic Accountability Policy Toolkit. ainowinstitute.org
  • Eubanks, V. (2018): Automating Inequality. St. Martin's Press
← Zurück zu GenAI & Content Creation
Infotag

Sei am Freitag dabei.
Bring Eltern oder Freunde mit.

Ein halber Nachmittag, der dir drei Jahre Klarheit bringen kann. Kostenlos, unverbindlich, ehrlich.

  • Rundgang durch Studios, Schnitträume und Tonstudio
  • Echte Absolventenfilme sehen
  • 1:1-Beratung zu Bewerbung & BAföG
  • Studierende direkt fragen
  • Kaffee, kein Sales-Pitch
  • Auch online möglich

Platz beim Infotag reservieren

Dauert 30 Sekunden. Bestätigung per E-Mail.
100 % kostenlos · keine Verpflichtung · jederzeit absagbar