Representation und Diversität bei KI-Bildern bezeichnet die Frage, ob und wie KI-Bildgeneratoren die tatsächliche Vielfalt menschlicher Körper, Ethnizitäten, Geschlechtsidentitäten, Altersgruppen und Kulturen in ihren Ausgaben widerspiegeln – und welche gesellschaftlichen Folgen eine Unterrepräsentation hat.
Rubrik: GenAI & Content Creation · Unterrubrik: KI-Ethik & Gesellschaft · Niveau: Einsteiger Synonyme / Auch bekannt als: AI Diversity, Inklusion in KI-Bildern, Representation Bias, Diversity in Generative AI
Was bedeutet Representation bei KI-Bildern?
Representation in Medien – also die Frage, wessen Gesichter und Körper in Bildern sichtbar sind – hat erhebliche gesellschaftliche Bedeutung. Medienpsychologen und Medienwissenschaftler haben seit Jahrzehnten belegt, dass fehlende oder verzerrte Repräsentation die Selbstwahrnehmung und gesellschaftliche Teilhabe von Gruppen beeinflusst. Mit dem massenhaften Einsatz von KI-Bildgeneratoren in Werbung, Redaktionsgrafiken, Lehrmaterialien und Social Media entsteht eine neue systemische Ebene: Was und wen KI-Bilder zeigen, prägt zunehmend die visuelle Kultur – und die dahinterliegenden Modelle sind oft weniger divers als die Realität.
Erklärung
Dimensionen der Diversität in KI-Bildern
Ethnische und rassistische Diversity: Mehrere Studien (Bloomberg 2023, MIT Media Lab) zeigen, dass aktuelle KI-Bildgeneratoren bei neutralen Prompts zu Berufen, Führungspositionen oder Idealisierungen überproportional helle Hautfarbe produzieren. Dunklere Hautfarben werden häufiger mit negativen Kontexten oder niedrigeren Berufsebenen assoziiert.
Geschlechterrepräsentation: Binäre Geschlechterstereotype werden verstärkt: Berufe in MINT, Führung und öffentlichem Leben werden männlich codiert; Pflege, Haushalt und Unterstützungsrollen weiblich. Nicht-binäre und transgender Personen sind in Trainingsdaten marginal repräsentiert und werden von Modellen selten realistisch dargestellt.
Körperliche Diversität: KI-Modelle trainiert auf Schönheits- und Modemagazin-Bildern reproduzieren enge Körpernormen: Schlankheit, Jugendlichkeit, Symmetrie. Größere Körper, ältere Menschen, Menschen mit sichtbaren Behinderungen werden seltener und oft stereotyp dargestellt.
Altersrepräsentation: Ältere Menschen sind in KI-Bildausgaben unterrepräsentiert – und wenn sie auftauchen, oft in Klischee-Kontexten (Großeltern, Pflegebedürftige), selten als aktive, professionelle Personen.
Kulturelle und geografische Diversität: „Ein typisches Zuhause", „typisches Frühstück" oder „eine Hochzeit" produziert westliche, zumeist nordamerikanische oder europäische Szenarien. Andere Kulturen werden in exotisierenden oder vereinfachten Bildern dargestellt.
Ansätze zur Verbesserung
Diverse Trainingsdaten: Der wirksamste Ansatz ist die systematische Kuration diverserer Trainingsdatensätze. Adobe betonte bei der Entwicklung von Firefly, dass bewusst diverse, global repräsentative Bild-Lizenzen eingekauft wurden. Initiativen wie LAIONT, ein Europäisches Trainingsdaten-Konsortium, arbeiten an offenen, vielfältigen Datensätzen.
Fairness-Tuning: Nach dem Training können Modelle mit Fairness-Datensätzen weiter angepasst werden. Reinforcement Learning from Human Feedback (RLHF) kann gezielt diverse Ausgaben belohnen. OpenAI und Google nutzen solche Methoden für ihre neuesten Modelle.
Diversity-by-default: Standardmäßig diversere Ausgaben statt Homogenität. Wenn ein Nutzer „eine Person" eingibt, könnte das Modell automatisch verschiedene Varianten mit unterschiedlichen Ethnizitäten, Geschlechtern und Körpertypen generieren.
Transparenz durch Diversity Cards: Ähnlich den Model Cards (Dokumentation eines KI-Modells) könnten Diversity Cards standardmäßig kommunizieren, welche demografischen Gruppen im Trainings-set wie häufig vorkommen.
Diversere Teams: Die KI-Forschung und -Entwicklung ist nach wie vor demografisch eng (überwiegend weiß, männlich, westlich ausgebildet). Diverse Teams erkennen Representation-Probleme früher und entwickeln sensiblere Lösungen.
Fallbeispiel: OpenAI DALL-E 3 Diversity-Filter
OpenAI implementierte für DALL-E 3 einen Diversity-Filter, der bei nicht-spezifizierten Personenprompts automatisch demographische Variation einbaut. Das sorgte für gemischte Reaktionen: Einerseits wurden Unterrepräsentationsprobleme reduziert. Andererseits führte dies zu anachronistischen Ausgaben (z. B. US-Gründerväter als Personen of Color), was als Verzerrung historischer Realität kritisiert wurde – ein Beispiel für das Spannungsfeld zwischen Diversity-Optimierung und Kontextangemessenheit.
Die Levi's-Kontroverse als Lehrbeispiel
2023 kündigte Levi Strauss & Co. an, KI-generierte Modells verschiedener Körpertypen und Ethnizitäten für seinen Online-Shop zu nutzen, um die Diversität des Sortiments darzustellen. Die öffentliche Reaktion war überwiegend kritisch: Statt echte diverse Models einzustellen, würde Diversität simuliert – und real arbeitende People of Color und Plus-Size-Models blieben ohne Jobs. Der Fall illustriert, dass Diversity in KI-Bildern kein Ersatz für echte Inklusion in der Wirtschaft ist.
Beispiele
- Bloomberg KI-Bias-Studie (2023): Systematische Tests aller großen Bildgeneratoren zeigten: Bei Prompts wie „ein Manager" wurden in über 90 % der Fälle helle Hautfarben generiert. Bei „eine Reinigungskraft" waren die Ausgaben deutlich dunkler. Die Studie wurde von zahlreichen Medien aufgegriffen und führte zu konkreten Reaktionen der Anbieter.
- MIT Gender Shades – Joy Buolamwini (2018): Buolamwinis Dissertation zeigte systematische Fehler bei Gesichtserkennung für dunkle Frauen. Ihr Werk „Unmasking AI" (2023) beschreibt, wie Bias in KI-Systeme eingebaut wird – und wie man ihn bekämpft. Buolamwini gründete das Algorithmic Justice League.
- Adobe Firefly Diversity-Ansatz (2023): Adobe kommunizierte explizit, dass das Firefly-Trainingsset bewusst auf globale Diversität hin kuratiert wurde. Tests zeigten bessere Diversitätswerte als Midjourney oder Stable Diffusion – aber immer noch Lücken.
- UN Women – AI Imagery Initiative (2024): UN Women startete eine Initiative, die KI-Unternehmen auffordert, Vorlagen für die Darstellung von Frauen in Führungsrollen, MINT-Berufen und globalen Kulturkontexten zu entwickeln und in Modellen zu verankern.
- „Seeing AI" – Barrierefreiheit und Representation (Microsoft): Microsofts Seeing AI-App, die Blinden hilft, ihre Umgebung zu beschreiben, integriert bewusst diverse Beschreibungsmuster für erkannte Personen – ein positives Beispiel für diversity-sensitives KI-Design.
In der Praxis
Für Kreativschaffende: Bei der Nutzung von KI-Bildgeneratoren bewusst diverse Prompts formulieren. Anstelle von „eine Person" explizit um verschiedene Ethnicities, Altersgruppen, Körpertypen bitten. Ausgaben kritisch sichten: Reproduziert das Ergebnis Stereotype? Wenn ja: Prompt verfeinern oder andere Tools verwenden.
Für Agenturen und Medienhäuser: Diversity-Review als festen Schritt im KI-Workflow etablieren. Interne Diversity-Leitlinien für KI-generierte Inhalte entwickeln. Menschliche diverse Teams in die Review-Prozesse einbinden.
Für Bildungseinrichtungen: KI-Representation-Bias als Unterrichtsthema nutzen: Was zeigen KI-Bilder? Was nicht? Warum? Das schult kritisches Denken und Medienkompetenz.
Vergleich & Abgrenzung
Representation in KI vs. Representation in klassischen Medien: Beide Probleme sind verwandt; KI skaliert das Problem: Ein KI-Modell, das Millionen Bilder generiert, reproduziert Ungleichheiten in einem Ausmaß, das kein einzelner Fotograf oder Illustrator erreichen könnte.
Diversity-Filter vs. authentische Representation: Diversity-Filter können Representation kurzfristig verbessern, sind aber kein Ersatz für diverse Trainingsdaten und diverse Teams. Erzwungene Diversity ohne Kontext kann ebenfalls zu Stereotypen führen (Tokenismus).
Häufige Fragen (FAQ)
Welches KI-Tool ist am besten für diverse Darstellungen? Nach derzeitiger Forschungslage schneidet Adobe Firefly bei Diversity-Tests besser ab als Midjourney oder Standard-Stable-Diffusion, weil der Trainingsdatensatz bewusster kuratiert wurde. Dennoch empfiehlt sich immer die manuelle Überprüfung der Ausgaben.
Sollte ich KI-Bilder für Diversity-Darstellungen in Kampagnen nutzen? Mit Vorsicht. KI-generierte Diversity ist kein Ersatz für das Beauftragen echter People of Color, Plus-Size-Models oder älterer Darstellender. KI kann ergänzend eingesetzt werden, sollte aber nicht dazu dienen, Diversitätsprobleme in der Kreativwirtschaft zu umgehen.
Verwandte Einträge
Weiterführend
- Buolamwini, J. (2023): Unmasking AI. Random House
- UNESCO (2023): Recommendation on the Ethics of AI – Gender Equality Provisions. unesdoc.unesco.org
- Algorithmic Justice League (2024): State of AI Fairness. ajl.org
- Scheuerman, M. K. et al. (2021): How Computers See Gender. Proceedings of the ACM on Human-Computer Interaction
