Representation und Diversität bei KI-Bildern bezeichnet die Frage, ob und wie KI-Bildgeneratoren die tatsächliche Vielfalt menschlicher Körper, Ethnizitäten, Geschlechtsidentitäten, Altersgruppen und Kulturen in ihren Ausgaben widerspiegeln, und welche gesellschaftlichen Folgen eine Unterrepräsentation hat.
Rubrik: GenAI & Content Creation · Unterrubrik: KI-Ethik & Gesellschaft · Niveau: Einsteiger Synonyme / Auch bekannt als: AI Diversity, Inklusion in KI-Bildern, Representation Bias, Diversity in Generative AI
Was bedeutet Representation bei KI-Bildern?
Representation in Medien, also die Frage, wessen Gesichter und Körper in Bildern sichtbar sind, hat erhebliche gesellschaftliche Bedeutung. Die Medienforschung beschreibt seit Jahrzehnten, dass fehlende oder verzerrte Repräsentation die Selbstwahrnehmung und gesellschaftliche Teilhabe von Gruppen beeinflusst. Mit dem massenhaften Einsatz von KI-Bildgeneratoren in Werbung, Redaktionsgrafiken, Lehrmaterialien und Social Media entsteht eine neue systemische Ebene: Was und wen KI-Bilder zeigen, prägt zunehmend die visuelle Kultur, und die dahinterliegenden Modelle sind oft weniger divers als die Realität.
Erklärung
Dimensionen der Diversität in KI-Bildern
Hautfarbe und Herkunft: Auswertungen wie die von Bloomberg (2023) mit Stable Diffusion zeigen, dass Bildgeneratoren bei neutralen Prompts zu gut bezahlten Berufen und Führungspositionen überproportional hellhäutige Menschen erzeugen; dunklere Hauttöne erschienen häufiger bei schlechter bezahlten Berufen.
Geschlechterrepräsentation: Binäre Geschlechterstereotype werden verstärkt: Berufe in MINT, Führung und öffentlichem Leben werden männlich codiert; Pflege, Haushalt und Unterstützungsrollen weiblich. Nicht-binäre und transgender Personen sind in Trainingsdaten marginal repräsentiert und werden von Modellen selten realistisch dargestellt.
Körperliche Diversität: KI-Modelle trainiert auf Schönheits- und Modemagazin-Bildern reproduzieren enge Körpernormen: Schlankheit, Jugendlichkeit, Symmetrie. Größere Körper, ältere Menschen, Menschen mit sichtbaren Behinderungen werden seltener und oft stereotyp dargestellt.
Altersrepräsentation: Ältere Menschen sind in KI-Bildausgaben unterrepräsentiert, und wenn sie auftauchen, oft in Klischee-Kontexten (Großeltern, Pflegebedürftige), selten als aktive, professionelle Personen.
Kulturelle und geografische Diversität: „Ein typisches Zuhause", „typisches Frühstück" oder „eine Hochzeit" produziert westliche, zumeist nordamerikanische oder europäische Szenarien. Andere Kulturen werden in exotisierenden oder vereinfachten Bildern dargestellt.
Ansätze zur Verbesserung
Diverse Trainingsdaten: Der wirksamste Ansatz ist die systematische Kuration diverserer Trainingsdatensätze. Dazu gehört, Lücken in den Daten gezielt zu schließen und die Zusammensetzung der Daten zu dokumentieren.
Fairness-Tuning: Nach dem Training können Modelle mit Fairness-Datensätzen weiter angepasst werden. Reinforcement Learning from Human Feedback (RLHF) kann gezielt diverse Ausgaben belohnen. Große Anbieter setzen solche Methoden ein, mit unterschiedlichem Erfolg.
Diversity-by-default: Standardmäßig diversere Ausgaben statt Homogenität. Wenn ein Nutzer „eine Person" eingibt, könnte das Modell automatisch verschiedene Varianten mit unterschiedlichen Ethnizitäten, Geschlechtern und Körpertypen generieren.
Transparenz durch Diversity Cards: Ähnlich den Model Cards (Dokumentation eines KI-Modells) könnten Diversity Cards standardmäßig kommunizieren, welche demografischen Gruppen im Trainings-set wie häufig vorkommen.
Diversere Teams: Die KI-Forschung und -Entwicklung ist nach wie vor demografisch eng (überwiegend weiß, männlich, westlich ausgebildet). Diverse Teams erkennen Representation-Probleme früher und entwickeln sensiblere Lösungen.
Fallbeispiel: Google Gemini und historische Darstellungen (2024)
Google stoppte im Februar 2024 vorübergehend die Erzeugung von Personenbildern in Gemini, nachdem das System auf Prompts zu historischen Gruppen, etwa den US-Gründervätern oder Soldaten des Zweiten Weltkriegs, historisch unzutreffende Darstellungen erzeugt hatte. Ursache war eine Abstimmung auf vielfältige Darstellungen, die den historischen Kontext nicht berücksichtigte, ein Beispiel für das Spannungsfeld zwischen Diversitäts-Optimierung und Kontextangemessenheit.
Die Levi's-Kontroverse als Lehrbeispiel
2023 kündigte Levi Strauss & Co. an, KI-generierte Models verschiedener Körpertypen und Hauttöne für seinen Online-Shop zu testen. Die öffentliche Reaktion war überwiegend kritisch: Statt echte vielfältige Models zu buchen, werde Diversität simuliert. Levi's betonte daraufhin, KI solle echte Shootings nicht ersetzen. Der Fall illustriert, dass Diversity in KI-Bildern kein Ersatz für echte Inklusion in der Wirtschaft ist.
- 2018Gender Shades zeigt hohe Fehlerquoten bei dunkelhäutigen Frauen
- 2019Studie zur Fehlklassifikation von trans Personen
- 2022DALL-E 2 ergänzt Personenprompts für mehr Vielfalt
- 2023Bloomberg wertet Stable-Diffusion-Bilder zu Berufen aus
- 2023Levi's testet KI-generierte Models
- Feb. 2024Google stoppt Personenbilder in Gemini
Beispiele
- Bloomberg-Auswertung (2023): Bloomberg ließ Stable Diffusion Tausende Bilder zu Berufen erzeugen und wertete Hautton und Geschlecht aus: Gut bezahlte Berufe wurden überwiegend als hellhäutige Männer dargestellt, schlechter bezahlte häufiger mit dunklerer Haut und als Frauen.
- Gender Shades, Joy Buolamwini (2018): Die Studie von Buolamwini und Gebru zeigte, dass kommerzielle Systeme zur Geschlechtsklassifikation von Gesichtern bei dunkelhäutigen Frauen besonders häufig falsch lagen. Ihr Buch „Unmasking AI“ (2023) beschreibt, wie Bias in KI-Systeme gelangt und wie man ihm begegnet. Buolamwini gründete die Algorithmic Justice League.
- DALL-E 2 und Prompt-Erweiterung (2022): OpenAI kündigte 2022 an, Personenprompts ohne Angaben zu Geschlecht oder Herkunft systemseitig so zu ergänzen, dass vielfältigere Ergebnisse entstehen, ein frühes Beispiel für „Diversity by Default“.
- Gesichtsanalyse und Geschlechtsidentität (2019): Scheuerman, Paul und Brubaker zeigten, dass kommerzielle Gesichtsanalyse-Dienste trans Personen deutlich häufiger falsch klassifizierten und nicht-binäre Identitäten gar nicht abbildeten.
In der Praxis
Für Kreativschaffende: Bei der Nutzung von KI-Bildgeneratoren bewusst diverse Prompts formulieren. Anstelle von „eine Person" ausdrücklich verschiedene Herkunft, Altersgruppen und Körpertypen beschreiben. Ausgaben kritisch sichten: Reproduziert das Ergebnis Stereotype? Wenn ja: Prompt verfeinern oder andere Tools verwenden.
Für Agenturen und Medienhäuser: Diversity-Review als festen Schritt im KI-Workflow etablieren. Interne Diversity-Leitlinien für KI-generierte Inhalte entwickeln. Menschliche diverse Teams in die Review-Prozesse einbinden.
Für Bildungseinrichtungen: KI-Representation-Bias als Unterrichtsthema nutzen: Was zeigen KI-Bilder? Was nicht? Warum? Das schult kritisches Denken und Medienkompetenz.
Vergleich & Abgrenzung
Representation in KI vs. Representation in klassischen Medien: Beide Probleme sind verwandt; KI skaliert das Problem: Ein KI-Modell, das Millionen Bilder generiert, reproduziert Ungleichheiten in einem Ausmaß, das kein einzelner Fotograf oder Illustrator erreichen könnte.
Diversity-Filter vs. authentische Representation: Diversity-Filter können Representation kurzfristig verbessern, sind aber kein Ersatz für diverse Trainingsdaten und diverse Teams. Erzwungene Diversity ohne Kontext kann ebenfalls zu Stereotypen führen (Tokenismus).
Häufige Fragen
Welches KI-Tool ist am besten für diverse Darstellungen? Eine verlässliche, aktuelle Rangliste gibt es nicht; Modelle ändern sich mit jeder Version. Entscheidend sind gezielte Prompts und die manuelle Überprüfung der Ausgaben auf Stereotype.
Sollte ich KI-Bilder für Diversity-Darstellungen in Kampagnen nutzen? Mit Vorsicht. KI-generierte Diversity ist kein Ersatz für das Beauftragen echter People of Color, Plus-Size-Models oder älterer Darstellender. KI kann ergänzend eingesetzt werden, sollte aber nicht dazu dienen, Diversitätsprobleme in der Kreativwirtschaft zu umgehen.
Was lehrt der Fall Gemini? Automatisch erzwungene Vielfalt ohne Kontext kann neue Verzerrungen erzeugen, etwa historisch falsche Darstellungen. Gute Lösungen berücksichtigen den Kontext eines Prompts, statt pauschal zu variieren.
Verwandte Einträge
Weiterführend
- Buolamwini, J. (2023): Unmasking AI. Random House
- UNESCO (2021): Recommendation on the Ethics of Artificial Intelligence. unesdoc.unesco.org
- Scheuerman, M. K. et al. (2019): How Computers See Gender. Proceedings of the ACM on Human-Computer Interaction, 3
- Nicoletti, L. / Bass, D. (2023): Humans Are Biased. Generative AI Is Even Worse. Bloomberg
