KI-Ethik-Beauftragte/r

KI-Ethik-Beauftragte/r ist eine Fachkraft, die sicherstellt, dass KI-Systeme eines Unternehmens rechtliche Vorgaben einhalten, ethischen Standards entsprechen und gesellschaftliche Risiken minimiert werden.

Rubrik: Berufsfelder · Unterrubrik: KI-Berufe · Niveau: Profi

Synonyme / Auch bekannt als: AI Ethics Officer, Responsible AI Manager, KI-Compliance-Beauftragte/r, Chief AI Ethics Officer (CAEO)

Was ist ein KI-Ethik-Beauftragter / eine KI-Ethik-Beauftragte?

Die Rolle des KI-Ethik-Beauftragten ist eng mit der Entstehung verbindlicher KI-Regulierung verbunden. Mit dem Inkrafttreten des EU AI Act – dem weltweit ersten umfassenden Rechtsrahmen für KI – wurden aus freiwilligen Ethik-Bemühungen rechtliche Pflichten. Unternehmen, die KI-Systeme entwickeln oder einsetzen, müssen nun nachweislich Risiken bewertet, dokumentiert und gemindert haben.

KI-Ethik-Beauftragte sind die institutionelle Antwort auf diesen Bedarf. Sie arbeiten an der Schnittstelle von Technik, Recht, Unternehmensführung und Gesellschaft – und müssen daher in alle drei Welten sprechen können.

Erklärung

Der EU AI Act als Rahmen

Der EU AI Act (Verordnung (EU) 2024/1689, in Kraft seit August 2024) klassifiziert KI-Systeme nach ihrem Risikopotenzial:

KI-Ethik-Beauftragte sind primär für Hochrisiko- und begrenzte Risiko-Systeme zuständig.

Kernaufgaben

Risikobewertung und -management Durchführung von KI-Folgenabschätzungen (AI Impact Assessments) für neue und bestehende Systeme. Identifikation potenzieller Schäden (Diskriminierung, Datenschutzverletzungen, Sicherheitsrisiken) und Entwicklung von Mitigationsstrategien.

Compliance-Monitoring Laufende Überprüfung, ob eingesetzte KI-Systeme den aktuellen rechtlichen Anforderungen entsprechen. Dies betrifft neben dem EU AI Act auch die DSGVO, den AI Liability Act und branchenspezifische Regulierungen.

Interne Governance Entwicklung und Durchsetzung unternehmensinterner KI-Richtlinien (AI Policies), Ethik-Kodizes und Entscheidungsrahmen. Einrichtung von AI Ethics Boards oder Review Committees.

Dokumentation und Transparenz Erstellung von System-Karten, Modell-Karten (Model Cards, Mitchell et al., 2019) und technischen Dokumentationen gemäß EU AI Act Art. 11–13.

Schulung und Sensibilisierung Awareness-Training für Mitarbeitende aller Ebenen: von Entwicklern bis zur Geschäftsführung. Hier überschneidet sich die Rolle mit dem KI-Coach und KI-Trainer/in für Unternehmen.

Stakeholder-Kommunikation Kommunikation mit Regulierungsbehörden (in Deutschland: Bundesnetzagentur als AI Office), Betriebsräten, Medien und der Öffentlichkeit.

Notified Bodies und Zertifizierung

Für Hochrisiko-KI schreibt der EU AI Act vor, dass unabhängige Konformitätsbewertungsstellen (Notified Bodies) die Systeme prüfen. KI-Ethik-Beauftragte müssen mit diesen Stellen zusammenarbeiten und Unternehmen auf externe Audits vorbereiten.

Beispiele

Beispiel Medienunternehmen: Ein öffentlich-rechtlicher Sender setzt einen Inhaltsempfehlungsalgorithmus ein, der nach EU AI Act als Hochrisiko-System eingestuft wird. Die KI-Ethik-Beauftragte führt eine Folgenabschätzung durch, dokumentiert das System nach Vorgabe und entwickelt ein Monitoring-System für algorithmische Diskriminierung gegen Minderheitsperspektiven.

Beispiel HR-KI: Ein Großunternehmen nutzt ein KI-System für die Vorauswahl von Bewerbungen. Die KI-Ethik-Beauftragte stellt sicher, dass das System auf Bias überprüft wurde (keine Benachteiligung nach Geschlecht, Herkunft), die Entscheidungen erklärbar sind und Bewerber Einspruchsrecht haben.

Beispiel Chatbot-Transparenz: Ein Finanzdienstleister setzt einen KI-Chatbot im Kundenservice ein. Der Conversational Designer / Conversational Designerin und die KI-Ethik-Beauftragte arbeiten zusammen, um sicherzustellen, dass Nutzer zu jedem Zeitpunkt erkennen können, dass sie mit einer KI interagieren (EU AI Act Art. 52).

In der Praxis

Qualifikationsprofil

Für die Rolle werden typischerweise gesucht:

• Rechtliches Wissen: Vertieftes Verständnis des EU AI Acts, der DSGVO, des Produkthaftungsrechts; Kenntnisse in Datenschutzrecht (CIPP/E-Zertifizierung von Vorteil)
• Technisches Verständnis: Kein Deep-Learning-Experte, aber ausreichend Kenntnisse, um technische Risiken beurteilen zu können
• Ethik und Philosophie: Grundkenntnisse in angewandter Ethik, deontologischen und konsequentialistischen Ansätzen
• Kommunikationsfähigkeit: Brückenfunktion zwischen Tech, Legal und Business erfordert außergewöhnliche Kommunikationsstärke
• Projektmanagement: Governance-Prozesse managen, viele Stakeholder koordinieren

Ausbildungswege

Einen Standardausbildungsweg gibt es noch nicht. Typische Pfade:

• Jurastudium + KI-Zusatzausbildung (z. B. LL.M. Technology & Privacy Law)
• Philosophie/Ethik + Tech-Quereinsteig
• Informatik + Ethik-Zusatzqualifikation
• Zertifikatsprogramme: IAPP AI Governance Professional (AIGP), TÜV AI Manager, IEEE Ethically Aligned Design Certificate
• Deutsche Programme: Fraunhofer IAIS bietet Schulungen zu KI-Ethik und EU AI Act an

Marktlage und Gehalt (2024)

Die Nachfrage übersteigt das Angebot erheblich. Laut LinkedIn Jobs Report (2024) wuchs die Anzahl ausgeschriebener AI Ethics-Stellen in Deutschland 2023 um 180 % gegenüber dem Vorjahr.

• Einsteiger (mit Zertifikat/erstem Berufsjahr): 55.000–70.000 € brutto/Jahr
• Erfahrene Fachkräfte: 80.000–120.000 € brutto/Jahr
• Head of AI Ethics / CAEO in Konzernen: 120.000–180.000 € brutto/Jahr

Vergleich & Abgrenzung

KI-Ethik-Beauftragte/r vs. Datenschutzbeauftragte/r: Der Datenschutzbeauftragte (DSB) fokussiert auf die DSGVO und den Schutz personenbezogener Daten. Der KI-Ethik-Beauftragte hat einen breiteren Blick: auch Diskriminierung, gesellschaftliche Auswirkungen, Sicherheit und EU AI Act-Compliance. Beide Rollen arbeiten eng zusammen.

KI-Ethik-Beauftragte/r vs. [KI-Coach und KI-Trainer/in für Unternehmen](/wiki/berufsfelder/ki-berufe/ki-coach/): KI-Coaches schulen Mitarbeitende in der KI-Nutzung. KI-Ethik-Beauftragte überwachen und steuern die ethische Qualität von KI-Systemen. Overlap besteht bei internen Awareness-Programmen.

Häufige Fragen (FAQ)

Ab welcher Unternehmensgröße braucht man eine/n KI-Ethik-Beauftragte/n? Der EU AI Act schreibt keine Mindeststellen vor, aber Hochrisiko-KI erfordert nachweisliche Compliance-Strukturen. Für KMUs sind externe Berater oder geteilte Funktionen realistisch. Ab ca. 500 Mitarbeitern mit aktivem KI-Einsatz ist eine dedizierte Rolle empfehlenswert.

Kann KI selbst bei der KI-Ethik helfen? KI-Tools können Compliance-Dokumentation unterstützen, Risiko-Checklisten strukturieren und Bias in Datensätzen erkennen. Die eigentliche Urteilsbildung bleibt Menschenaufgabe – KI-Ethik durch KI-Ethik zu ersetzen wäre selbst ethisch problematisch.

Welche Zertifizierung ist aktuell am wertvollsten? Das IAPP AIGP (AI Governance Professional) gilt seit 2024 als international anerkannte Referenz. In Deutschland hat TÜV Rheinland ein spezialisiertes AI-Manager-Zertifikat entwickelt.

Verwandte Einträge

• KI-Berufe im Überblick
• KI-Produktmanager / KI-Produktmanagerin
• KI-Coach und KI-Trainer/in für Unternehmen
• Conversational Designer / Conversational Designerin
• Synthetic Media Specialist

Weiterführend

• EU (2024): Verordnung (EU) 2024/1689 – Artificial Intelligence Act. Amtsblatt der Europäischen Union, 12. Juli 2024.
• Mitchell, Margaret et al. (2019): Model Cards for Model Reporting. FAccT Conference 2019.
• Floridi, Luciano et al. (2018): AI4People – An Ethical Framework for a Good AI Society. Minds and Machines, 28(4), 689–707.
• Jobin, Anna / Ienca, Marcello / Vayena, Effy (2019): The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9), 389–399.
• Fraunhofer IAIS (2023): AI Ethics Impact Group: Whitepaper zur Umsetzung des EU AI Acts. Sankt Augustin.
• IAPP (2024): AI Governance Professional (AIGP) Certification Guide. International Association of Privacy Professionals.