EU AI Act Risikokategorien sind die vier Risikoklassen (unzulässig, hochriskant, begrenzt, minimal), nach denen der EU AI Act alle KI-Systeme einstuft und unterschiedlich strenge Anforderungen vorschreibt.
Rubrik: GenAI & Content Creation · Unterrubrik: KI-Ethik & Gesellschaft · Niveau: Einsteiger Synonyme / Auch bekannt als: Risikoklassen, Risikostufen, AI Risk Classification, Hochrisiko-KI, verbotene KI-Systeme
Was sind die EU AI Act Risikokategorien?
Der EU AI Act (Verordnung (EU) 2024/1689) folgt einem risikobasierten Regulierungsansatz, der aus dem europäischen Produktsicherheitsrecht entlehnt ist: Ähnlich wie Chemikalien oder Medizinprodukte nach ihrem Gefährlichkeitspotenzial reguliert werden, werden KI-Systeme nach dem Risiko eingestuft, das sie für die Grundrechte, die Sicherheit und das gesellschaftliche Wohl darstellen. Je höher das Risiko, desto strenger die Anforderungen. Das Modell soll Innovation ermöglichen, wo das Risiko gering ist, und gleichzeitig dort konsequent einschreiten, wo KI-Systeme Schaden anrichten können.
Erklärung
Kategorie 1: Unzulässige KI-Systeme (verboten)
Artikel 5 des EU AI Act listet KI-Systeme auf, die vollständig verboten sind, weil ihr Schadenspotenzial als nicht akzeptabel gilt. Diese Verbote traten im Februar 2025 in Kraft. Im Einzelnen verboten sind:
Biometrische Echtzeitidentifizierung in öffentlichen Räumen durch Strafverfolgungsbehörden – mit sehr eng gefassten Ausnahmen (z. B. Suche nach vermissten Kindern, Abwehr schwerer Bedrohungen). Das Verbot gilt für den Einsatz durch Behörden; private Echtzeit-Biometrie ist nicht grundsätzlich verboten, aber durch andere Gesetze begrenzt.
Biometrische Fernidentifizierung zu nicht-strafrechtlichen Zwecken – also das nachträgliche Durchsuchen von Videoarchiven zur Identifizierung von Personen – ist für Behörden ebenfalls verboten, sofern kein richterlicher Beschluss vorliegt.
Social Scoring: KI-Systeme, die Personen anhand ihres Verhaltens, ihrer persönlichen oder sozialen Merkmale oder Charaktereigenschaften bewerten und auf Basis dieser Bewertung benachteiligen, sind verboten.
Emotionserkennung: KI-Systeme zur Erkennung von Emotionen von Arbeitnehmerinnen und Arbeitnehmern sowie Schülerinnen und Schülern am Arbeitsplatz und in Bildungseinrichtungen sind verboten. Ausnahmen gelten für medizinische oder Sicherheitszwecke.
Manipulation durch unbewusste Beeinflussung: KI-Systeme, die unterschwellige Techniken einsetzen, die das Unterbewusstsein von Personen beeinflussen (z. B. Hypnosetechniken, nicht wahrnehmbare Stimuli) oder Schwachstellen bestimmter Gruppen (Kinder, Menschen mit Behinderungen) ausnutzen, um ihr Verhalten zu steuern, sind verboten.
Prädiktive Polizeiarbeit: KI-Systeme zur Erstellung von Risikoprofilen natürlicher Personen ausschließlich auf Basis von Persönlichkeitsmerkmalen sind verboten; datengestützte Risikoanalyse auf Basis tatsächlicher Verhaltens- oder Standortdaten kann dagegen zulässig bleiben.
Kategorie 2: Hochrisiko-KI-Systeme
Anhang III des EU AI Act listet acht Kategorien von Hochrisiko-KI auf. Anbieter solcher Systeme müssen vor dem Inverkehrbringen umfangreiche Compliance-Pflichten erfüllen:
- Biometrische Systeme (außer den verbotenen): biometrische Kategorisierung und Identifizierung
- Kritische Infrastruktur: Wasser, Energie, Verkehr, Digitale Infrastruktur
- Bildung und Berufsausbildung: Systeme zur Prüfungsbewertung, Zulassung zu Bildungseinrichtungen
- Beschäftigung und Personalverwaltung: Recruiting-KI, Leistungsbewertung
- Wesentliche Dienste: Kredit-Scoring, Sozialleistungen, Notfalldienste
- Strafverfolgung: Risikoabschätzung, Polygraph-ähnliche Systeme
- Migration und Grenzschutz: Risikoprofilierung von Reisenden
- Justiz und demokratische Prozesse: KI in Gerichtsverfahren, Wahlbeeinflussung
Pflichten für Hochrisiko-KI-Anbieter (Art. 9–17 EU AI Act):
- Risikomanagementsystem einrichten und dokumentieren
- Technische Dokumentation erstellen (Art. 11)
- Datenqualität sicherstellen (Art. 10)
- Transparenz und Bereitstellung von Informationen für Nutzer (Art. 13)
- Menschliche Aufsicht ermöglichen (Art. 14)
- Genauigkeit, Robustheit und Cybersicherheit gewährleisten (Art. 15)
- In der EU-Datenbank registrieren (Art. 71)
- Konformitätsbewertung und CE-Kennzeichnung (Art. 43)
Kategorie 3: KI-Systeme mit begrenztem Risiko
Für diese Systeme gelten hauptsächlich Transparenzpflichten (Art. 50 EU AI Act):
- Chatbots und konversationale KI: Nutzerinnen und Nutzer müssen informiert werden, dass sie mit einer KI interagieren – außer wenn dies offensichtlich ist.
- Synthetische Medien (Deepfakes): KI-generierte oder KI-bearbeitete Bilder, Videos und Audioinhalte, die reale Personen, Orte oder Ereignisse täuschend echt darstellen, müssen als solche gekennzeichnet sein. Ausnahmen gelten für offensichtliche Satire und Kunst.
- KI-generierte Texte: Texte zu öffentlichen Angelegenheiten, die von KI generiert werden, müssen als KI-generiert erkennbar sein.
Für Medienproduzierende ist diese Kategorie besonders relevant: Alle realistischen Darstellungen realer Personen in KI-generierten Inhalten brauchen ein Label.
Kategorie 4: KI-Systeme mit minimalem Risiko
Die große Mehrheit aller KI-Anwendungen fällt in diese Kategorie: Spam-Filter, KI in Videospielen, Empfehlungsalgorithmen für Musik-Streaming, einfache Bildbearbeitungs-KI ohne Personendarstellung. Für diese Systeme gibt es keine spezifischen Pflichten – freiwillige Verhaltenskodizes und ethische KI-Prinzipien werden empfohlen.
GPAI als Querschnittskategorie
General Purpose AI-Modelle (GPAI) wie GPT-4, Gemini oder Llama schneiden quer durch das Risikomodell: Sie sind selbst nicht nach den vier Kategorien eingestuft, unterliegen aber eigenen Regeln (Titel VIII, Art. 51–56). Die Klassifizierung nach Risikoklassen greift erst bei konkreten KI-Systemen, die auf GPAI-Modellen aufbauen.
Beispiele
- Verbotene KI – Clearview AI: Das Unternehmen Clearview AI betrieb eine Gesichtserkennung-Datenbank mit Millarden von öffentlich gescrapten Fotos. Mehrere EU-Datenschutzbehörden verhängten bereits Bußgelder (DSGVO), das System wäre unter dem EU AI Act als verbotene biometrische Fernidentifizierung einzustufen.
- Hochrisiko – Recruiting-KI: Amazons internes KI-Recruiting-Tool, das weibliche Bewerberinnen systematisch benachteiligte und 2018 abgeschaltet wurde, ist ein Paradebeispiel für Hochrisiko-KI, für die nun strenge Bias-Tests und menschliche Aufsicht vorgeschrieben wären.
- Begrenztes Risiko – Chatbot-Kennzeichnung: Nachdem der EU AI Act die Chatbot-Kennzeichnung vorschrieb, führten Meta AI, Bing Copilot und andere Systeme sichtbare Hinweise ein, dass Nutzerinnen und Nutzer mit KI interagieren.
- Minimales Risiko – Spotify-Empfehlungen: Spotifys Musikempfehlungsalgorithmus fällt unter minimales Risiko und braucht keine besondere Kennzeichnung oder Risikoanalyse.
- Grenzfall – Emotion in Werbung: Ein Werbetool, das Emotionserkennung bei Testkonsumenten für Marktforschung einsetzt, befand sich 2024 in einer rechtlichen Grauzone; das Verbot der Emotionserkennung am Arbeitsplatz umfasst nicht explizit Konsumenten in Marktforschungssettings – aber das EU AI Office arbeitet an Leitlinien.
In der Praxis
KI-Inventur für Unternehmen: Der erste Schritt zur EU AI Act-Compliance ist eine systematische Bestandsaufnahme aller eingesetzten KI-Systeme und ihre Einordnung in die Risikoklassen. Für jedes System sollte dokumentiert werden: Was tut es? Für wen? Welche Daten nutzt es? Trifft es automatisiert Entscheidungen, die Menschen betreffen?
Checkliste für Medienagenturen:
- KI-generierte Werbemittel mit realen Personen? → Kategorie 3, Kennzeichnung verpflichtend
- KI-gestütztes Personalrekrutierungs-Tool? → Kategorie 2, Hochrisiko-Compliance nötig
- KI-Chatbot im Kundenservice? → Kategorie 3, Kennzeichnung als KI verpflichtend
- KI-gestützte Bildoptimierung ohne Personendarstellung? → Kategorie 4, keine Pflichten
Vergleich & Abgrenzung
Das EU AI Act-Risikomodell ähnelt dem CE-Kennzeichnungssystem für Produkte oder der Klassifizierung von Medizinprodukten (Richtlinie 93/42/EWG). Es unterscheidet sich von einer pauschalen Regulierung, die für alle KI gilt. Verglichen mit dem US-amerikanischen Ansatz (Executive Order, freiwillige Commitments) ist der risikobasierte EU-Ansatz verbindlicher und detaillierter.
Häufige Fragen (FAQ)
Was passiert, wenn ich nicht weiß, in welche Risikoklasse mein KI-Tool fällt? Das EU AI Office und die nationalen Behörden stellen Leitfäden und Self-Assessment-Tools bereit. Im Zweifel gilt: Bei Systemen, die automatisierte Entscheidungen über Menschen treffen, ist rechtliche Beratung empfehlenswert. Das Stanford RegLab hat zudem ein kostenloses Classification Tool entwickelt.
Können Risikoklassen nachträglich geändert werden? Ja. Anhang III des EU AI Act kann von der Europäischen Kommission per delegiertem Rechtsakt ergänzt werden, wenn neue KI-Technologien neue Risiken schaffen. Unternehmen müssen ihre KI-Systeme deshalb regelmäßig neu bewerten.
Verwandte Einträge
Weiterführend
- Europäische Kommission (2024): Verordnung (EU) 2024/1689, Anhänge I–IX. eur-lex.europa.eu
- EU AI Office (2024): Classification of AI Systems. digital-strategy.ec.europa.eu
- Smuha, N. A. (2021): The EU Approach to Ethics Guidelines for Trustworthy Artificial Intelligence. Computer Law Review International, 4/2021
- Netzpolitik.org (2024): Was der EU AI Act konkret bedeutet. netzpolitik.org
