EU AI Act ist die weltweit erste umfassende gesetzliche Regulierung für Künstliche Intelligenz, die 2024 von der Europäischen Union verabschiedet wurde und risikostufenartig verschiedene KI-Anwendungen reguliert.
Rubrik: GenAI & Content Creation · Unterrubrik: KI-Ethik & Recht · Niveau: Einsteiger Synonyme / Auch bekannt als: KI-Verordnung, Artificial Intelligence Act, AI Act, EU-KI-Gesetz, Verordnung (EU) 2024/1689
Was ist der EU AI Act?
Der EU AI Act (offiziell: Verordnung (EU) 2024/1689) ist die erste und bis dato einzige umfassende gesetzliche Regulierung für Künstliche Intelligenz weltweit. Er wurde im Mai 2024 vom Europäischen Parlament und Rat verabschiedet und im Juli 2024 im Amtsblatt der EU veröffentlicht. Der EU AI Act gilt für alle KI-Systeme, die in der EU eingesetzt oder deren Ergebnisse in der EU genutzt werden – unabhängig davon, ob der Anbieter seinen Sitz in Europa hat oder nicht. Damit hat die EU globale Regulierungsstandards gesetzt, ähnlich wie es die DSGVO für den Datenschutz getan hat.
Erklärung
Das Risikoklassen-System
Der EU AI Act klassifiziert KI-Systeme nach dem Risiko, das sie für Grundrechte und Sicherheit darstellen – ähnlich dem Chemikalienrecht, das Stoffe nach Gefährlichkeit reguliert. Es gibt vier Risikoklassen:
#### 1. Unzulässige KI (verboten)
Bestimmte KI-Systeme sind vollständig verboten, weil sie fundamentale Grundrechte verletzen:
- Biometrische Massenüberwachung in öffentlichen Räumen durch Behörden (Ausnahmen für die Strafverfolgung in eng definierten Fällen)
- Social Scoring-Systeme (Bewertung von Bürger:innen durch staatliche Stellen nach Verhalten oder persönlichen Eigenschaften)
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen
- Prädiktive Polizeiarbeit auf Basis von Persönlichkeitsmerkmalen
- Manipulation von Menschen durch unterschwellige Techniken, die sie unbewusst beeinflussen
#### 2. Hochrisiko-KI
KI-Systeme mit erheblichem Risiko unterliegen strengen Anforderungen (Risikomanagement, Dokumentation, menschliche Aufsicht, Transparenz):
- KI in kritischer Infrastruktur (Energie, Wasser, Verkehr)
- Bildungs- und Berufsausbildungssysteme
- Biometrische Identifizierung
- Beschäftigung und Personalverwaltung
- Zugangssysteme zu Diensten (Kredit, Sozialleistungen)
- Strafverfolgung und Justiz
#### 3. KI mit begrenztem Risiko
Für diese Kategorie gelten hauptsächlich Transparenzpflichten:
- Chatbots und KI-Assistenten müssen offenlegen, dass es sich um KI handelt
- KI-generierte Inhalte (Texte, Bilder, Videos, Audio) müssen als solche gekennzeichnet sein
- Deepfakes müssen als KI-generiert erkennbar gemacht werden
#### 4. Minimales Risiko
KI-Systeme mit minimalem Risiko (z. B. Spam-Filter, KI in Videospielen) unterliegen keinen besonderen Anforderungen. Freiwillige Verhaltenskodizes werden empfohlen.
Foundation Models / General Purpose AI (GPAI)
Der EU AI Act enthält erstmals spezifische Regelungen für sogenannte GPAI-Modelle (General Purpose AI) – also große Basismodelle wie GPT-4, Claude oder Gemini, die für viele verschiedene Zwecke eingesetzt werden können. Anbieter solcher Modelle müssen:
- Technische Dokumentation bereitstellen
- Urheberrechtsrechtliche Compliance sicherstellen
- Zusammenfassungen der Trainingsdaten veröffentlichen
Für GPAI-Modelle mit systemischen Risiken (sehr große, besonders leistungsstarke Modelle) gelten zusätzliche Anforderungen: Adversarial Testing (Red Teaming), Meldepflicht bei schwerwiegenden Vorfällen, erhöhte Cybersicherheitsmaßnahmen.
Zeitplan der Umsetzung (2024–2027)
Der EU AI Act trat im August 2024 in Kraft, wird aber schrittweise angewendet:
- Februar 2025: Verbotene KI-Systeme sind ab jetzt illegal
- August 2025: Regeln für GPAI-Modelle und KI-Kompetenzanforderungen treten in Kraft
- August 2026: Hochrisiko-KI-Regeln werden vollständig angewendet
- August 2027: Vollständige Anwendung aller Bestimmungen
Bußgelder
Der EU AI Act sieht erhebliche Bußgelder vor:
- Verbotene KI-Systeme: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes
- Hochrisiko-KI ohne Compliance: bis zu 15 Millionen Euro oder 3 % des Jahresumsatzes
- Falsche Informationen gegenüber Behörden: bis zu 7,5 Millionen Euro oder 1,5 % des Jahresumsatzes
Bedeutung für Medienproduktion und Content Creation
Für die Medienbranche sind vor allem die Transparenzpflichten relevant: KI-generierte Bilder, Videos und Audios müssen als solche gekennzeichnet sein – besonders, wenn sie reale Personen zeigen (Deepfake-Kennzeichnung). Chatbots und KI-Assistenten müssen ihre KI-Natur offenlegen.
Für die Werbebranche bedeutet das: KI-generierte Werbeanzeigen, die täuschend echt wirken und Deepfake-ähnliche Elemente enthalten, müssen entsprechend markiert werden. Personalisierte Werbung auf Basis psychografischer Manipulation fällt unter die verbotenen Kategorien.
Beispiele
- YouTube-Kennzeichnung: Ein Video-Creator nutzt ElevenLabs, um seine Stimme zu klonen, und veröffentlicht damit Videos. Gemäß EU AI Act muss deutlich erkennbar sein, dass die Stimme KI-generiert ist. YouTube hat dies bereits in seinen Upload-Richtlinien verankert.
- Werbeagentur-Compliance: Eine Agentur erstellt mit Runway ML ein Deepfake-Video, das einen bekannten Schauspieler für ein Produkt wirbt (mit Einwilligung). Das Video muss deutlich als KI-generiert gekennzeichnet sein.
- GPAI-Anbieter-Pflichten: OpenAI muss als GPAI-Anbieter für GPT-4 technische Dokumentation und Informationen zu Trainingsdaten bereitstellen, die Aufsichtsbehörden zugänglich sind.
In der Praxis
Für Kreativschaffende und Unternehmen empfiehlt sich: 1. KI-generierte Inhalte konsequent kennzeichnen – auch wenn es noch keine einheitliche Norm gibt, schaffen Formulierungen wie „Mit KI erstellt" oder „KI-unterstützt" Transparenz. 2. Bewusstsein für die Kategorie des eigenen KI-Einsatzes entwickeln (fällt er unter Hochrisiko oder nur begrenztes Risiko?). 3. Rechtsentwicklung verfolgen – Leitlinien der Europäischen KI-Behörde (AI Office) werden laufend konkretisiert.
Vergleich & Abgrenzung
Der EU AI Act ergänzt die DSGVO (Datenschutz) und das UrhG (Urheberrecht) – er regelt nicht Datenschutz oder Urheberrecht, sondern den sicheren und transparenten Einsatz von KI-Systemen. In den USA existiert kein vergleichbares umfassendes Bundesgesetz; es gibt nur sektorale und bundesstaatliche Regelungen.
Häufige Fragen (FAQ)
Gilt der EU AI Act auch für kleine Unternehmen und Freelancer? Grundsätzlich ja, allerdings gibt es Ausnahmen: Sehr kleine Unternehmen (unter 10 Beschäftigte, unter 2 Millionen Euro Jahresumsatz) sind von einigen Pflichten entlastet oder erhalten vereinfachte Anforderungen. Dennoch gelten die Verbote (Kategorie 1) und die Transparenzpflichten für alle. Die Europäische KI-Behörde (AI Office) plant spezifische Leitlinien für KMUs.
Was bedeutet die Kennzeichnungspflicht konkret für Social Media? KI-generierte oder stark KI-bearbeitete Bilder, Videos und Audios, die in sozialen Medien veröffentlicht werden, müssen als KI-generiert erkennbar sein – besonders wenn sie reale Personen zeigen. Instagram, TikTok und YouTube haben eigene KI-Labels eingeführt. Die EU-Regelung schafft eine Rechtspflicht, die über freiwillige Plattformrichtlinien hinausgeht.
Verwandte Einträge
Weiterführend
- Europäisches Parlament (2024): Verordnung (EU) 2024/1689 – Artificial Intelligence Act. eur-lex.europa.eu
- Hacker, P. (2024): Der EU-KI-Act in der Praxis. NJW – Neue Juristische Wochenschrift, Heft 28/2024
- Future of Life Institute (2024): EU AI Act: A Summary for Practitioners. futureoflife.org
