EU AI Act ist die weltweit erste umfassende gesetzliche Regulierung für Künstliche Intelligenz, verabschiedet 2024 von der Europäischen Union, die KI-Systeme anhand ihres Risikopotenzials in vier Kategorien einteilt und reguliert.
Rubrik: GenAI & Content Creation · Unterrubrik: KI-Ethik & Gesellschaft · Niveau: Einsteiger Synonyme / Auch bekannt als: Artificial Intelligence Act, AI Act, AIA, KI-Verordnung, EU-KI-Gesetz, Verordnung (EU) 2024/1689, EU AI Act Risikoklassen
Was ist der EU AI Act?
Der EU AI Act (Verordnung (EU) 2024/1689) ist das erste verbindliche und umfassende Gesetzeswerk zur Regulierung Künstlicher Intelligenz weltweit. Er wurde am 12. Juli 2024 im Amtsblatt der Europäischen Union veröffentlicht und trat am 1. August 2024 in Kraft; seine Regeln werden schrittweise anwendbar. Die Verordnung gilt für Anbieter, die KI-Systeme in der EU in Verkehr bringen, für Betreiber in der EU und für Anbieter und Betreiber aus Drittstaaten, wenn die Ergebnisse ihrer KI-Systeme in der EU verwendet werden (Art. 2). Damit setzt die EU ähnlich wie mit der Datenschutz-Grundverordnung (DSGVO) einen Regulierungsstandard, der auch außereuropäische Unternehmen wie OpenAI, Google oder Meta bindet.
Für die Medienbranche ist der AI Act in mehrfacher Hinsicht relevant: Medienunternehmen nutzen KI zur Inhaltsproduktion, zur personalisierten Ausspielung, zur Moderation und für Targeting. Der AI Act legt dafür Verbote, Hochrisikobereiche und allgemeine Transparenzpflichten fest.
Erklärung
Entstehungsgeschichte und Ziele
Die Europäische Kommission legte im April 2021 ihren Verordnungsentwurf vor. In den Verhandlungen kamen insbesondere Regeln für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) hinzu, die im ursprünglichen Entwurf nicht vorgesehen waren. Ziele des AI Act sind der Schutz von Gesundheit, Sicherheit und Grundrechten, Vertrauen in KI und ein funktionierender Binnenmarkt mit einheitlichen Regeln. Die Verordnung folgt einem risikobasierten Ansatz, der an das europäische Produktsicherheitsrecht angelehnt ist: Je mehr Schaden ein KI-System für Gesundheit, Sicherheit und Grundrechte anrichten kann, desto strenger ist die Regulierung. Wo das Risiko gering ist, soll Innovation möglichst ungehindert bleiben.
Das Vier-Stufen-Risikomodell
Das Herzstück des EU AI Act ist die Einteilung von KI-Systemen in vier Risikoklassen:
Stufe 1, Unzulässige KI (verboten seit 2. Februar 2025): Bestimmte KI-Praktiken sind verboten (Art. 5), weil ihr Schadenspotenzial als nicht akzeptabel gilt:
- Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zur Strafverfolgung, mit eng gefassten Ausnahmen (etwa gezielte Suche nach Entführungsopfern, Abwehr einer konkreten terroristischen Bedrohung). Die nachträgliche biometrische Fernidentifizierung ist nicht verboten, gilt aber als Hochrisiko-KI.
- Ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachung für Gesichtserkennungsdatenbanken.
- Biometrische Kategorisierung nach sensiblen Merkmalen wie politischer Einstellung, Religion oder sexueller Orientierung.
- Social Scoring, unabhängig davon, ob Behörden oder Unternehmen es betreiben.
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen.
- Manipulation und Ausnutzung von Schwächen wegen Alter, Behinderung oder sozialer Lage, wenn Menschen dadurch erheblich geschadet werden kann.
- Vorhersage von Straftaten allein auf Basis von Profiling oder Persönlichkeitsmerkmalen; Systeme, die eine menschliche Bewertung auf Grundlage objektiver Tatsachen unterstützen, fallen nicht darunter.
Seit der Omnibus-Änderung 2026 kommt ab 2. Dezember 2026 ein Verbot von KI-Systemen zur Erzeugung nicht einvernehmlicher intimer Bilder und von Missbrauchsdarstellungen hinzu.
Stufe 2, Hochrisiko-KI: KI in regulierten Produkten und in den Bereichen des Anhangs III (u. a. kritische Infrastruktur, Bildung, Beschäftigung, Kreditwürdigkeitsprüfung, Biometrie, Strafverfolgung und Justiz) unterliegt strengen Anforderungen: Risikomanagement, Daten-Governance, technische Dokumentation, menschliche Aufsicht, Konformitätsbewertung mit CE-Kennzeichnung und Registrierung in der EU-Datenbank. Anhang I erfasst etwa Medizinprodukte, Maschinen und Spielzeug; Anhang III nennt acht Bereiche, darunter auch Migration und Grenzkontrolle sowie demokratische Prozesse. Details zu Einstufung, Anbieter- und Betreiberpflichten stehen im Eintrag EU AI Act: Hochrisiko-KI-Systeme und Pflichten.
Stufe 3, KI mit Transparenzpflichten: Chatbots müssen sich als KI zu erkennen geben, außer das ist offensichtlich; Anbieter generativer KI müssen synthetische Audio-, Bild-, Video- und Textausgaben maschinenlesbar markieren; Deepfakes und KI-Texte zu Themen von öffentlichem Interesse müssen offengelegt werden (Art. 50).
Stufe 4, Minimales Risiko: Spamfilter, KI in Videospielen oder viele Empfehlungsalgorithmen unterliegen keinen besonderen Pflichten; freiwillige Verhaltenskodizes werden empfohlen. Das betrifft die große Mehrheit aller KI-Anwendungen. Die Pflicht zur KI-Kompetenz (Art. 4) gilt allerdings unabhängig von der Risikoklasse.
General Purpose AI (GPAI), Regeln für Basismodelle
Eine wichtige Neuerung sind die GPAI-Regeln (Art. 51-56 EU AI Act), anwendbar seit dem 2. August 2025: Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, etwa den Sprachmodellen hinter ChatGPT, Gemini oder Claude, müssen technische Dokumentation bereitstellen, eine Strategie zur Einhaltung des Urheberrechts haben und eine Zusammenfassung der Trainingsinhalte veröffentlichen. Modelle mit systemischem Risiko haben zusätzliche Pflichten wie Modellbewertungen mit Adversarial Testing, Meldung schwerwiegender Vorfälle und angemessene Cybersicherheit; ein systemisches Risiko wird vermutet, wenn für das Training mehr als 10²⁵ Gleitkommaoperationen (FLOP) aufgewendet wurden. GPAI-Modelle liegen damit quer zum Vier-Stufen-Modell: Sie werden nicht selbst in eine Risikoklasse eingestuft; die Einstufung greift bei den konkreten KI-Systemen, die auf ihnen aufbauen. Die Kommission veröffentlichte am 10. Juli 2025 einen freiwilligen Verhaltenskodex (General-Purpose AI Code of Practice) mit den Kapiteln Transparenz, Urheberrecht sowie Sicherheit.
Umsetzungszeitplan (2024-2028)
- 12. Juli 2024: Veröffentlichung im Amtsblatt der EU
- 1. August 2024: Inkrafttreten der Verordnung
- 2. Februar 2025: Verbote (Art. 5) und Pflicht zur KI-Kompetenz (Art. 4) gelten
- 2. August 2025: GPAI-Regeln (Art. 51-56), Governance und Sanktionsvorschriften gelten
- 2. August 2026: Transparenzpflichten (Art. 50) gelten; für die maschinenlesbare Markierung durch generative Systeme, die schon vorher in Verkehr gebracht wurden, gilt eine Frist bis 2. Dezember 2026
- 2. Dezember 2027: Hochrisiko-Pflichten für KI-Systeme nach Anhang III (z. B. HR-KI, Kreditscoring, Bildungs-KI)
- 2. August 2028: Hochrisiko-Pflichten für KI in regulierten Produkten nach Anhang I (z. B. Medizinprodukte, Maschinen)
- 01.08.2024Inkrafttreten der Verordnung
- 02.02.2025Verbote (Art. 5) und Pflicht zur KI-Kompetenz (Art. 4)
- 02.08.2025GPAI-Regeln, Governance und Sanktionen
- 02.08.2026Transparenzpflichten nach Art. 50
- 02.12.2026Frist für maschinenlesbare Markierung bei Bestandssystemen
- 02.12.2027Hochrisiko-KI nach Anhang III
- 02.08.2028Hochrisiko-KI in Produkten nach Anhang I
Die beiden Hochrisiko-Termine gehen auf die Omnibus-Verordnung (EU) 2026/1744 zurück (Amtsblatt vom 24. Juli 2026), die auch die Pflicht zur KI-Kompetenz nach Art. 4 neu gefasst hat (Stand: November 2026).
Durchsetzung und Bußgelder
Die Durchsetzung obliegt nationalen Marktüberwachungsbehörden; GPAI-Modelle beaufsichtigt das AI Office der Europäischen Kommission. In Deutschland ist seit dem 29. Juli 2026 nach dem KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG vom 22.07.2026, BGBl. 2026 I Nr. 223) die Bundesnetzagentur zentrale Marktüberwachungsbehörde. Bußgelder (Art. 99):
- Verbotene KI-Praktiken: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes
- Verstöße gegen andere Pflichten, etwa für Hochrisiko-KI oder Art. 50: bis zu 15 Millionen Euro oder 3 %
- Falsche, unvollständige oder irreführende Angaben gegenüber Behörden: bis zu 7,5 Millionen Euro oder 1 %
Bedeutung für Medienproduktion und Content Creation
Für Kreativschaffende sind vor allem die Transparenzpflichten relevant. Anbieter generativer KI-Tools müssen Ausgaben maschinenlesbar markieren. Wer KI beruflich einsetzt, muss Deepfakes, also realistisch wirkende synthetische Darstellungen existierender Personen, Orte oder Ereignisse, offenlegen; bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken genügt ein zurückhaltender Hinweis. KI-generierte Texte zu Themen von öffentlichem Interesse müssen offengelegt werden, außer sie wurden redaktionell geprüft und verantwortet. Für Werbeagenturen heißt das: Realistische KI-Darstellungen echter Personen brauchen einen Hinweis. Targeting mit manipulativen Techniken, die Menschen erheblich schaden können, ist verboten.
Beispiele
- YouTube-Offenlegung (März 2024): YouTube verlangt seit März 2024, dass Creators realistische Inhalte offenlegen, die mit veränderten oder synthetischen Medien erstellt wurden und mit echten Personen, Orten oder Ereignissen verwechselt werden könnten. Das Label erscheint in der Videobeschreibung, bei sensiblen Themen direkt im Video.
- GPAI-Verhaltenskodex (2025): Den Verhaltenskodex der Kommission für GPAI-Modelle unterzeichneten unter anderem OpenAI, Anthropic, Google, Microsoft, Mistral AI und Aleph Alpha; xAI unterzeichnete nur das Kapitel Sicherheit.
- Aufsicht in Deutschland (2026): Mit dem KI-MIG wurde die Bundesnetzagentur zur zentralen Marktüberwachungsbehörde; Fachaufsichten wie BaFin und Landesmedienanstalten behalten ihre Zuständigkeiten.
- Verbotene Praxis, Clearview AI: Das Unternehmen baute eine Gesichtserkennungsdatenbank aus Milliarden öffentlich gesammelter Fotos auf. Mehrere EU-Datenschutzbehörden verhängten bereits Bußgelder nach der DSGVO; ein solches ungezieltes Auslesen von Gesichtsbildern fällt heute unter das Verbot des Art. 5.
- Emotionsanalyse in Redaktionen: Ein Verlag, der die emotionale Stimmung seiner Mitarbeitenden per KI auswertet, verstößt gegen das Verbot der Emotionserkennung am Arbeitsplatz. Emotionserkennung bei Testpersonen in der Marktforschung ist dagegen nicht verboten, kann aber unter Anhang III fallen und Transparenzpflichten nach Art. 50 Abs. 3 auslösen.
- Deepfake in der Werbung: Simuliert ein Unternehmen per KI eine bekannte Person in einem Werbevideo, ist das offenzulegen; daneben kann das Recht am eigenen Bild verletzt sein.
- Redaktionelle KI-Texte: Ein Nachrichtenportal, das automatisch erzeugte Kurzmeldungen ohne redaktionelle Prüfung veröffentlicht, muss sie seit dem 2. August 2026 als KI-generiert offenlegen; prüft und verantwortet eine Redaktion die Texte, entfällt diese Pflicht.
In der Praxis
Für Freelancer/innen und kleine Kreativunternehmen: Die Pflichten nach Art. 50 Abs. 4 treffen alle, die KI beruflich einsetzen, auch Einzelpersonen; rein private, nicht berufliche Nutzung ist vom AI Act ausgenommen. Ein klarer Hinweis wie „Erstellt mit generativer KI“ und C2PA-Herkunftsangaben helfen bei der Offenlegung. Für kleine und mittlere Unternehmen gelten Erleichterungen, etwa eine vereinfachte technische Dokumentation bei Hochrisiko-KI und bei Bußgeldern jeweils der niedrigere der beiden Höchstbeträge (Art. 99 Abs. 6); von Verboten und Transparenzpflichten sind sie nicht ausgenommen.
Für Agenturen und Medienhäuser: Bewährt hat sich ein strukturiertes Vorgehen:
- KI-Inventur: Welche KI-Systeme werden eingesetzt (selbst entwickelt oder eingekauft), was tun sie, welche Daten nutzen sie, entscheiden sie automatisiert über Menschen? Welcher Risikoklasse gehören sie an?
- Rollenklärung: Ist das Unternehmen Anbieter, Betreiber (Deployer) oder beides? Die Pflichten unterscheiden sich erheblich.
- Transparenz umsetzen: Hinweise bei KI-generierten Texten, Bildern und Videos technisch und redaktionell verankern.
- Schulung: Maßnahmen zur KI-Kompetenz des Personals ergreifen (Art. 4) und dokumentieren.
Eine grobe Einordnung für Medienagenturen: KI-Werbemittel mit realen Personen fallen unter die Transparenzpflichten (Offenlegung als Deepfake), ein KI-Tool zur Personalauswahl unter Hochrisiko (ab 2. Dezember 2027), ein Kundenservice-Chatbot unter die Hinweispflicht, KI-Bildoptimierung ohne Personendarstellung in der Regel unter minimales Risiko. Bei Unklarheiten helfen die Leitlinien der Kommission und der Bundesnetzagentur, die in Deutschland Ansprechpartnerin ist. Sehr große Online-Plattformen unterliegen bei Empfehlungsalgorithmen zusätzlich dem Digital Services Act.
Vergleich & Abgrenzung
Der EU AI Act ist kein Datenschutzgesetz, das bleibt die DSGVO. Er ist auch kein Urheberrechtsgesetz, das bleiben das UrhG und die DSM-Richtlinie; nur über die GPAI-Pflichten (Art. 53) verweist er auf das Urheberrecht. Der EU AI Act regelt die Sicherheit, Transparenz und Zuverlässigkeit von KI-Systemen. In den USA gibt es kein vergleichbares umfassendes Bundesgesetz. Das Risikomodell ähnelt der Produktregulierung mit CE-Kennzeichnung, etwa der Klassifizierung von Medizinprodukten nach der Verordnung (EU) 2017/745.
| Aspekt | EU AI Act | DSGVO |
|---|---|---|
| Fokus | KI-Systeme und -Modelle | Personenbezogene Daten |
| Risikostufenmodell | Ja (4 Stufen) | Nein |
| Transparenzpflichten | Ja (KI-Kennzeichnung) | Ja (Datenschutzinformationen) |
| Höchste Bußgelder | 35 Mio. Euro / 7 % | 20 Mio. Euro / 4 % |
| Anwendbarkeit | 2025-2028 (stufenweise) | seit 2018 |
Häufige Fragen
Gilt der EU AI Act auch für außereuropäische KI-Anbieter? Ja. Wer KI-Systeme in der EU anbietet oder wessen KI-Ergebnisse in der EU verwendet werden, fällt unter den AI Act, unabhängig vom Unternehmenssitz (Art. 2).
Wie unterscheidet sich der EU AI Act von der DSGVO in der Praxis? Die DSGVO regelt den Umgang mit personenbezogenen Daten; der EU AI Act regelt KI-Systeme und -Modelle. Beide können gleichzeitig anwendbar sein: Eine KI, die personenbezogene Daten verarbeitet, muss beide Regelwerke einhalten. Viele Unternehmen bauen ihre KI-Governance deshalb auf bestehenden DSGVO-Prozessen auf.
Muss ein kleines Medienunternehmen den AI Act einhalten? Ja, wer KI-Systeme auf dem EU-Markt anbietet oder einsetzt, ist unabhängig von der Größe betroffen. Für KMU und Start-ups gilt bei Bußgeldern jeweils der niedrigere der beiden Höchstbeträge (Art. 99 Abs. 6), außerdem gibt es Erleichterungen etwa bei der technischen Dokumentation.
Was gilt für ChatGPT und ähnliche Tools in der Redaktion? Als Betreiber muss eine Redaktion Deepfakes offenlegen und KI-generierte Texte zu Themen von öffentlichem Interesse kennzeichnen, außer sie wurden redaktionell geprüft und verantwortet (Art. 50 Abs. 4). Dazu kommt die Pflicht zur KI-Kompetenz des Personals (Art. 4).
Was müssen Kreative seit August 2026 kennzeichnen? Deepfakes und KI-Texte zu Themen von öffentlichem Interesse ohne redaktionelle Verantwortung müssen offengelegt werden (Art. 50 Abs. 4). Die maschinenlesbare Markierung ist Sache der Anbieter der KI-Tools. Im Einzelfall hilft eine Anwältin oder ein Anwalt.
Verwandte Einträge
- EU AI Act: Hochrisiko-KI-Systeme und Pflichten
- KI-Transparenz in der Werbung
- Deepfake
- KI und Urheberrecht
- Deepfakes und Recht: Persönlichkeitsrechte
Weiterführend
- Verordnung (EU) 2024/1689 (Artificial Intelligence Act). eur-lex.europa.eu
- Verordnung (EU) 2026/1744 (Omnibus-Änderung des AI Act), Amtsblatt vom 24.07.2026. eur-lex.europa.eu/eli/reg/2026/1744/oj
- Europäische Kommission (2025): The General-Purpose AI Code of Practice, 10.07.2025. digital-strategy.ec.europa.eu
- Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG) vom 22.07.2026, BGBl. 2026 I Nr. 223. gesetze-im-internet.de
- Laux, J. / Wachter, S. / Mittelstadt, B. (2024): Trustworthy artificial intelligence and the European Union AI act: On the conflation of trustworthiness and acceptability of risk. Regulation & Governance 18, S. 3-32
- YouTube Official Blog (2024): How we're helping creators disclose altered or synthetic content, 18.03.2024. blog.youtube
