EU AI Act

EU AI Act ist die weltweit erste umfassende gesetzliche Regulierung künstlicher Intelligenz, die risikobasierte Pflichten für alle KI-Systeme auf dem EU-Binnenmarkt festlegt.

Rubrik: Recht & Wirtschaft · Unterrubrik: Medienrecht · Niveau: Fortgeschritten Synonyme / Auch bekannt als: KI-Verordnung, Artificial Intelligence Act, AIA, Verordnung (EU) 2024/1689

Was ist der EU AI Act?

Der EU AI Act (Verordnung (EU) 2024/1689) ist die erste rechtsverbindliche, umfassende KI-Regulierung weltweit. Er wurde am 1. August 2024 im Amtsblatt der Europäischen Union veröffentlicht und tritt schrittweise in Kraft. Ziel ist es, einen einheitlichen Rechtsrahmen für die Entwicklung, das Inverkehrbringen und die Nutzung von KI-Systemen zu schaffen – mit besonderem Augenmerk auf Grundrechte, Demokratie und Sicherheit.

Für die Medienbranche ist der EU AI Act in mehrfacher Hinsicht relevant: Medienunternehmen nutzen KI zur Inhaltsproduktion, zur personalisierten Ausspielung, zur Moderation und zu Targeting-Zwecken. Der AI Act definiert dabei klare Verbote, Hochrisikobereiche und allgemeine Transparenzpflichten.

Erklärung

Das Risikostufenmodell

Der EU AI Act strukturiert KI-Systeme in vier Risikoklassen:

1. Inakzeptables Risiko (verboten ab Februar 2025) KI-Systeme, die grundlegende Rechte verletzen, sind vollständig verboten. Dazu zählen:

• Biometrische Echtzeitüberwachung im öffentlichen Raum (mit engen Ausnahmen)
• Systeme zur subliminalen Beeinflussung oder zur Ausnutzung von Schwächen (z. B. bei Kindern oder älteren Menschen)
• Social Scoring durch staatliche Behörden
• Predictive Policing auf individueller Basis
• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen

2. Hochrisiko-KI (strenge Pflichten) Hochrisiko-KI wird in Anhang III der Verordnung aufgelistet und umfasst u. a. Systeme in den Bereichen kritische Infrastruktur, Bildung, Beschäftigung, Strafverfolgung und Verwaltung. Für diese Systeme gelten umfangreiche Pflichten: Risikobewertung, technische Dokumentation, Konformitätsbewertung, Registrierung in einer EU-Datenbank und menschliche Aufsicht.

3. Begrenzte Risiken (Transparenzpflichten) Hier sind insbesondere KI-generierte Inhalte, Chatbots und Deep Fakes relevant. Nutzerinnen und Nutzer müssen informiert werden, wenn sie mit einem KI-System interagieren oder wenn Inhalte KI-generiert sind. Für die Medienbranche bedeutet das: KI-erzeugte Artikel, Bilder, Audio- und Videoinhalte müssen als solche gekennzeichnet werden.

4. Minimales Risiko (keine besonderen Pflichten) Die Mehrheit der KI-Anwendungen fällt in diese Kategorie, z. B. Spam-Filter oder Empfehlungsalgorithmen ohne Diskriminierungsrisiko.

Pflichten für Anbieter von KI-Systemen mit allgemeinem Verwendungszweck (GPAI)

Besonders bedeutsam für die Medien- und Technologiebranche sind die Regeln für sogenannte GPAI-Modelle (General Purpose AI), also Großmodelle wie GPT-4, Claude oder Gemini:

• Technische Dokumentation und Einhaltung des Urheberrechts
• Zusammenfassung der Trainingsdaten
• Modelle mit systemischen Risiken (z. B. sehr große Modelle) unterliegen verschärften Pflichten

Zeitplan der Umsetzung

Beispiele

• Redaktionelle KI-Nutzung: Ein Nachrichtenportal nutzt KI zur automatischen Texterstellung. Sobald die Inhalte veröffentlicht werden, greift die Kennzeichnungspflicht für KI-generierte Inhalte.
• Empfehlungsalgorithmen: Sehr große Online-Plattformen (VLOP) unterliegen kombiniert mit dem Digital Services Act (DSA) einer doppelten Regulierung.
• Deep Fakes in der Werbung: Ein Unternehmen verwendet KI, um eine Persönlichkeit in einem Werbevideo zu simulieren. Ohne Kennzeichnung drohen Bußgelder – und Verstöße gegen das Recht am eigenen Bild (KUG) können parallel greifen.
• Emotionsanalyse in Redaktionen: Ein Verlag setzt KI zur Analyse der emotionalen Stimmung von Mitarbeitenden ein. Dies ist unter dem AI Act verboten.

In der Praxis

Für Medienunternehmen empfiehlt sich eine strukturierte Compliance-Vorgehensweise:

1. KI-Inventur: Welche KI-Systeme werden eingesetzt (intern entwickelt oder eingekauft)? Welcher Risikoklasse gehören sie an?
2. Rollenklärung: Ist das Unternehmen Anbieter, Betreiber (Deployer) oder beides? Die Pflichten unterscheiden sich erheblich.
3. Transparenzpflichten umsetzen: Hinweispflichten bei KI-generierten Texten, Bildern und Videos technisch und redaktionell verankern.
4. Dokumentation: Hochrisiko-Systeme müssen technisch dokumentiert, auf Risiken geprüft und registriert werden.
5. Schulung: Redaktionsmitarbeitende und technisches Personal müssen über die Regelungen informiert sein.

Die Aufsicht liegt bei nationalen Behörden sowie einem neu geschaffenen EU AI Office. Bußgelder können je nach Verstoß bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes betragen.

Vergleich & Abgrenzung

Wichtig: Der EU AI Act ergänzt die DSGVO, ersetzt sie aber nicht. Bei KI-Systemen, die personenbezogene Daten verarbeiten, gelten beide Regelwerke parallel.

Häufige Fragen (FAQ)

Muss ich als kleines Medienunternehmen den AI Act einhalten? Ja, wenn Sie KI-Systeme auf dem EU-Markt anbieten oder einsetzen – unabhängig von der Unternehmensgröße. Für KMU sind allerdings vereinfachte Prozesse und Übergangsfristen vorgesehen.

Was gilt für den Einsatz von ChatGPT oder ähnlichen Tools in der Redaktion? Als Betreiber (Deployer) haben Sie Pflichten bzgl. Transparenz und – je nach Anwendungsfall – auch hinsichtlich menschlicher Aufsicht. Die Kennzeichnung KI-generierter Veröffentlichungen ist verpflichtend.

Gilt der AI Act auch für KI-Tools aus den USA? Ja. Der AI Act gilt für alle KI-Systeme, die auf dem EU-Markt eingesetzt werden, unabhängig vom Sitz des Anbieters.

Was ist ein GPAI-Modell? Ein Modell mit allgemeinem Verwendungszweck (General Purpose AI), das für eine Vielzahl von Aufgaben eingesetzt werden kann, z. B. Sprachmodelle oder Bildgeneratoren.

Verwandte Einträge

• Digital Services Act (DSA)
• Digital Markets Act (DMA)
• KI und Urheberrecht aktuell (2024)
• Deepfakes und Recht: Persönlichkeitsrechte
• Datenschutz für Websites (DSGVO)

Weiterführend

• Europäisches Parlament / Rat der EU: Verordnung (EU) 2024/1689 über künstliche Intelligenz (AI Act), 2024
• Laux, J. / Wachter, S. / Mittelstadt, B.: Trustworthy AI and the European AI Act, in: Nature Machine Intelligence, 2021
• Spindler, G.: Der Entwurf der KI-Verordnung der EU-Kommission, in: Computer und Recht (CR), 2021
• Bundesministerium für Wirtschaft und Klimaschutz: Leitfaden zum EU AI Act für Unternehmen, 2024
• EU AI Office:

Haftungsausschluss: Dieser Artikel dient ausschließlich der allgemeinen Information und stellt keine Rechtsberatung dar. Für konkrete rechtliche Fragen wenden Sie sich bitte an eine qualifizierte Rechtsanwältin oder einen qualifizierten Rechtsanwalt.