Verordnung (EU) 2024/1689 (AI Act / KI-Verordnung)

Kurzbeschreibung

Die Verordnung (EU) 2024/1689 („AI Act“) ist das erste umfassende Regelwerk der Europäischen Union zur Regulierung von Künstlicher Intelligenz.

Sie legt verbindliche Anforderungen für Entwicklung, Inverkehrbringen und Nutzung von KI-Systemen im EU-Binnenmarkt fest und verfolgt einen risikobasierten Ansatz.

Europarechtlicher Hintergrund

Der AI Act ist eine EU-Verordnung und gilt unmittelbar in allen Mitgliedstaaten.

Verknüpfungen:

Ziel der KI-Verordnung

Die Verordnung soll:

Sicherheit und Grundrechtsschutz gewährleisten
Risiken durch KI-Systeme minimieren
Innovation im EU-Binnenmarkt fördern
Transparenz und Nachvollziehbarkeit sicherstellen
einheitliche Standards für KI schaffen

Risikobasierter Ansatz

Die Regulierung erfolgt nach Risikoklassen:

Verbotene KI-Praktiken (unzulässig)
Hochrisiko-KI-Systeme (streng reguliert)
Begrenztes Risiko (Transparenzpflichten)
Minimales Risiko (kaum Regulierung)

Verbotene KI-Praktiken

Untersagt sind insbesondere:

manipulative oder ausbeuterische KI
Social Scoring durch Behörden (nach bestimmten Kriterien)
bestimmte Formen biometrischer Massenüberwachung
KI zur Ausnutzung von Schwächen bestimmter Personengruppen

Hochrisiko-KI-Systeme

Gilt u. a. für KI in Bereichen wie:

Beschäftigung und Personalmanagement
Bildung und Prüfungen
kritische Infrastruktur
Kreditvergabe und Versicherungen
Justiz und Verwaltungsentscheidungen

Pflichten:

Risikomanagementsystem
Datenqualität und Governance
technische Dokumentation
menschliche Aufsicht
Konformitätsbewertung

Transparenzpflichten

Für bestimmte KI-Systeme gilt:

Kennzeichnung von KI-Interaktionen
Offenlegung von KI-generierten Inhalten
Information über Nutzung von KI-Systemen
Nachvollziehbarkeit von Entscheidungen (je nach Risiko)

Rechte der Beschäftigten und Bürger

Betroffene haben insbesondere:

Schutz vor diskriminierender KI
Transparenz über KI-Einsatz
Schutz vor automatisierten Fehlentscheidungen
Möglichkeit menschlicher Überprüfung
Beschwerde- und Rechtsdurchsetzungsmöglichkeiten

Pflichten von Unternehmen

Unternehmen müssen:

KI-Systeme korrekt klassifizieren
Compliance- und Risikomanagement einführen
technische Dokumentation führen
Transparenzpflichten erfüllen
Schulungen für Mitarbeitende sicherstellen
Konformitätsbewertungen durchführen (bei Hochrisiko-KI)

Wichtige Aufgaben des Betriebsrats

Überwachungspflicht (§ 80 BetrVG)

Der Betriebsrat überwacht:

Einsatz von KI im Betrieb
Auswirkungen auf Beschäftigte
Einhaltung von Datenschutz und Gleichbehandlung
Transparenz automatisierter Entscheidungen

Betriebsratsrelevanz

Der Betriebsrat achtet darauf, dass:

KI-Systeme keine Diskriminierung erzeugen
Leistungs- und Verhaltenskontrolle durch KI begrenzt ist
Beschäftigte über KI-Einsatz informiert sind
menschliche Kontrolle gewährleistet bleibt
Arbeitsbedingungen durch KI nicht verschlechtert werden

Rechtsgrundlagen:

Mitbestimmungsmöglichkeiten

Der Betriebsrat kann mitwirken bei:

Einführung von KI-Systemen im Betrieb
Leistungs- und Verhaltenskontrollsystemen
Personalentscheidungsalgorithmen
IT- und Softwareeinführungen
Datenschutz- und Compliance-Regelungen

Zusammenarbeit mit dem Arbeitgeber

Der Betriebsrat sollte:

KI-Einführungen frühzeitig begleiten
Risiken für Beschäftigte bewerten
Transparenz einfordern
Schulungskonzepte unterstützen
Missbrauch automatisierter Systeme verhindern

Typische Anwendungsfälle

KI im Recruiting (Bewerberauswahl)
automatisierte Leistungsbewertung
Chatbots im Kundenservice
Produktions- und Logistikoptimierung
Prognosesysteme im Personalwesen
Entscheidungsunterstützung in Verwaltung
Überwachungssysteme im Betrieb
KI-gestützte Schulungssysteme

Anhang

!OJ_L_202401689_DE_TXT.pdf

Verbindung zur Gesetzespyramide

Die Verordnung (EU) 2024/1689 ist EU-Recht und gilt unmittelbar in allen Mitgliedstaaten.

Sie steht über:

nationalem Recht (z. B. BGB, BetrVG)
Betriebsvereinbarungen
Arbeitsverträgen
internen Unternehmensrichtlinien

Sie wird ergänzt durch:

AI Act