Verordnung (EU) 2024/1689 (AI Act / KI-Verordnung)
Kurzbeschreibung
Die Verordnung (EU) 2024/1689 („AI Act“) ist das erste umfassende Regelwerk der Europäischen Union zur Regulierung von Künstlicher Intelligenz.
Sie legt verbindliche Anforderungen für Entwicklung, Inverkehrbringen und Nutzung von KI-Systemen im EU-Binnenmarkt fest und verfolgt einen risikobasierten Ansatz.
Europarechtlicher Hintergrund
Der AI Act ist eine EU-Verordnung und gilt unmittelbar in allen Mitgliedstaaten.
Verknüpfungen:
Ziel der KI-Verordnung
Die Verordnung soll:
- Sicherheit und Grundrechtsschutz gewährleisten
- Risiken durch KI-Systeme minimieren
- Innovation im EU-Binnenmarkt fördern
- Transparenz und Nachvollziehbarkeit sicherstellen
- einheitliche Standards für KI schaffen
Risikobasierter Ansatz
Die Regulierung erfolgt nach Risikoklassen:
- Verbotene KI-Praktiken (unzulässig)
- Hochrisiko-KI-Systeme (streng reguliert)
- Begrenztes Risiko (Transparenzpflichten)
- Minimales Risiko (kaum Regulierung)
Verbotene KI-Praktiken
Untersagt sind insbesondere:
- manipulative oder ausbeuterische KI
- Social Scoring durch Behörden (nach bestimmten Kriterien)
- bestimmte Formen biometrischer Massenüberwachung
- KI zur Ausnutzung von Schwächen bestimmter Personengruppen
Hochrisiko-KI-Systeme
Gilt u. a. für KI in Bereichen wie:
- Beschäftigung und Personalmanagement
- Bildung und Prüfungen
- kritische Infrastruktur
- Kreditvergabe und Versicherungen
- Justiz und Verwaltungsentscheidungen
Pflichten:
- Risikomanagementsystem
- Datenqualität und Governance
- technische Dokumentation
- menschliche Aufsicht
- Konformitätsbewertung
Transparenzpflichten
Für bestimmte KI-Systeme gilt:
- Kennzeichnung von KI-Interaktionen
- Offenlegung von KI-generierten Inhalten
- Information über Nutzung von KI-Systemen
- Nachvollziehbarkeit von Entscheidungen (je nach Risiko)
Rechte der Beschäftigten und Bürger
Betroffene haben insbesondere:
- Schutz vor diskriminierender KI
- Transparenz über KI-Einsatz
- Schutz vor automatisierten Fehlentscheidungen
- Möglichkeit menschlicher Überprüfung
- Beschwerde- und Rechtsdurchsetzungsmöglichkeiten
Pflichten von Unternehmen
Unternehmen müssen:
- KI-Systeme korrekt klassifizieren
- Compliance- und Risikomanagement einführen
- technische Dokumentation führen
- Transparenzpflichten erfüllen
- Schulungen für Mitarbeitende sicherstellen
- Konformitätsbewertungen durchführen (bei Hochrisiko-KI)
Wichtige Aufgaben des Betriebsrats
Überwachungspflicht (§ 80 BetrVG)
Der Betriebsrat überwacht:
- Einsatz von KI im Betrieb
- Auswirkungen auf Beschäftigte
- Einhaltung von Datenschutz und Gleichbehandlung
- Transparenz automatisierter Entscheidungen
Betriebsratsrelevanz
Der Betriebsrat achtet darauf, dass:
- KI-Systeme keine Diskriminierung erzeugen
- Leistungs- und Verhaltenskontrolle durch KI begrenzt ist
- Beschäftigte über KI-Einsatz informiert sind
- menschliche Kontrolle gewährleistet bleibt
- Arbeitsbedingungen durch KI nicht verschlechtert werden
Rechtsgrundlagen:
Mitbestimmungsmöglichkeiten
Der Betriebsrat kann mitwirken bei:
- Einführung von KI-Systemen im Betrieb
- Leistungs- und Verhaltenskontrollsystemen
- Personalentscheidungsalgorithmen
- IT- und Softwareeinführungen
- Datenschutz- und Compliance-Regelungen
Zusammenarbeit mit dem Arbeitgeber
Der Betriebsrat sollte:
- KI-Einführungen frühzeitig begleiten
- Risiken für Beschäftigte bewerten
- Transparenz einfordern
- Schulungskonzepte unterstützen
- Missbrauch automatisierter Systeme verhindern
Typische Anwendungsfälle
- KI im Recruiting (Bewerberauswahl)
- automatisierte Leistungsbewertung
- Chatbots im Kundenservice
- Produktions- und Logistikoptimierung
- Prognosesysteme im Personalwesen
- Entscheidungsunterstützung in Verwaltung
- Überwachungssysteme im Betrieb
- KI-gestützte Schulungssysteme
Anhang
Verbindung zur Gesetzespyramide
Die Verordnung (EU) 2024/1689 ist EU-Recht und gilt unmittelbar in allen Mitgliedstaaten.
Sie steht über:
- nationalem Recht (z. B. BGB, BetrVG)
- Betriebsvereinbarungen
- Arbeitsverträgen
- internen Unternehmensrichtlinien
Sie wird ergänzt durch: