EU AI Act
Kurzbeschreibung
Der EU AI Act (Verordnung (EU) 2024/1689) ist die weltweit erste umfassende Verordnung zur Regulierung von Künstlicher Intelligenz (KI). Ziel ist es, den Einsatz vertrauenswürdiger KI zu fördern und gleichzeitig Grundrechte, Sicherheit, Gesundheit und Demokratie zu schützen.
Der AI Act verfolgt einen risikobasierten Ansatz: Je höher das Risiko eines KI-Systems für Menschen oder Gesellschaft, desto strengere gesetzliche Anforderungen gelten. Die Verordnung betrifft sowohl Entwickler (Provider) als auch Betreiber (Deployer) von KI-Systemen – also auch Unternehmen, die KI im Arbeitsverhältnis einsetzen.
Gesetzliche Grundlagen
Wichtige Vorschriften:
Ziel des EU AI Act
Der AI Act soll:
- sichere KI fördern
- Grundrechte schützen
- Diskriminierung verhindern
- Transparenz schaffen
- Innovation ermöglichen
- Vertrauen in KI stärken
- europaweit einheitliche Regeln schaffen
Bedeutung des EU AI Act
Der EU AI Act beantwortet die Fragen:
«Welche KI-Systeme sind erlaubt?»
«Welche KI-Systeme sind verboten?»
«Welche Pflichten gelten für Unternehmen?»
«Welche Beteiligungsrechte hat der Betriebsrat?»
Der AI Act betrifft nahezu alle Bereiche der modernen Arbeitswelt.
Grundprinzip
KI-System
⬇️
Risikobewertung
⬇️
gesetzliche Anforderungen
⬇️
Überwachung
⬇️
Verantwortung
Der risikobasierte Ansatz
Der AI Act unterscheidet vier Risikostufen.
1. Unvertretbares Risiko
Diese KI-Systeme sind grundsätzlich verboten.
Beispiele:
- Social Scoring
- manipulative KI
- Ausnutzung schutzbedürftiger Personen
- bestimmte Formen biometrischer Echtzeitüberwachung
- bestimmte Emotionserkennung am Arbeitsplatz
2. Hochrisiko-KI
Hier gelten besonders strenge Anforderungen.
Beispiele:
- Bewerberauswahl
- Personalentscheidungen
- Leistungsbewertung
- kritische Infrastruktur
- Medizin
- Bildung
- Strafverfolgung
Unternehmen müssen umfangreiche Anforderungen erfüllen.
3. Begrenztes Risiko
Hier gelten vor allem Transparenzpflichten.
Beispiele:
- Chatbots
- KI-Assistenten
- Systeme zur Inhaltserstellung
Nutzer müssen erkennen können,
dass sie mit KI interagieren.
4. Minimales Risiko
Beispiele:
- Spamfilter
- KI in Videospielen
- Rechtschreibkorrekturen
- Navigation
Hier bestehen grundsätzlich keine besonderen gesetzlichen Anforderungen.
Anforderungen an Hochrisiko-KI
Unter anderem erforderlich:
- Risikomanagement
- hochwertige Trainingsdaten
- technische Dokumentation
- Protokollierung
- menschliche Aufsicht
- Genauigkeit
- Cybersicherheit
- Qualitätsmanagement
Transparenzpflichten
Beschäftigte und andere Nutzer müssen unter anderem erkennen können,
wenn:
- sie mit KI kommunizieren,
- Inhalte künstlich erzeugt wurden,
- Entscheidungen maßgeblich durch KI unterstützt werden.
KI im Arbeitsverhältnis
Der AI Act betrifft zahlreiche Personalprozesse.
Beispiele:
- Bewerbermanagement
- Personalauswahl
- Leistungsbeurteilungen
- Beförderungsentscheidungen
- Schichtplanung
- Personaleinsatzplanung
- Zeiterfassung
- Mitarbeiterbewertungen
Gerade diese Systeme werden häufig als Hochrisiko-KI eingestuft.
Bedeutung für den Betriebsrat
Der Betriebsrat besitzt regelmäßig Beteiligungsrechte,
wenn KI eingeführt wird.
Insbesondere relevant sind:
- §87 Abs. 1 Nr. 6 BetrVG
- §90 BetrVG
- §91 BetrVG
Der Betriebsrat sollte frühzeitig Informationen verlangen und die Auswirkungen auf Beschäftigte prüfen.
Datenschutz
Der AI Act ergänzt den Datenschutz,
ersetzt ihn jedoch nicht.
Zusätzlich gelten weiterhin:
- DSGVO
- §26 BDSG
Beide Regelwerke sind gemeinsam anzuwenden.
Künstliche Intelligenz im Betrieb
Typische Einsatzgebiete:
- Chatbots
- Copiloten
- Übersetzungen
- Dokumentenanalyse
- Personalsoftware
- Produktionssteuerung
- Qualitätskontrolle
- Wartungsplanung
- Prognosesysteme
Risiken
Mögliche Risiken:
- Diskriminierung
- fehlerhafte Entscheidungen
- mangelnde Transparenz
- Datenschutzverletzungen
- Leistungsüberwachung
- Abhängigkeit von Algorithmen
- psychische Belastungen
Chancen
Der AI Act soll gleichzeitig Innovation fördern.
Mögliche Vorteile:
- schnellere Prozesse
- bessere Datenanalysen
- Entlastung von Routinetätigkeiten
- höhere Produktivität
- bessere Arbeitsplanung
- Unterstützung bei komplexen Entscheidungen
Bedeutung für Beschäftigte
Beschäftigte profitieren von:
- mehr Transparenz
- besserem Datenschutz
- stärkerem Schutz vor Diskriminierung
- menschlicher Kontrolle wichtiger Entscheidungen
- höheren Sicherheitsstandards
Bedeutung für Betriebsräte
Der Betriebsrat sollte prüfen:
- Wird KI eingesetzt?
- Welche Daten verarbeitet die KI?
- Bestehen Überwachungsmöglichkeiten?
- Handelt es sich um Hochrisiko-KI?
- Sind Datenschutz und Mitbestimmung gewährleistet?
- Gibt es eine Betriebsvereinbarung?
Bedeutung für Vertrauensleute
Vertrauensleute können:
- Fragen der Beschäftigten aufnehmen
- Unsicherheiten erklären
- den Betriebsrat informieren
- Hinweise zu KI-Problemen weitergeben
- Beschäftigte bei Veränderungen begleiten
Typische Arbeitgeberfehler
- KI ohne Beteiligung des Betriebsrats einführen
- fehlende Transparenz
- Datenschutz unterschätzen
- Beschäftigte nicht informieren
- Diskriminierungsrisiken ignorieren
- KI-Ergebnisse ungeprüft übernehmen
Typische Fehler von Betriebsräten
- KI-Systeme zu spät prüfen
- technische Funktionsweise nicht hinterfragen
- Datenschutz nicht ausreichend berücksichtigen
- Mitbestimmungsrechte nicht nutzen
- fehlende Betriebsvereinbarungen akzeptieren
Praxisbeispiel
Ein Unternehmen führt eine KI-gestützte Software zur Bewerberauswahl ein.
Das System bewertet automatisch Lebensläufe, erstellt Ranglisten und gibt Empfehlungen für Vorstellungsgespräche.
Da das System über den Zugang zur Beschäftigung mitentscheidet, handelt es sich regelmäßig um eine Hochrisiko-Anwendung. Der Betriebsrat verlangt umfassende Informationen, prüft die Auswirkungen auf Datenschutz und Diskriminierung und macht seine Mitbestimmungsrechte nach §87 Abs. 1 Nr. 6 BetrVG geltend. Anschließend wird eine Betriebsvereinbarung über Transparenz, menschliche Kontrolle und regelmäßige Überprüfung des Systems abgeschlossen.
Ablauf bei der Einführung einer KI
Planung
⬇️
Risikobewertung
⬇️
Beteiligung des Betriebsrats
⬇️
Datenschutzprüfung
⬇️
Betriebsvereinbarung
⬇️
Einführung
⬇️
Kontinuierliche Überwachung
Verhältnis zu anderen Vorschriften
Vorschrift| Inhalt
EU AI Act| Regulierung von KI
DSGVO| Datenschutz
§26 BDSG| Beschäftigtendatenschutz
§87 Abs. 1 Nr. 6 BetrVG| Technische Überwachung
§90 BetrVG| Arbeitsgestaltung
§91 BetrVG| Besondere Belastungen
Merksatz
«Der EU AI Act ist die weltweit erste umfassende KI-Verordnung. Er regelt den Einsatz Künstlicher Intelligenz nach einem risikobasierten Ansatz und schützt insbesondere Grundrechte, Sicherheit und Transparenz. Für Betriebsräte gewinnt der AI Act vor allem bei KI-Systemen im Personalbereich und bei der digitalen Arbeitswelt erheblich an Bedeutung.»
Bezug zu Knoten
- KI
- Künstliche Intelligenz
- Digitale Arbeitswelt
- Digitale Betriebsratsarbeit
- Digitalisierung
- Leistungs- und Verhaltenskontrolle
- Datenschutz
- DSGVO
- §26 BDSG
- §87 Abs. 1 Nr. 6 BetrVG
- §90 BetrVG
- §91 BetrVG
- Betriebsvereinbarung
- Homeoffice
- Microsoft 365
- SAP
- Betriebsrat
- Vertrauensleute
- Interessenvertretung
Praxisrelevanz
Der EU AI Act wird die Einführung und Nutzung von KI-Systemen in Unternehmen nachhaltig verändern. Besonders im Personalwesen – etwa bei Bewerbungsverfahren, Leistungsbewertungen oder Personaleinsatzplanung – gelten hohe Anforderungen an Transparenz, Sicherheit und menschliche Kontrolle. Für Betriebsräte und Vertrauensleute wird der AI Act damit zu einem wichtigen Instrument, um die Digitalisierung der Arbeitswelt mitzugestalten und die Rechte der Beschäftigten wirksam zu schützen.