Verordnung (EU) 2024/1689 – AI Act (KI-Verordnung)
Kurzbeschreibung
Die Verordnung (EU) 2024/1689 („AI Act“) ist das erste umfassende, horizontale Gesetz der Europäischen Union zur Regulierung künstlicher Intelligenz (KI). Sie legt ein risikobasiertes Regelwerk für Entwicklung, Inverkehrbringen und Nutzung von KI-Systemen im EU-Binnenmarkt fest.
Ziel ist es, Innovation zu ermöglichen und gleichzeitig Grundrechte, Sicherheit und Verbraucherschutz zu gewährleisten.
Systematischer Kontext
Der AI Act ist Teil des EU-Digital- und Wirtschaftsrechts und steht im Schnittfeld von EU-Recht, Menschenrechten, Produktsicherheitsrecht und Datenschutzrecht.
Verknüpfungen:
Ziel der Verordnung
Die KI-Verordnung verfolgt:
- Schutz von Grundrechten und Menschenwürde
- Förderung vertrauenswürdiger KI
- Vermeidung von Risiken (Sicherheit, Diskriminierung, Manipulation)
- Schaffung eines einheitlichen EU-Binnenmarkts für KI
- Rechtssicherheit für Unternehmen
Risikobasierter Ansatz
Der AI Act klassifiziert KI-Systeme nach Risiko:
1. Unannehmbares Risiko (verboten)
- z. B. manipulative Systeme
- Social Scoring durch Staaten
- bestimmte biometrische Überwachung in Echtzeit (mit engen Ausnahmen)
2. Hohes Risiko
- KI in Personalwesen (z. B. Bewerberauswahl)
- kritische Infrastruktur
- Medizinprodukte
- Bildungssysteme
➡ strenge Anforderungen (Zulassung, Dokumentation, Kontrolle)
3. Begrenztes Risiko
- Transparenzpflichten
- z. B. Chatbots müssen als KI erkennbar sein
4. Minimales Risiko
- keine besonderen Pflichten
- z. B. Spamfilter, einfache KI-Anwendungen
Zentrale Pflichten
Für Anbieter (Provider)
- Risikomanagementsystem
- Datenqualität und -Governance
- technische Dokumentation
- Transparenzpflichten
- menschliche Aufsicht
- Konformitätsbewertung
Für Betreiber (Deployers)
- sachgemäße Nutzung
- Überwachung der Ergebnisse
- Schulung von Personal
- Meldung schwerwiegender Vorfälle
Durchsetzung und Kontrolle
- nationale Aufsichtsbehörden
- EU-KI-Büro (AI Office)
- europäischer KI-Ausschuss
- Sanktionen bei Verstößen (hohe Geldbußen möglich)
Verbindung zu Grundrechten
Der AI Act schützt insbesondere:
- Nichtdiskriminierung
- Privatsphäre
- Menschenwürde
- Recht auf wirksamen Rechtsschutz
Verknüpfung:
Bedeutung für Unternehmen
Unternehmen müssen insbesondere beachten:
- Compliance bei KI-Systemen
- Dokumentations- und Prüfpflichten
- Risikoanalysen vor Einsatz von KI
- Anpassung interner Prozesse
- Haftungs- und Bußgeldrisiken
Verknüpfung:
Bedeutung für Arbeitswelt
Der AI Act wirkt stark auf:
- Recruiting-Systeme (KI-gestützte Auswahl)
- Überwachung am Arbeitsplatz
- Entscheidungsunterstützung im Management
- Automatisierte Leistungsbewertung
Verknüpfung:
Verhältnis zu anderen EU-Regeln
- ergänzt DSGVO (Datenschutz)
- ergänzt Produktsicherheitsrecht
- ergänzt Digital Services Act (DSA)
- ergänzt Digital Markets Act (DMA)
Verknüpfung:
Verbindung zur Gesetzespyramide
1. Verordnung (EU) 2024/1689 (AI Act)
2. EU-Grundrechtecharta
3. DSGVO und sektorale EU-Richtlinien
4. nationale Durchführungsvorschriften
5. Unternehmensrichtlinien und Compliance-Systeme
Inkrafttreten (vereinfacht)
- gestaffelte Anwendung über mehrere Jahre
- einzelne Verbote und Pflichten treten früher in Kraft
- vollständige Anwendung schrittweise