Die KI-Verordnung ist das weltweit erste Regelwerk zu Künstlicher Intelligenz. Das EU- Parlament hat diese am 13. März 2024 mit großer Mehrheit angenommen, gefolgt von den EU-Mitgliedstaaten im Rat. Der „AI Act“, wie die Verordnung auch genannt wird, ist ein wichtiger Schritt zur Regulierung von Künstlicher Intelligenz. Es bestehen aber auch Herausforderungen und Lücken.

Schutz der Grundrechte
Die KI-Verordnung zielt darauf ab, ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und Grundrechte sicherzustellen. KI-Systeme werden in verschiedene Risikokategorien unterteilt und je nach Risiko entsprechende Verpflichtungen festgelegt. Weiters enthält die Verordnung Vorgaben für die Hersteller und Betreiber. Diese betreffen unter anderem Datennutzung, Risikomanagement, menschliche Aufsicht, Dokumentation und Transparenz von KI-Systemen. Arbeitsrechtliche oder sozialpolitische Aspekte werden hingegen nicht geregelt. Einige als besonders riskant eingestufte Anwendungen werden verboten. Außergewöhnlich an der KI-Verordnung ist, dass sie nicht nur die Gesundheit und Sicherheit der Bürger:innen, sondern auch Grundrechte, demokratische Prinzipien und die Rechtsstaatlichkeit schützen soll.

KI in der Arbeitswelt 
Im Gesetzgebungsprozess konnten einige Änderungen im Vergleich zum Vorschlag der EU-Kommission durchgesetzt werden, die zur besseren Berücksichtigung von Arbeitnehmer:innenschutzrechten und zum Schutz vulnerabler Personen sowie zu mehr Transparenz und Information beitragen. Dazu zählt insbesondere das Verbot von KI-Systemen zur Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen. Die KI-Verordnung enthält außerdem strenge Vorgaben für die Entwicklung und Nutzung von Hochrisiko-KI-Systemen am Arbeitsplatz und beim Management von Arbeitnehmer:innen sowie in der beruflichen Bildung. Dazu zählen beispielsweise Systeme für Bewerbungsverfahren oder zur automatisierten Leistungsbeurteilung und Verhaltensbeobachtung von Arbeitnehmer:innen. Insbesondere müssen Arbeitgeber:innen (d.h. die Betreiber:innen) die betroffenen Arbeitnehmer:innen vor der Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz informieren. Die Betreiber:innen müssen außerdem sicherstellen, dass Arbeitnehmer:innen und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. 

Herausforderungen und Lücken
Die KI-Verordnung ist ein Rahmen, der mittels technischer Normen und Standards erst noch konkretisiert werden muss. Die AK fordert die Einbeziehung von Arbeitnehmer:innenvertretungen in die Normungs- und Kodifizierungsprozesse. Bereiche, die nicht als hochriskant eingestuft werden, bleiben in der KI-Verordnung weitgehend unreguliert, was potenzielle Schutzlücken für die Arbeitnehmer:innen darstellt. Aus Sicht der AK ist dies problematisch hinsichtlich der rasanten Zunahme von KI-gestützten (sogenannten algorithmischen) Managementsystemen: Laufend kommen Produkte auf den Markt, die massive Mengen an Daten generieren oder aus verschiedenen Anwendungen zusammenführen, die eine Beobachtung und Kontrolle oder eine automatisierte Zuweisung von Arbeit mit sich bringen. Dies wirft auch grundrechtliche Fragestellungen auf. Angesichts der raschen Entwicklung neuer Technologien ist es entscheidend, die weitere Ausgestaltung der technischen Vorgaben genau zu beobachten und sicherzustellen, dass KI menschenzentriert und aus der Perspektive der Arbeitnehmer:innen gestaltet wird. Die AK fordert daher klare Regeln für den Einsatz von KI – auch für jene Bereiche, die nicht als hochriskant eingestuft werden. Der Europäische Gewerkschaftsbund fordert eine eigene EU-Richtlinie zur Regulierung von algorithmischem Management am Arbeitsplatz.

Umsetzung der KI-Verordnung
Die KI-Verordnung muss ab 2026 vollständig angewendet werden, einige Vorschriften kommen jedoch bereits früher zum Tragen. Verbote von bestimmten KI-Systemen wie beispielsweise zur Emotionserkennung am Arbeitsplatz gelten bereits sechs Monate nach Inkrafttreten. Einige weitere wichtige Vorschriften sind ab Mitte 2025 anzuwenden, wie beispielsweise die Regeln für KI mit allgemeinem Verwendungszweck. Zur Umsetzung der KI-Verordnung hat die EU-Kommission ein Amt für Künstliche Intelligenz eingerichtet. Die AK fordert darüber hinaus auch personell gut ausgestattete Behörden auf nationaler Ebene. Beim Einsatz von KI im Betrieb müssen die Zustimmungs- und Mitwirkungsrechte der Arbeitnehmer:innen sowie ihrer (über)betrieblichen Interessenvertretungen sichergestellt werden. Es braucht außerdem Maßnahmen zur Qualifizierung der Beschäftigten und Sensibilisierung aller Bürger:innen hinsichtlich der Rechte und Risiken, die mit KI verbunden sind sowie die Einbeziehung von Arbeitnehmer:innenvertretungen bei der Gestaltung neuer Technologien auf allen Ebenen.

Weiterführende Informationen:
AK Wien: KI-Verordnung aus Sicht der Beschäftigten
AK Info: Die KI-Verordnung und ihre Folgen für die Arbeitswelt
AK Aktuell: Künstliche Intelligenz am Arbeitsplatz
AK EUROPA: Einigung auf weltweit erstes Regelwerk zu künstlicher Intelligenz
ETUC: AI Act sets stage for Directive on AI systems in the workplace  (nur Englisch)
ETUI: Artificial intelligence, labour and society (nur Englisch)