Anwendungen, die sich Künstlicher Intelligenz (KI) bedienen, unterstützten von Beginn an den Kampf gegen die Pandemie. Konkret wurde KI unter anderem in der Diagnostik, bei der Suche nach einem Heilmittel sowie bei der Beobachtung und Vorhersage hinsichtlich der Ausbreitung des Virus eingesetzt – aber auch zur Überwachung der verhängten Ausgangssperren und -beschränkungen.

Weißbuch zur Künstlichen Intelligenz

Um den Herausforderungen zu begegnen, die der Einsatz von KI mit sich bringt, veröffentlichte die EU-Kommission bereits im Februar ihr Weißbuch zur Künstlichen Intelligenz. Darin plädiert sie für einen „risikobasierten“ Ansatz. Reguliert werden sollen demnach nur jene Anwendungen, die – aus Sicht der Kommission – in besonders sensiblen Bereichen eingesetzt werden und potentiell besonders gravierende Auswirkungen haben können. Ein mögliches Verbot von Technologien zur biometrischen Identifizierung (z.B. Gesichtserkennung) wurde, obwohl in Arbeitspapieren der Kommission zunächst noch vorgesehen, nicht in das Weißbuch aufgenommen. Die entstandene Debatte um das Weißbuch sowie die damit einhergehende Konsultation möchte die Arbeiterkammer nutzen, um auf die Wichtigkeit eines ambitionierten Schutzniveaus zu verweisen.

„Risikobasierter“ Ansatz nicht ausreichend

Auch wenn die Diskussion auf europäischer Ebene prinzipiell zu begrüßen ist und die Technologie unbestritten ein enormes Potential mit sich bringt, dürfen die mit KI verbundenen Risiken nicht unterschlagen werden. Ein „risikobasierter“ Ansatz reicht hier aus Sicht der Arbeiterkammer nicht aus, um KonsumentInnen, ArbeitnehmerInnen und deren Rechte sowie die Umwelt ausreichend zu schützen. Der Einsatz von KI ist deshalb in diesen Bereichen generell als besonders sensibel zu bewerten.

ArbeitnehmerInnen müssen besonders vor Anwendungen geschützt werden, die sich auf ihre Rechte oder Arbeitsbedingungen auswirken. Beim der Verwendung von KI sollten sie ebenso miteinbezogen werden wie die Sozialpartner. Der Einsatz von Anwendungen mit besonders einschneidenden Auswirkungen auf die Arbeitsbedingungen und ArbeitnehmerInnenrechte, zum Beispiel bei Personalentscheidungen, sollte hingegen gänzlich untersagt werden. Die Auswirkungen des Einsatzes von KI in der Arbeitswelt sind genau zu evaluieren und begleitende Maßnahmen zur Aus- und Weiterbildung unbedingt notwendig. Zum Schutz der KonsumentInnen braucht es einen abgestuften und verpflichtenden Rechtsrahmen für alle Anwendungen. Schlupflöcher in der Datenschutz-Grundverordnung (DSGVO) müssen geschlossen und die Verordnung wirksam durchgesetzt werden. Wenn Entscheidungen, Dienste oder Produkte auf Algorithmen basieren, müssen diese erklär- und überprüfbar sein. Beispiele dafür wären algorithmisch gesteuerten Empfehlungen – z.B. von SprachassistentInnen wie Alexa – von denen eine hohe Manipulationsgefahr ausgeht oder automatisierte Entscheidungen hinsichtlich der Kreditwürdigkeit von VerbraucherInnen. Der Einsatz von KI-basierter Gesichtserkennung sollte ausdrücklich verboten werden. Auch Wissenschaft und Forschung dürfen nicht von Datenschutzvorgaben ausgenommen sein und die Betroffenen müssen eingebunden werden, wenn über die (Un-)Zulässigkeit von KI-Anwendungen entschieden wird. Die AK wünscht sich außerdem eine stärkere Berücksichtigung der Themen Umwelt- und Klimaschutz sowie Ressourcenschonung. KI sollte hier vorranging für den öffentlichen Verkehr und nachhaltige Verkehrskonzepte genutzt werden.

Vestager im Austausch mit dem EU-Parlament

Am 23. Juni 2020 fand sich die exekutive Vizepräsidentin und Digitalkommissarin Margrethe Vestager zu einem Austausch im Rechtsausschuss des Europäischen Parlaments (JURI) ein. Sie betonte erneut, dass der Übergang zu einer digitalen Gesellschaft für die Kommission weiterhin im Fokus ihrer Arbeit stehe und sich dementsprechend auch der Wiederaufbauplan daran orientiere. Auf Nachfrage verwies Vestager einmal mehr auf den risikobasierten Ansatz des Weißbuches. Nur wenn hier klare Vorgaben festgelegt würden, könne man das nötige Vertrauen der Bevölkerung gewinnen. Anschließend an den Austausch mit Vestager debattierte der Rechtsausschuss über die ethischen Aspekte beim Einsatz von KI. Während mehrfach die Notwendigkeit einer klaren und juristisch einheitlichen Definition von KI betont wurde, gingen die Meinungen bezüglich der Schaffung einer Europäischen Agentur für Künstliche Intelligenz und dem Anwendungsbereich einer möglichen Verordnung weit auseinander.

Gefahren

Welche Gefahren konkret von KI ausgehen können, zeigt sich am Beispiel der Gesichtserkennung. Diese ist (noch) zu unausgereift und könnte beispielsweise rassistische Tendenzen zusätzlich verstärken – auch in der Strafverfolgung. Als Reaktion auf den gewaltsamen Tod von George Floyd und die damit verbundenen Proteste haben deshalb mehrere Technologie-Konzerne angekündigt, keine Software zur Gesichtserkennung mehr an die US-amerikanische Polizei zu liefern. Der Europäische Gewerkschaftsbund (EGB) befürchtet außerdem, dass die Verwendung von KI zu einer Verstärkung der Ungleichheit der Geschlechter führt und plädiert für entsprechende Anstrengungen um sicherzustellen, dass Frauen hier nicht diskriminiert werden. Fest steht jedenfalls, dass der Umgang mit Künstlicher Intelligenz noch weiter und ausführlicher diskutiert werden muss – auch unter Einbindung von ArbeitnehmerInnen und Sozialpartnern.

Weiterführende Informationen:

AK EUROPA Positionspapier: Zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen

AK EUROPA: Die Coronakrise als Beschleuniger der Digitalisierung

AK EUROPA: Künstliche Intelligenz und andere Herausforderungen des digitalen Zeitalters

A&W Blog: Künstliche Intelligenz: Nicht um jeden Preis