Künstliche Intelligenz (KI) beeinflusst immer mehr Bereiche des täglichen Lebens, wie zB bei der Kreditwürdigkeitsprüfung, im Rahmen der Mobilität oder dem Microtargeting bei Online-Werbung. Im April 2021 präsentierte die EU-Kommission einen Entwurf für ein KI-Gesetz, welches zur Entwicklung und Nutzung vertrauenswürdiger KI-Systeme beitragen soll. Vor dem Hintergrund des laufenden Verhandlungsprozesses im Rat und EU-Parlament konnte im Rahmen des Webinars auf die erheblichen Defizite des Kommissionsvorschlages und den Nachbesserungsbedarf aus Verbraucher:innensicht hingewiesen werden.

Maria Reiffenstein (BMSGPK) eröffnete die Veranstaltung und betonte, dass man dem horizontalen Rahmenwerk des KI-Gesetzes mit hoher Erwartungshaltung entgegengesehen hatte. Jedoch sei der vorliegende Vorschlag aus Sicht der Verbraucher:innen und Endnutzer:innen enttäuschend, da Algorithmen ihnen gegenüber nicht offen gelegt werden müssen. Bedauerlich sei hier, dass die meisten verbraucher:innenrelevanten KI-Systeme nicht als „Hochrisiko“-Anwendungen eingestuft wurden. Durch die vom BMSGPK beauftragte Studie von Prof. Wendehorst wurden konkrete Änderungsvorschläge erarbeitet, wie der Kommissionsvorschlag im Sinne der Verbraucher:innen zu verbessern sei.

Walter Peissl (ITA), Autor der AK-Studie „Künstliche Intelligenz – Erklärbarkeit und Transparenz“, verwies darauf, dass KI immer häufiger eingesetzt wird, der Kommissionsvorschlag Verbraucher:innen als Zielgruppe jedoch weitestgehend ausblendet. Transparenz ist für den Aufbau von Vertrauen unerlässlich, denn KI müsse für die Nutzer:innen auch verständlich sein. Laut dem Studienautor wäre es wichtig eine breite inhaltliche und gesellschaftliche Debatte zu fördern sowie die KI-Definition des Kommissionsvorschlages zu verbreitern. Ferner bedarf es der Erstellung eines transparenten Kriterienkatalogs, welcher Transparenz aus verschiedensten Dimensionen betrachtet sowie ein Recht auf Information beinhaltet. Des Weiteren sollten jene KI-Systeme verboten werden, welche Grundrechte und -freiheiten, Demokratie oder ethische Grundsätze gefährden.

Christiane Wendehorst (Uni Wien) betonte im Beitrag zu ihrer Studie „Der Vorschlag für ein KI-Gesetz aus verbraucherpolitischer Sicht“, dass sie die Liste verbotener KI-Praktiken für zu eng gefasst hält. Hier müsste die Definition des Kommissionsvorschlages in mehreren Bereichen ausgeweitet werden und unter anderem berücksichtigen, ob Menschen aufgrund ihrer wirtschaftlichen und sozialen Situation verletzlich sind. Im Weiteren forderte Wendehorst, ein im KI-Gesetz festgeschriebenes Verbot der totalen Überwachung und der Verarbeitung von Gehirndaten. Ebenso sollten zusätzliche Bestimmungen über das Recht des Einzelnen auf eine unabhängige Prüfung individueller Entscheidungen aufgenommen werden. Zur besseren Rechtsdurchsetzung bräuchte es einen neuen Durchsetzungsmechanismus für systemische KI-Risiken, die von sehr großen Online-Plattformen ausgehen.

Für Ursula Pachl (BEUC) lag das Hauptproblem aus Sicht der Verbraucher:innen im Binnenmarktansatz der EU-Kommission, der die Zivilgesellschaft und Verbraucher:innen effektiv aus dem Vorschlag ausklammert. Daher liegt es am EU-Parlament und am Rat, diesbezüglich Abhilfe zu schaffen und die grundsätzliche Ausrichtung des Vorschlages zu korrigieren. Weiters wies Pachl darauf hin, dass horizontales Verbraucher:innenrecht für die Regulierung von KI nicht spezifisch genug ist und daher Klarstellungen im KI-Gesetz und die Verankerung von Verbraucher:innenrechten dringend notwendig seien. Ferner sollte der Kommissionsentwurf ein grundsätzliches Verbot von Social Scoring und Verwendung von Gesichtserkennung durch Privatanwender:innen beinhalten.

Daniela Zimmer (AK Wien) strich hervor, dass Algorithmen über das Schicksal von Individuen entscheiden und darüber richten, wer etwas bekommt und wer nicht (einen Vertrag, Ausbildungsplatz, staatliche Leistungen uvm). KI dringt in viele Bereiche ein und errechnet anhand statistischer Korrelationen Lösungen, für die sie keine Gründe nennt. Jedoch sind Entscheidungen ohne nachvollziehbare Begründung zutiefst undemokratisch und sollten als Anlass dienen, KI streng zu regeln und gemeinnützig auszurichten. Auskünfte über automatisierte Entscheidungen müssen für Betroffene einen Sinn ergeben, um hinterfragt und bekämpft werden zu können. Ferner bräuchte es gemessen am EU-KI-Gesetz striktere Verbote von grundrechtlich inakzeptabler KI, wie zB Emotionserkennung, eine unabhängige Zertifizierung, eine behördliche Zulassung von riskanten KI-Produkten und leicht zugänglichen Rechtsschutz für nachteilig Betroffene. Im Kommissionsvorschlag wurde auf Verbraucher:innen am Ende der KI-Wertschöpfungskette einfach vergessen, ein Umstand den es unbedingt auszubessern gilt.