Bereits in dem im Frühjahr 2020 veröffentlichten Weißbuch zur KI hat die EU-Kommission neben den vielfältigen Einsatzmöglichkeiten und Nutzen auch auf die Herausforderungen und potenziellen Schäden von KI hingewiesen. So können durch den KI-Einsatz etliche Grundrechtsverletzungen, wie Verstöße gegen Datenschutzbestimmungen, Diskriminierung bei automatisierten Bewerbungsverfahren oder Schädigungen der Gesundheit aufgrund von KI-unterstützter Medizintechnik eintreten. Auch das im darauffolgenden Jahr vorgeschlagene Gesetz über künstliche Intelligenz sollte nach Auffassung der EU-Kommission zum Schutz der Grundrechte und Sicherheit der Menschen beitragen, wenngleich aus Sicht der AK viel Verbesserungsbedarf besteht, um Konsument:innen effektiv zu schützen. Der nun vorgestellte Entwurf einer Richtlinie zur KI-Haftung hat die Harmonisierung der Haftungsregeln für KI-Systeme zum Ziel, wobei insbesondere die Geltendmachung von Schadenersatzansprüchen durch die Opfer vereinfacht werden soll.

Die beiden Kernelemente des Vorschlags

Der Entwurf schlägt die Einführung von zwei konkreten Haftungsregeln vor:

Einerseits ist die Einführung einer sogenannten Kausalitätsvermutung vorgesehen, welche den Opfern die grundsätzlich zu erbringende Beweislast erleichtern soll: Zwar muss der/die Kläger:in (oftmals Konsument:innen) den Nachweis erbringen, dass ein/e KI-Anwender:in gegen eine Pflicht verstoßen hat, beispielsweise gegen eine Sorgfaltspflicht aus dem Gesetz über künstliche Intelligenz, und dass dieser Pflichtverstoß das vom KI-System hervorgebrachte Ergebnis wahrscheinlich beeinflusst hat. Das Gericht kann dann von der Verursachung des Schadens aufgrund des Pflichtverstoßes ausgehen, wodurch die Person, die gegen die Pflicht verstoßen hat, einer Haftung unterliegt. Diese Kausalitätsvermutung ist jedoch durch Vorlage eines Gegenbeweises der beklagten Person, dass der Schaden eine andere Ursache als die Pflichtverletzung hat, widerlegbar.

Andererseits soll Opfern der Zugang zu Beweismitteln im Zusammenhang mit KI-Systemen erleichtert werden. Konkret kann dabei durch einen Antrag bei Gericht die Offenlegung von Informationen über Hochrisiko-KI-Systeme, etwa medizinische Geräte, erreicht werden. Dies soll den Opfern eine Hilfestellung bei der Identifizierung von haftbaren Personen und dem tatsächlichen Grund des Schadeneintritts bieten.

Schutz für Konsument:innen nicht gewährleistet

Obwohl der Richtlinienentwurf der EU-Kommission Verbraucher:innenschutz als wesentliches Leitmotiv nennt, bleiben die Haftungsregeln völlig unzureichend. Im Gegenteil, bei den vorgeschlagenen Regeln handelt es sich vielmehr um ein Schutzprogramm für Entwickler:innen und Anwender:innen von KI-Systemen. Sowohl die Kausalitätsvermutung als auch die Erleichterung des Zugangs zu Beweismitteln als die zwei Kernelemente des Vorschlags sind bei näherer Betrachtung ungeeignet, eine vereinfachte Durchsetzung von Schadenersatzansprüchen zu ermöglichen. Die Anforderungen an die Beweislast sind weiterhin zu hoch, wenn man bedenkt, dass die Opfer sowohl einen verschuldeten Pflichtverstoß eines/einer KI-Hersteller:in bzw Anwender:in als auch den Zusammenhang zwischen dem KI-Ergebnis und dem Schaden nachweisen müssen. Damit nicht genug begründen Sorgfaltsmängel nur dann eine Haftung, wenn diese gegen ein Gesetz verstoßen, das bezweckt, exakt den eingetretenen Schaden zu verhindern. Einziges Zugeständnis an völlig überforderte Verbraucher:innen: Die EU-Kommission konnte sich zur gesetzlichen Vermutung eines ursächlichen Zusammenhangs zwischen dem Verschulden und dem KI-Ergebnis durchringen. Diese winzige Erleichterung gilt bei hochriskanter KI allerdings auch nur, wenn das beklagte Unternehmen nicht nachweist, dass die/der Kläger:in „zu vertretbaren Bedingungen auf Beweismittel und Fachkenntnisse“ zugreifen kann. Bei nicht-hochriskanter KI gilt die Beweiserleichterung überhaupt nur, wenn nach Auffassung des Gerichtes ein Beweis „übermäßig schwierig“ zu erbringen ist.

Auch der Antrag an das Gericht hinsichtlich des Zugangs zu Beweismitteln ist erst einer Verhältnismäßigkeitsprüfung zu unterziehen und kann von den beklagten Unternehmen mit Rechtsmitteln bekämpft werden. Hier ist davon auszugehen, dass ein jahrelanger Rechtsstreit droht, bis eine endgültig durchsetzbare Entscheidung getroffen wird.

Die unzureichenden Vorschläge der EU-Kommission sind auch deshalb beachtlich, da sich bei den öffentlichen Konsultationen lediglich Nicht-KMUs, und damit große Unternehmen, gegen eine verschuldensunabhängige Haftung für bestimmte KI-gestützte Technologien ausgesprochen haben. Warum die EU-Kommission der mehrheitlichen Meinung nach einer verschuldensunabhängigen Haftung nicht gefolgt ist, erscheint vor diesem Hintergrund fraglich. Aus Sicht des Schutzes von Verbraucher:innen lässt sich somit jedoch nur eine Forderung ableiten: zurück an den Start.

Weiterführende Informationen:

AK EUROPA Positionspapier: EU-Verordnung zur Künstlichen Intelligenz

AK EUROPA Positionspapier: Weißbuch zur Künstlichen Intelligenz

Europäische Kommission: Neue Haftungsvorschriften für Produkte und künstliche Intelligenz zum Schutz der Verbraucher und zur Förderung von Innovation

Europäische Kommission: Vorschlag für eine Richtlinie zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz