LEAK: Kommission will widerlegbare Vermutung für KI-bedingte Schäden vorschlagen

Die EU-Kommission wird eine Haftungsregelung für Schäden durch künstliche Intelligenz (KI) vorlegen, die dem Beklagten eine Kausalitätsvermutung auferlegt, wie aus einem von EURACTIV erhaltenen Entwurf hervorgeht.

Die KI-Haftungsrichtlinie soll am 28. September veröffentlicht werden und soll das KI-Gesetz ergänzen. Dieses sieht die Einführung von Anforderungen an KI-Systeme vor, die sich nach deren Risikograd richten.

„Diese Richtlinie sieht sehr gezielte und verhältnismäßige Erleichterungen der Beweislast durch Offenlegung und widerlegbare Vermutungen vor“, heißt es in dem Entwurf.

„Diese Maßnahmen werden Personen, die Ersatz für durch KI-Systeme verursachte Schäden suchen, helfen, ihre Beweislast zu bewältigen, so dass berechtigte Haftungsansprüche erfolgreich sein können.“

Der Vorschlag folgt der im Oktober 2020 angenommenen Entschließung des EU-Parlaments aus eigener Initiative, die eine Erleichterung der Beweislast und eine strenge Haftungsregelung für KI-gestützte Technologien fordert.

Anwendungsbereich

Aus Gründen der Kohärenz werden die Definitionen von KI-Systemen, einschließlich Hochrisikosystemen, KI-Anbietern und -Nutzern, direkt im KI-Gesetz genannt.

Die Richtlinie gilt für außervertragliche zivilrechtliche Schadensersatzansprüche, die durch ein KI-System in verschuldensabhängigen Haftungsregelungen verursacht werden. Mit anderen Worten, in Fällen, in denen jemand für eine bestimmte Tat oder Unterlassung verantwortlich gemacht werden kann.

Die Idee ist, dass diese Bestimmungen die bestehenden zivilrechtlichen Haftungsregelungen ergänzen, da die Richtlinie – abgesehen von der Vermutung – die einzelstaatlichen Vorschriften über die Beweislast, den für den Beweisstandard erforderlichen Grad an Rechtssicherheit oder die Definition des Verschuldens nicht berührt.

Während die strafrechtliche oder verkehrsrechtliche Haftung vom Anwendungsbereich ausgenommen ist, würden die Bestimmungen auch für die nationalen Behörden gelten, soweit sie durch das KI-Gesetz verpflichtet sind.

Offenlegung von Informationen

Ein potenzieller Kläger kann von den Anbietern eines Hochrisikosystems verlangen, die Informationen offenzulegen, die der Anbieter im Rahmen seiner Verpflichtungen gemäß dem KI-Gesetz aufbewahren muss.

Die KI-Verordnung schreibt vor, dass die Dokumentation zehn Jahre lang aufbewahrt werden muss, nachdem ein KI-System auf den Markt gebracht wurde.

Zu den verlangten Informationen gehören die Datensätze, die zur Entwicklung des KI-Systems verwendet wurden, technische Unterlagen, Protokolle, das Qualitätsmanagementsystem und etwaige Korrekturmaßnahmen.

Die Adressaten könnten das Ersuchen ablehnen, das dann im Rahmen eines Gerichtsverfahrens erneut gestellt werden kann. Dabei wird von einem Richter geprüft, ob das Ersuchen gerechtfertigt und notwendig ist, um im Falle von durch KI verursachten Unfällen einen Anspruch geltend zu machen.

Für diese Offenlegungen gelten Schutzklauseln und der Grundsatz der Verhältnismäßigkeit, insbesondere für Geschäftsgeheimnisse. Das Gericht kann den Anbieter auch anweisen, diese Informationen so lange aufzubewahren, wie es für erforderlich gehalten wird.

Weigert sich ein Anbieter, einer Offenlegungsanordnung nachzukommen, so geht das Gericht davon aus, dass der Anbieter die einschlägigen Verpflichtungen nicht erfüllt hat, sofern der Beklagte nicht das Gegenteil beweist.

Nichteinhaltung des KI-Gesetzes

Die Richtlinie soll eine Rechtsgrundlage für die Geltendmachung von Schadenersatzansprüchen bei Nichteinhaltung bestimmter, in der EU-Verordnung über künstliche Intelligenz festgelegter Verpflichtungen schaffen.

Da ein Kausalzusammenhang zwischen der Nichteinhaltung und dem Schaden nur durch die Erläuterung der inneren Funktionsweise der KI hergestellt werden kann, wird der Kausalzusammenhang unter bestimmten Umständen angenommen.

Bei nicht besonders risikobehafteten KI-Systemen gilt die Vermutung, wenn die Nichteinhaltung von Vorschriften, die den Schaden hätten verhindern können, nachgewiesen ist und wenn der Beklagte für diese Nichteinhaltung verantwortlich ist.

Bei Hochrisikosystemen gilt die Vermutung gegen den Anbieter, wenn keine geeigneten Risikomanagementmaßnahmen getroffen wurden, der Trainingsdatensatz nicht den geforderten Qualitätskriterien entsprach oder das System die Kriterien Transparenz, Genauigkeit, Robustheit und Cybersicherheit nicht erfüllte.

Weitere Faktoren sind das Fehlen einer angemessenen menschlichen Aufsicht oder die Nachlässigkeit bei der unverzüglichen Umsetzung der erforderlichen Abhilfemaßnahmen.

Die Vermutung gilt für Nutzer von Hochrisikosystemen, wenn die Nutzer die begleitenden Anweisungen nicht beachtet haben oder das System Eingabedaten ausgesetzt war, die für den vorgesehenen Zweck des Systems nicht relevant sind.

Mit anderen Worten: Der KI-Anbieter, der gegen die Vorschriften verstoßen hat, muss nachweisen, dass seine Nichteinhaltung den Schaden nicht verursacht hat, indem er nachweist, dass es plausiblere Erklärungen für den Schaden gibt.

Nichteinhaltung anderer Anforderungen

Ein ähnlicher Grundsatz wurde für Verstöße gegen andere EU- oder nationale Vorschriften eingeführt.

Auch in diesem Fall würde die Kausalitätsvermutung nur für Fälle gelten, in denen die Nichteinhaltung der Sorgfaltspflicht für den vorliegenden Schaden relevant ist und ihn verhindern soll.

In diesem Fall sind die Voraussetzungen für die Vermutung, dass das KI-System „vernünftigerweise angenommen werden kann“, dass es an der Entstehung des Schadens beteiligt ist, und dass der Beschwerdeführer die Nichteinhaltung einschlägiger Anforderungen nachgewiesen hat.

Nach Ansicht der Kommission stellt dieser Ansatz „die am wenigsten belastende Maßnahme dar, um der Notwendigkeit einer gerechten Entschädigung des Opfers gerecht zu werden, ohne die Kosten auf dieses abzuwälzen“.

Überwachung und Umsetzung

Die EU-Kommission soll ein Überwachungsprogramm für Vorfälle mit KI-Systemen einrichten und innerhalb von fünf Jahren eine gezielte Überprüfung vornehmen, um festzustellen, ob zusätzliche Maßnahmen erforderlich sind.

Die Mitgliedstaaten haben zwei Jahre Zeit, die Richtlinie nach ihrem Inkrafttreten in nationales Recht umzusetzen.

Bei der Umsetzung können die Mitgliedstaaten nationale Vorschriften erlassen, die für die Kläger günstiger sind, solange sie mit dem EU-Recht vereinbar sind.

[Bearbeitet von Nathalie Weatherald]