Führende EU-Abgeordnete befassen sich mit Durchsetzung von KI-Vorschriften
Die Berichterstatter des Europäischen Parlaments haben einen neuen Stapel von Kompromissänderungsanträgen zur Neugestaltung der Durchsetzungsstruktur des KI-Gesetzes in Umlauf gebracht.
Die Berichterstatter des Europäischen Parlaments haben einen neuen Stapel von Kompromissvorschlägen zur Neugestaltung der Durchsetzung des KI-Gesetzes in Umlauf gebracht.
Am Freitag (18. November) haben Dragoș Tudorache und Brando Benifei, die EU-Abgeordneten, die das Dossier leiten, einen neuen Kompromisstext über die Durchsetzung des KI-Gesetzes vorgelegt.
Bei dem KI-Gesetz handelt es sich um eine Vorreiterregelung, mit der der Künstlichen Intelligenz auf der Grundlage ihres Schadenspotenzials Verpflichtungen auferlegt werden sollen.
Das Dokument sollte ursprünglich am Montag (22. November) und Dienstag erörtert werden, aber aufgrund der kurzfristigen Ankündigung wurden die technischen Diskussionen auf Mittwoch verschoben.
Durchsetzungsbefugnisse
Der Kompromisstext ermächtigt die nationale Aufsichtsbehörden, unangekündigte Vor-Ort- und Ferninspektionen von hochriskanten KI-Systemen durchzuführen, Proben von Hochrisikosystemen zu entnehmen, um sie zurückzuentwickeln, und Beweise zur Feststellung von Verstößen zu sammeln.
Für KI-Systeme, die in der Strafverfolgung eingesetzt werden, ließ der ursprüngliche Text den Polizeibehörden die Möglichkeit, sich selbst zu überwachen. Nach Ansicht der Abgeordneten könnten nur Datenschutzbehörden diese Rolle übernehmen.
EU-Datenbank
Der Anwendungsbereich der Bestimmungen zur Einrichtung einer europaweiten Datenbank für Hochrisikosysteme wurde erheblich ausgeweitet. Es sollen nicht mehr nur eigenständige Systeme erfasst werden, sondern alle Systeme, einschließlich KI, die mit anderen in ein komplexes System integriert sind, wie es bei KI für allgemeine Zwecke normalerweise der Fall ist.
Die Datenbank wurde von KI-Anbietern von Hochrisikosystemen auf Nutzer:innen von Hochrisikosystemen – öffentliche Behörden und deren Unterauftragnehmer – ausgeweitet.
Die Ko-Berichterstatter wollen, dass die Datenbank „benutzerfreundlich und zugänglich, leicht navigierbar und maschinenlesbar ist und strukturierte digitale Daten auf der Grundlage eines standardisierten Protokolls enthält.“
Aufsicht nach Inverkehrbringen
Das KI-Gesetz verlangt von den Anbietern von Algorithmen, die ein erhebliches Schadensrisiko aufweisen, dass sie die Leistung ihrer Systeme nach der Markteinführung überwachen, da sich die KI mit neuen Inputs weiterentwickelt.
Auch bei der Überwachung nach dem Inverkehrbringen sollen die KI-Anbieter „eine kontinuierliche Analyse der KI-Umgebung, einschließlich anderer Geräte, Software und anderer KI-Systeme, die mit dem KI-System interagieren, unter Berücksichtigung der sich aus dem Datenschutz-, Urheber- und Wettbewerbsrecht ergebenden Grenzen“ in Betracht ziehen.
Die Kommission muss innerhalb eines Jahres nach Inkrafttreten der KI-Verordnung eine Vorlage für Überwachungspläne für die Zeit nach dem Inverkehrbringen zusammen mit den Elementen bereitstellen, die darin enthalten sein sollen.
Verfahren für gefährliche Systeme
Den Parlamentarier:innen zufolge stelle ein KI-System auch dann eine Gefahr dar, wenn es Arbeitnehmerrechte, den Verbraucherschutz, die Umwelt und die öffentliche Sicherheit gefährdet.
Haben die Behörden hinreichende Gründe für die Annahme, dass ein KI-System die Gefährdung von Kindern ausnutzt, werden sie durch den Kompromiss verpflichtet, das System gründlich zu untersuchen. Außerdem wird die Beweislast für die Einhaltung des KI-Regelwerks auf den KI-Betreiber übertragen.
Für die Rücknahme gefährlicher Systeme vom Markt wurde eine Frist von 15 Arbeitstagen festgelegt.
Wenn die zuständige Behörde andere Stellen über ein risikobehaftetes System informiert, muss sie auch die Aufsichtsbehörden über die an der Lieferkette beteiligten Wirtschaftsakteure informieren.
Ergreift ein KI-Betreiber keine angemessenen Abhilfemaßnahmen, kann die nationale Aufsichtsbehörde den Marktentzug des Systems anordnen. Andere nationale Behörden oder die EU-Kommission können gegen diese Entscheidung innerhalb von drei Monaten Einspruch erheben, wobei sich diese Frist bei Beschlüssen im Zusammenhang mit verbotenen Praktiken auf einen Monat verkürzt.
Wird die Entscheidung angefochten, gelten dieselben Fristen für die verbindliche Entscheidung des KI-Büros zur Beilegung des Streitfalls.
Meldung schwerwiegender Vorfälle
Die Meldepflicht für schwerwiegende Vorfälle oder Funktionsstörungen wurde auf Nutzer:innen von Hochrisikosystemen ausgedehnt. Die Meldung muss spätestens drei Tage, nachdem die Anbieter oder Nutzer:innen davon Kenntnis erlangt haben, erfolgen.
Die nationale Aufsichtsbehörde muss ihrerseits innerhalb von sieben Tagen nach der Meldung geeignete Maßnahmen ergreifen. Das KI-Büro und die zuständigen Behörden sollten über Vorfälle informiert werden, die sich in anderen Mitgliedstaaten ereignen könnten.
Die nationalen Behörden müssten dem KI-Büro jährlich über alle schwerwiegenden Vorfälle Bericht erstatten.
Gemeinsame Ermittlungen
Es wurde ein neuer Artikel hinzugefügt, der die Möglichkeit gemeinsamer Ermittlungen in Fällen vorsieht, die einen weitverbreiteten Verstoß darstellen oder mindestens 45 Millionen Bürger:innen betreffen könnten. Das KI-Büro würde die zentrale Koordinierung solcher gemeinsamer Operationen übernehmen.
Nichteinhaltung der Vorschriften
Die formale Nichteinhaltung wurde auch auf Fälle ausgedehnt, in denen die technische Dokumentation nicht verfügbar ist, das KI-System nicht in der EU-Datenbank registriert wurde oder kein Bevollmächtigter in der EU ernannt wurde.
Rechte von Einzelpersonen
Nach Ansicht der Parlamentarier sollte jede Einzelperson oder Gruppe, die von einem unter die KI-Verordnung fallenden KI-System betroffen ist, das Recht haben, sich bei der zuständigen nationalen Behörde zu beschweren.
Beschwerdeführer hätten außerdem das Recht, angehört und über den Verlauf ihrer Beschwerde informiert zu werden, wobei eine vorläufige Antwort bereits innerhalb von drei Monaten erfolgen soll. Die Behörde hätte dann sechs Monate Zeit, eine Entscheidung zu treffen.
Der Text legt auch fest, dass Einzelpersonen das Recht auf einen gerichtlichen Rechtsbehelf haben sollen, etwa wenn die Aufsichtsbehörden ihren Pflichten nicht nachkommen.
Whistleblower
Die Abgeordneten haben den Anwendungsbereich der Richtlinie zum Schutz von Personen, die Verstöße gegen EU-Recht melden, auf Personen ausgeweitet, die Verstöße gegen das KI-Gesetz melden.
Nationale Behörden
Der neue Text schreibt vor, dass die von den Mitgliedstaaten benannte Aufsichtsbehörde nicht mit der Behörde übereinstimmen darf, die die Arbeit der Konformitätsbewertungsstellen überwacht.
[Bearbeitet von Nathalie Weatherald]
