Europaabgeordnete gehen auf Verpflichtungen für hochriskante KI-Systeme ein
Die Abgeordneten haben einen Kompromiss zu den Verpflichtungen für KI-Systeme mit hohem Risiko und eine Konsolidierung des bisherigen Textes vorgeschlagen, wie aus Dokumenten hervorgeht, die EURACTIV vorliegen.
EU-Abgeordnete haben einen Kompromiss zu den Verpflichtungen für KI-Systeme mit hohem Risiko und eine Konsolidierung des bisherigen Textes vorgeschlagen, wie aus Dokumenten hervorgeht, die EURACTIV vorliegen.
Die Ko-Berichterstatter Brando Benifei und Dragoș Tudorache haben letzte Woche neue Kompromissänderungsanträge in Umlauf gebracht, die am Dienstag (30. August) in einer technischen Sitzung diskutiert werden sollen.
Die führenden Europaabgeordneten haben bisher versucht, den am wenigsten umstrittenen Teil des Textes voranzubringen, um wenigstens einen gewissen Fortschritt zu erzielen, bevor sie sich mit den umstrittensten Aspekten des Vorschlags befassen.
Diese Strategie scheint aufgegangen zu sein, denn die bisherigen Kompromissänderungsanträge wurden mit nur geringfügigen Änderungen beibehalten. Gleichzeitig haben die Ko-Berichterstatter damit begonnen, den Teil der Verpflichtungen zu klären, der für die Anbieter und Nutzer:innen von Hochrisikosystemen gelten soll.
„Bisher haben wir konstruktive Diskussionen geführt. Diese Woche werden wir mit voller Kraft weitermachen“, so ein Beamter des Europäischen Parlaments gegenüber EURACTIV.
Verpflichtungen für Hochrisikosysteme
Dem neuen Text zufolge kann das Qualitätsmanagementsystem, das KI-Anbieter für Hochrisikosysteme einführen müssen, in bestehende Systeme integriert werden, die zur Einhaltung sektoraler EU-Vorschriften wie der Europäischen Medizinprodukteverordnung geschaffen wurden.
Die Artikel über die Pflicht zur Erstellung von technischen Unterlagen und über die Konformitätsbewertung wurden gestrichen, da sie in Verbindung mit anderen Artikeln überflüssig wurden.
Für die führenden Abgeordneten des Europäischen Parlaments müssen die KI-Anbieter die von ihren KI-Systemen automatisch erstellten Protokolle mindestens sechs Monate lang aufbewahren, es sei denn, EU- oder nationales Recht schreibt etwas anderes vor. Je nach Industriestandard oder Einsatzzweck des Systems können auch längere Zeiträume erforderlich sein.
Wenn der KI-Anbieter der Meinung ist, dass eines seiner Hochrisikosysteme nicht mit der Verordnung übereinstimmt, muss er unverzüglich handeln und es vom Markt nehmen und deaktivieren.
Außerdem wurde ein Zusatz eingefügt, der besagt, dass die Anbieter die Händler und gegebenenfalls andere Akteure in der Wertschöpfungskette unverzüglich über die Nichteinhaltung der Vorschriften und die entsprechenden Abhilfemaßnahmen informieren müssen. Sie sollten zudem die nationalen Marktaufsichtsbehörden und die benannte Stelle, die das System geprüft hat, über die Nichtkonformität und die ergriffenen Maßnahmen informieren.
Die Nutzer:innen von KI mit hohem Risiko müssen auch bereit sein, mit den nationalen Behörden, dem Europäischen KI-Rat und der Europäischen Kommission zusammenzuarbeiten, um die Konformität ihres Systems nachzuweisen, eine Maßnahme, die bisher auf Anbieter beschränkt war.
Auf eine begründete Anfrage der EU-Exekutive oder einer Marktaufsichtsbehörde müssten Anbieter oder Nutzer:innen Zugang zu den automatisch erstellten Protokollen gewähren. Alle diese öffentlichen Stellen wären an die Vertraulichkeit gebunden.
Verteilung der Verantwortung
Insgesamt zielen diese Abänderungen darauf ab, die Frage der Zuständigkeitsverteilung in der komplexen KI-Leistungskette zu regeln. Interessanterweise „parkt“ der Änderungsantrag zur Zusammenarbeit mit den Behörden die Änderungsanträge zur Governance und zur Allzweck-KI, wobei letztere ein besonders brisantes Thema ist.
Die konservativen Abgeordneten des Europäischen Parlaments haben darauf gedrängt, spezifische Bestimmungen für universelle KI aufzunehmen, das heißt für Systeme, die für die Ausführung verschiedener Aufgaben trainiert werden können. Es stellt sich die Frage, wie Anbieter in diesem Fall verantwortlich gemacht werden können, wenn sie nicht einmal wissen, welchen Zweck die endgültigen Systeme haben werden.
Darüber hinaus sollen mit dem Kompromiss die Verantwortlichkeiten der Importeure und Händler von KI-Systemen mit hohem Risiko geklärt werden, insbesondere wie sie mit den nationalen Behörden zusammenarbeiten und wie sie unerwartete Risiken eindämmen können.
Als Voraussetzung für den Zugang zum EU-Markt müssen die Anbieter von KI-Systemen einen Bevollmächtigten benennen, der dafür verantwortlich ist, dass das Konformitätsbewertungsverfahren durchgeführt wurde und der zuständigen nationalen Behörde die einschlägigen Unterlagen, wie etwa eine Konformitätserklärung, zur Verfügung stellt.
Ein Kommentar am Rande des Dokuments deutet darauf hin, dass die Sozialdemokrat:innen nach wie vor darauf drängen, dass sich alle Nutzer:innen mit hohem Risiko in der öffentlichen Datenbank registrieren lassen müssen, nicht nur Behörden.
Administrative Verfahren
Die Abgeordneten griffen ihren früheren Kompromiss über die Rolle der gemeldeten Stellen – private Unternehmen, die mit der Prüfung der Konformität von Hochrisikosystemen beauftragt sind – und der meldenden Behörden – die nationalen Behörden, die die Stellen beaufsichtigen – wieder auf.
Der neue Text soll für einheitliche Verwaltungsverfahren in der gesamten Union sorgen, um mögliche Hindernisse zu beseitigen. So muss beispielsweise das Verfahren zur Bewertung und Überwachung von Konformitätsbewertungsstellen von allen zuständigen nationalen Behörden genehmigt werden.
Interessanterweise wurde in dem neuen Kompromiss der Abschnitt zu Drehtüren mit der Bemerkung gestrichen, dass dieser noch weiter diskutiert werden müsste. Die Bestimmung würde Mitarbeiter:innen einer gemeldeten Stelle für die Dauer eines Jahres daran hindern, mit einem KI-Anbieter zusammenzuarbeiten, nachdem die Stelle eines der Systeme des Anbieters geprüft hat.
Darüber hinaus wurde auf Vorschlag konservativer Abgeordneter das Verfahren für die Akkreditierung von Konformitätsbewertungsstellen in Drittländern im Rahmen eines Konformitätsbewertungssystems oder eines Abkommens über gegenseitige Anerkennung präzisiert.
Technische Normen
In dem Artikel über harmonisierte Normen hat die Europäische Volkspartei erreicht, dass ein Verweis auf die vertrauenswürdige KI, die während des Normungsprozesses zu berücksichtigen ist, hinzugefügt wurde.
Die Bestimmungen über Konformitätsvermutung und Konformitätsbewertung werden in einer weiteren technischen Sitzung erörtert werden. Darüber hinaus wird in der nächsten technischen Sitzung am 2. September darüber diskutiert, ob der Zeitplan für die Aufbewahrung der technischen Dokumente auf der Grundlage eines bestimmten Zeitrahmens oder des gesamten Produktlebenszyklus erfolgen soll.
[Bearbeitet von Nathalie Weatherald]
