EU-Abgeordnete finden Kompromiss zur Regulierung künstlicher Intelligenz
Nach monatelangen intensiven Verhandlungen haben die Mitglieder des Europäischen Parlaments ihre Differenzen überbrückt und eine vorläufige politische Einigung über das weltweit erste Regelwerk für Künstliche Intelligenz erzielt.
Nach monatelangen intensiven Verhandlungen haben die Mitglieder des Europäischen Parlaments ihre Differenzen überbrückt und eine vorläufige politische Einigung über das weltweit erste Regelwerk für Künstliche Intelligenz erzielt.
Die KI-Verordnung ist ein richtungsweisender Gesetzesvorschlag zur Regulierung der Künstlichen Intelligenz auf der Grundlage ihres Schadenspotenzials. Nachdem die Abgeordneten der EU am Donnerstag (27. April) eine politische Einigung erzielt haben, ist das Europäische Parlament nun auf dem Weg, seine Position zu diesem Gesetz zu formalisieren.
Der Text könnte vor der für den 11. Mai geplanten Abstimmung im Ausschuss noch geringfügig auf technischer Ebene angepasst werden, aber es wird erwartet, dass er Mitte Juni im Plenum zur Abstimmung kommt.
„Wir haben jetzt eine Vereinbarung, bei der alle Fraktionen den Kompromiss unterstützen müssen, ohne die Möglichkeit, alternative Änderungsanträge einzureichen“, hieß es aus Parlamentskreisen.
Bis zuletzt hatten die EU-Abgeordneten einen regelrechten Kuhhandel über einige der umstrittensten Punkte des Vorschlags betrieben.
„KI-Systeme für allgemeine Anwendungen“ (General Purpose AI, GPAI)
Wie mit KI-Systemen umgegangen werden soll, die keinen bestimmten Zweck verfolgen, war ein heiß diskutiertes Thema in der Diskussion. Die Abgeordneten bestätigten frühere Vorschläge, strengere Auflagen für Basismodelle zu machen, eine Unterkategorie der General Purpose AI, zu der auch ChatGPT gehört.
Die einzige wesentliche Änderung in letzter Minute betraf generative KI-Modelle, die im Einklang mit dem EU-Recht und den Grundrechten, einschließlich der Meinungsfreiheit, entworfen und entwickelt werden müssen.
Unzulässige Praktiken
Ein weiteres politisch heikles Thema war die Frage, welche Art von KI-Anwendungen verboten werden sollen, weil sie ein inakzeptables Risiko darstellen.
Vor zwei Wochen wurde die Idee geäußert, KI-gestützte Werkzeuge für die allgemeine Überwachung der zwischenmenschlichen Kommunikation zu verbieten. Der Vorschlag wurde nach dem Widerstand der konservativen Europäischen Volkspartei (EVP) fallen gelassen.
Im Gegenzug mussten die Abgeordneten der Mitte-Rechts-Partei eine Ausweitung des Verbots von Software zur biometrischen Identifizierung akzeptieren. Diese Erkennungssoftware, die ursprünglich nur für den Echtzeitgebrauch verboten war, darf nur bei schweren Straftaten und mit vorheriger gerichtlicher Genehmigung eingesetzt werden.
Die EVP, die eine harte Position im Bereich der Strafverfolgung vertritt, ist die einzige partielle Ausnahme von der informellen Vereinbarung, keine von der erzielten Einigung abweichenden Änderungsanträge einzureichen.
Die Fraktion hat zugestimmt, keine fundamentalen Änderungen einzubringen, die ihre Unterstützung für das gesamte Dossier gefährden könnten, aber sie könnte dennoch versuchen, das Verbot der nachträglichen biometrischen Daten zu ändern.
Die KI-Verordnung verbietet auch „absichtliche“ Manipulationen. Das Wort „absichtlich“ war umstritten, da die Absicht schwer zu beweisen sein könnte. Dennoch wurde es beibehalten, da die Abgeordneten das Netz nicht zu weit auswerfen wollten.
Der Einsatz von KI-gestützter Software zur Emotionserkennung ist in den Bereichen Strafverfolgung, Grenzmanagement, Arbeitsplatz und Bildung verboten.
Das Verbot der EU-Abgeordneten für „Predictive Policing“ (voraussagende Polizeiarbeit) wurde von Straftaten auf Ordnungswidrigkeiten ausgeweitet. Hintergrund ist der niederländische Kindergeldskandal, bei dem Tausende von Familien aufgrund eines fehlerhaften Algorithmus fälschlicherweise des Betrugs beschuldigt wurden.
Hochrisiko-Klassifizierung
Der ursprüngliche Vorschlag stufte KI-Lösungen, die unter die in Anhang III aufgeführten kritischen Bereiche und Anwendungsfälle fallen, automatisch als hochriskant ein. Das bedeutet, dass die Anbieter solcher Services ein strengeres Regime mit Anforderungen an Risikomanagement, Transparenz und Data Governance einhalten müssen.
Die Abgeordneten haben eine zusätzliche Ebene eingeführt, die besagt, dass ein KI-Modell, das unter die Kategorien von Anhang III fällt, nur dann als hochriskant gilt, wenn es ein erhebliches Risiko für die Gesundheit, die Sicherheit oder die Grundrechte birgt.
Ein erhebliches Risiko wird definiert als „ein Risiko, das aufgrund der Kombination von Schwere, Intensität, Eintrittswahrscheinlichkeit und Dauer seiner Auswirkungen erheblich ist und die Fähigkeit besitzt, eine Einzelperson, eine Vielzahl von Personen oder eine bestimmte Gruppe von Personen zu beeinträchtigen“.
Auf Antrag der Grünen soll auch KI, die zur Verwaltung kritischer Infrastrukturen wie Energienetze oder Wasserwirtschaftssysteme eingesetzt wird, als hohes Risiko eingestuft werden, wenn sie ein schwerwiegendes Umweltrisiko birgt.
Darüber hinaus haben die Abgeordneten der Mitte-Links-Fraktion durchgesetzt, dass die Empfehlungssysteme sehr großer Online-Plattformen, wie sie im Gesetz über digitale Dienste (DSA) definiert sind, als hochriskant eingestuft werden.
Sensible Daten
Die Abgeordneten haben zusätzliche Sicherheitsvorkehrungen für das Verfahren aufgenommen, mit dem die Anbieter von KI-Modellen mit hohem Risiko sensible Daten wie die sexuelle Ausrichtung oder religiöse Überzeugungen verarbeiten können, um negative Verzerrungen zu erkennen.
Damit die Verarbeitung einer solchen speziellen Art von Daten erfolgen kann, darf die Voreingenommenheit insbesondere nicht durch die Verarbeitung synthetischer, anonymisierter, pseudonymisierter oder verschlüsselter Daten aufgedeckt werden können.
Außerdem muss die Bewertung in einer kontrollierten Umgebung stattfinden. Die sensiblen Daten dürfen nicht an andere Parteien weitergegeben werden und müssen nach der Bewertung der Befangenheit gelöscht werden. Die Anbieter müssen auch dokumentieren, warum die Datenverarbeitung stattgefunden hat.
Allgemeine Grundsätze
Im Vorfeld der Sitzung am Mittwoch hat das Büro der Mitberichterstatter einen Vorschlag für allgemeine Grundsätze vorgelegt, die für alle KI-Modelle gelten sollen. Der neue Artikel soll keine neuen Verpflichtungen schaffen, sondern muss in technische Standards und Leitfäden aufgenommen werden.
Zu diesen Grundsätzen gehören menschliches Handeln und Aufsicht, technische Robustheit und Sicherheit, Datenschutz und Datenverwaltung, Transparenz, soziales und ökologisches Wohlergehen, Vielfalt, Nichtdiskriminierung und Fairness.
Nachhaltigkeit von hochriskanter AI
KI-Systeme mit hohem Risiko werden Aufzeichnungen über ihren ökologischen Fußabdruck führen müssen, und die Gründungsmodelle werden den europäischen Umweltstandards entsprechen müssen.
[Bearbeitet von Zoran Radosavljevic]
