Vor Abstimmung: EU-Abgeordnete geben KI-Gesetz den letzten Schliff
Die EU-Abgeordneten haben den Text der KI-Verordnung vor der Abstimmung in den federführenden Parlamentsausschüssen am Donnerstag (11. Mai) fertiggestellt.
Die EU-Abgeordneten haben den Text der KI-Verordnung vor der Abstimmung in den federführenden Parlamentsausschüssen am Donnerstag (11. Mai) fertiggestellt.
Das KI-Gesetz ist ein weitreichender Gesetzesvorschlag zur Regulierung der künstlichen Intelligenz auf der Grundlage ihres Schadenspotenzials. Die Mitglieder des Europäischen Parlaments, die die Verhandlungen zu dem Gesetz leiten, haben am Freitag (5. Mai) eine finale Version der Kompromissänderungsanträge vorgelegt.
Die Kompromisse, die EURACTIV einsehen konnte, spiegeln einen breiten politischen Kompromiss wider, der Ende April erzielt wurde. Sie enthalten aber auch einige Änderungen in letzter Minute und wichtige Details zur Umsetzung des Gesetzes.
Basismodelle
Der ursprüngliche Vorschlag für das KI-Gesetz bezog sich nicht auf KI-Systeme ohne einen bestimmten Zweck. Der rasante Erfolg von ChatGPT und anderen sogenannten generativen KI-Modellen, die selbst Inhalte erstellen, hat die Diskussionen beeinflusst und die Abgeordneten dazu veranlasst, zu hinterfragen, wie solche Systeme am besten reguliert werden könnten.
Die Lösung bestand darin, eine strengere Regelung für sogenannte Basismodelle einzuführen, leistungsfähige KI-Systeme, die anderen KI-Anwendungen zugrunde liegen können.
Speziell für generative KI einigten sich die Abgeordneten darauf, dass sie eine Zusammenfassung der Trainingsdaten liefern sollten, die unter das Urheberrecht fallen. Der abgestimmte Text legt fest, dass diese Zusammenfassung „ausreichend detailliert“ sein muss.
Darüber hinaus müssen generative Basismodelle Transparenz herstellen, dass ihre Inhalte von KI und nicht von Menschen erstellt wurden.
Die Geldbußen für Anbieter von Basismodellen, die gegen die KI-Vorschriften verstoßen, wurden auf bis zu 10 Millionen Euro oder 2 Prozent des Jahresumsatzes festgesetzt, je nachdem, welcher Betrag höher ist.
Systeme mit hohem Risikopotential
Das KI-Gesetz sieht eine strenge Regelung für KI-Lösungen vor, die ein hohes Risiko bergen, Schaden anzurichten. Ursprünglich wurde in dem Vorschlag jedes System, das unter bestimmte in Anhang III aufgeführte kritische Bereiche oder Anwendungsfälle fällt, automatisch als hochriskant eingestuft.
Die EU-Abgeordneten haben eine „zusätzliche Ebene“ hinzugefügt, was bedeutet, dass die Einstufung nicht automatisch erfolgt. Die Systeme müssen auch ein „erhebliches Risiko“ darstellen, um als hoch riskant eingestuft zu werden.
Ein neuer Absatz wurde eingeführt, um besser zu definieren, was unter einem erheblichen Risiko zu verstehen ist, und besagt, dass es unter Berücksichtigung der Auswirkungen eines solchen Risikos hinsichtlich des Schweregrads, der Intensität, der Eintrittswahrscheinlichkeit und der Dauer insgesamt sowie unter Berücksichtigung der Tatsache, ob das Risiko eine Einzelperson, eine Vielzahl von Personen oder eine bestimmte Gruppe von Personen betreffen kann, bewertet werden sollte.
In letzter Minute wurden auch einige Änderungen an Anhang III vorgenommen. Die Abgeordneten einigten sich darauf, die Empfehlungssysteme sehr großer Online-Plattformen als Hochrisikokategorie in das Gesetz über digitale Dienste (Digital Services Act) aufzunehmen. Der letzte Kompromiss beschränkt diese Hochrisikokategorie auf soziale Medien.
KI-Systeme, die zur Beeinflussung des Wahlverhaltens eingesetzt werden, gelten als hochriskant. Es wurde jedoch eine Ausnahme für KI-Modelle eingeführt, deren Ergebnisse nicht direkt von der Öffentlichkeit wahrgenommen werden, wie zum Beispiel Tools zur Organisation politischer Kampagnen.
In Bezug auf die Transparenz legt der Text fest, dass „betroffene Personen immer darüber informiert werden sollten, dass sie von einem KI-System mit hohem Risiko betroffen sind, wenn die Betreiber ein KI-System mit hohem Risiko einsetzen, um bei der Meinungsbildung zu helfen oder Entscheidungen in Bezug auf natürliche Personen zu treffen.“
Auf Antrag von der Mitte-Links-Fraktionen enthält der Text des Parlaments eine Verpflichtung für diejenigen, die ein Hochrisikosystem in der EU einsetzen, eine Grundrechtsfolgenabschätzung durchzuführen. Diese Folgenabschätzung beinhaltet eine Konsultation der zuständigen Behörde und der relevanten Interessengruppen.
In einem neuen Zusatz zum Text wurden kleine und mittelständische Unternehmen von dieser Konsultationsbestimmung ausgenommen.
Untersagte Praktiken
Das KI-Gesetz verbietet Anwendungen, die ein unzumutbares Risiko darstellen. Abgeordnete der politischen Linken erreichten die Ausweitung des Verbots auf biometrische Identifizierungssysteme sowohl für die Echtzeit- als auch für die nachträgliche Verwendung, mit Ausnahme der letzteren in Fällen von schweren Verbrechen und richterlicher Genehmigung.
Das Verbot der biometrischen Identifizierung ist für die Mitte-Rechts-Fraktion der Europäischen Volkspartei, welche die Strafverfolgung erleichtern will, schwer zu verdauen. Die konservative Fraktion hat erreicht, dass über das Verbot der biometrischen Identifizierung getrennt vom Rest der Kompromisse abgestimmt wird, wie aus einem Entwurf der Abstimmungsliste hervorgeht.
Darüber hinaus wurde in das Verbot der biometrischen Kategorisierung eine Ausnahmeregelung für therapeutische Zwecke aufgenommen.
Governance und Umsetzung
Die Abgeordneten fordern die Einführung eines AI-Büros, einer neuen EU-Behörde zur Unterstützung der harmonisierten Anwendung des AI-Regelwerks und grenzüberschreitender Untersuchungen.
Es wurde eine Formulierung hinzugefügt, die auf die Möglichkeit verweist, die Behörde in Zukunft zu verstärken, um die grenzüberschreitende Durchsetzung der Regeln besser zu unterstützen. Es ist die Rede davon, die Behörde zu einer Agentur auszubauen, eine Lösung, die der derzeitige EU-Haushalt jedoch nicht zulässt.
In letzter Minute haben die EU-Abgeordneten den nationalen Behörden die Befugnis gegeben, Zugang zu den trainierten Modellen der KI-Systeme zu verlangen, auch zu den Basismodellen. Der Zugang kann vor Ort oder in Ausnahmefällen auch aus der Ferne erfolgen.
Darüber hinaus enthält das Dokument einen Vorschlag zur Aufnahme einer Bestimmung zum Berufsgeheimnis für nationale Behörden, die aus der allgemeinen Datenschutzverordnung der EU übernommen wurde.
Bewertung
Die Liste der Elemente, die die Europäische Kommission bei der Bewertung des KI-Gesetzes berücksichtigen sollte, wurde um die Nachhaltigkeitsanforderungen, die rechtliche Regelung für Basismodelle und die unfairen Vertragsbedingungen erweitert, die KMU und Start-ups einseitig von Anbietern von KI für allgemeine Zwecke auferlegt werden.
[Bearbeitet von Nathalie Weatherald]
