KI-Gesetz: "Stehen kurz vor einem Meilenstein"
Die führenden parlamentarischen Ausschüsse des Europäischen Parlaments haben am Donnerstag (11. Mai) in einer Abstimmung grünes Licht für das KI-Gesetz gegeben und damit den Weg für die Verabschiedung im Plenum Mitte Juni freigelegt.
Die führenden parlamentarischen Ausschüsse des Europäischen Parlaments haben am Donnerstag (11. Mai) in einer Abstimmung grünes Licht für das KI-Gesetz gegeben und damit den Weg für die Verabschiedung im Plenum Mitte Juni freigelegt.
Das KI-Gesetz ist ein Meilenstein in der Gesetzgebung zur Regulierung von Künstlicher Intelligenz auf der Grundlage ihres Schadenspotenzials. Am Donnerstag haben der Ausschuss für bürgerliche Freiheiten und der Binnenmarktausschuss des Parlaments den Text gemeinsam mit großer Mehrheit angenommen.
Der nächste Schritt ist die Verabschiedung im Plenum, die voraussichtlich am 14. Juni stattfinden wird. Nachdem die Abgeordneten ihren Standpunkt formell festgelegt haben, wird der Antrag in die letzte Phase des Gesetzgebungsverfahrens eintreten und die Verhandlungen mit dem EU-Rat und der Kommission einleiten.
„Wir stehen kurz davor, einen echten Meilenstein für die digitale Landschaft zu schaffen, nicht nur für Europa, sondern auch für die ganze Welt“, sagte Brando Benifei, einer der Co-Berichterstatter des Textes, vor der Abstimmung zu seinen Kollegen.
KI Definition
Die Definition des Begriffs „Künstliche Intelligenz“ ist ein kritischer Aspekt der Gesetzgebung, da sie ihren Anwendungsbereich festlegt. Die konservativen Abgeordneten haben eine Angleichung der Definition an die der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD), einem Zusammenschluss von 38 wohlhabenden Ländern, erreicht.
„Ein ‚System der künstlichen Intelligenz‘ (KI-System) ist ein maschinenbasiertes System, dass mit unterschiedlichem Grad an Autonomie arbeitet und für explizite oder implizite Ziele Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebungen beeinflussen.“
Auch die OECD denkt bereits über eine Überarbeitung ihrer KI-Definition nach. Daher haben die EU-Gesetzgeber den Wortlaut angepasst, um der zukünftigen Formulierung der Organisation vorzugreifen.
Verbotene Praktiken
Das KI-Gesetz verbietet bestimmte Anwendungen wie manipulative Techniken und Social Scoring, die als unannehmbares Risiko angesehen werden. Die Liste dieser verbotenen Praktiken wurde auf Drängen von Abgeordneten der Linken erheblich erweitert.
Das Verbot wurde auf KI-Modelle für die biometrische Kategorisierung, die vorausschauende Polizeiarbeit und das Auslesen von Gesichtsbildern für den Aufbau von Datenbanken ausgedehnt. Software zur Erkennung von Emotionen ist in den Bereichen Strafverfolgung, Grenzmanagement, Arbeitsplatz und Bildung verboten.
Biometrische Identifizierungssysteme, die zunächst in bestimmten Situationen wie Entführungen oder Terroranschlägen erlaubt waren, waren ein umstrittener Punkt. Das Parlament hatte eine Mehrheit für ein vollständiges Verbot, obwohl sich die konservative Europäische Volkspartei bis zur letzten Minute dagegen wehrte.
KI für allgemeine Zwecke
In der ursprünglichen Fassung des KI-Gesetzes waren Systeme ohne einen bestimmten Zweck nicht in den Anwendungsbereich einbezogen. Der rasante Erfolg von ChatGPT und anderen großen Sprachmodellen veranlasste die Abgeordneten der EU, ihren Ansatz nochmals zu überdenken. Das Ergebnis war ein abgestufter Ansatz.
Das KI-Regelwerk wird sich standardmäßig nicht auf KI-Systeme für allgemeine Zwecke (GPAI) erstrecken. Der Großteil der Verpflichtungen wird auf die Unternehmen zukommen, die diese Systeme in eine Anwendung integrieren, die als hochriskant gilt.
Allerdings müssten die GPAI-Anbieter die nachgeschalteten Betreiber bei der Einhaltung der Vorschriften unterstützen, indem sie alle relevanten Informationen und Unterlagen über das KI-Modell bereitstellen.
Für Basismodelle, leistungsfähige KI-Systeme für allgemeine Zwecke wie Stable Diffusion, die andere KI-Anwendungen antreiben können, werden strengere Anforderungen vorgeschlagen. Die Verpflichtungen betreffen das Risikomanagement, die Datenverwaltung und den Grad der Robustheit des Basismodells, der von unabhängigen Experten überprüft werden muss.
Die oberste Stufe gilt für generative KI-Modelle wie ChatGPT, die offenlegen müssen, wenn ein Text durch KI generiert wurde, und eine detaillierte Zusammenfassung der Trainingsdaten bereitstellen müssen, die dem Urheberrecht unterliegen.
Einstufung als hohes Risiko
Mit der Verordnung wird eine strengere Regelung für KI-Anwendungen mit hohem Risiko eingeführt. Ursprünglich wurde das hohe Risiko auf der Grundlage einer Liste von kritischen Bereichen und Anwendungsfällen in Anhang III bestimmt.
Die Abgeordneten entfernten jedoch diesen Automatismus. Stattdessen wurde eine zusätzliche Ebene bei der Risikobewertung von KI-Systemen eingeführt. Um als hochriskant eingestuft zu werden, muss durch das KI-System ein erhebliches Risiko für die Gesundheit, die Sicherheit oder die Grundrechte des Menschen bestehen.
Wenn KI-Systeme unter Anhang III fallen, die Anbieter aber der Ansicht sind, dass kein erhebliches Risiko besteht, müssen sie dies der zuständigen Behörde mitteilen, die drei Monate Zeit hat, um Einwände zu erheben. In der Zwischenzeit können die Anbieter ihre KI-Lösung auf den Markt bringen, doch bei falscher Einstufung drohen Strafen.
Anhang III wurde ebenfalls erheblich geändert, indem der Wortlaut in den Bereichen kritische Infrastrukturen, Bildung, Beschäftigung und Zugang zu wesentlichen Dienstleistungen präzisiert wurde. Die Bereiche Strafverfolgung, Migrationskontrolle und Justizverwaltung wurden erweitert.
Die Empfehlungssysteme von Sozialen Medienplattformen, die als sehr große Online-Plattformen im Sinne des Gesetzes über digitale Dienste bezeichnet werden, wurden hinzugefügt.
Verpflichtungen mit hohem Risiko
Im Text des Europäischen Parlaments wurden die Verpflichtungen für Anbieter von KI-Lösungen mit hohem Risiko wesentlich strenger gefasst, insbesondere in Bezug auf das Risikomanagement, die Datenverwaltung, die technische Dokumentation und die Aufbewahrung von Unterlagen.
Für Nutzer von KI-Lösungen mit hohem Risiko wurde eine völlig neue Anforderung eingeführt, eine Folgenabschätzung für die Grundrechte durchzuführen, die Aspekte wie die potenziellen negativen Auswirkungen auf Randgruppen und die Umwelt berücksichtigt.
Kontrolle und Durchsetzung
Unter den Abgeordneten der EU herrschte Einigkeit darüber, dass die Durchsetzungsverfahren zentralisiert werden müssen, insbesondere bei grenzüberschreitenden Fällen. Mitberichterstatter des EU-Parlaments, Dragoș Tudorache schlug die Einrichtung eines KI-Büros vor, einer neuen Einrichtung, die einer EU-Agentur in nichts nachstehen würde.
Während der Verhandlungen wurden die Aufgaben des KI-Büros aufgrund des mangelnden Spielraums im EU-Haushalt erheblich beschnitten. So beschränkte sich das KI-Büro auf eine unterstützende Rolle, wie die Bereitstellung von Leitlinien und die Koordinierung gemeinsamer Untersuchungen.
Im Gegensatz dazu wurde die Kommission mit der Schlichtung von Streitigkeiten zwischen nationalen Behörden über gefährliche KI-Systeme beauftragt.
[Bearbeitet von Alice Taylor]
