KI-Gesetz geht in die Verhandlungsphase
Das Europäische Parlament hat am Mittwoch (14. Juni) mit überwältigender Mehrheit seinen Standpunkt zum KI-Regelwerk angenommen. Damit ist der Weg frei für die interinstitutionellen Verhandlungen, die zum Abschluss des weltweit ersten umfassenden Gesetzes über künstliche Intelligenz führen sollen.
Das Europäische Parlament hat am Mittwoch (14. Juni) mit überwältigender Mehrheit seinen Standpunkt zum KI-Regelwerk angenommen. Damit ist der Weg frei für die finalen Verhandlungen, die das weltweit erste umfassende Gesetzes über künstliche Intelligenz auf den Weg bringen werden.
Das KI-Gesetz ist eine Vorreiterinitiative zur Regulierung dieser bahnbrechenden Technologie auf der Grundlage ihrer Fähigkeit, Schaden zu verursachen. Es verfolgt einen risikobasierten Ansatz, der KI-Anwendungen verbietet, die ein inakzeptables Risiko darstellen, und der eine strenge Regelung für Anwendungsfälle mit hohem Risiko vorsieht.
„Ist dies der richtige Zeitpunkt, um KI zu regulieren? Meine Antwort ist ein klares Ja. Es ist der richtige Zeitpunkt, weil KI tiefgreifende Auswirkungen hat“, sagte Dragoș Tudorache, einer der zuständigen Abgeordneten des Europäischen Parlaments für das KI-Gesetz, vor der Abstimmung zu seinen Kollegen.
Verbotene Praktiken
Die Frage, wo die Grenze für die Arten von KI-Anwendungen gezogen werden soll, die verboten werden sollten, stand im Mittelpunkt der kurzfristigen Versuche, den im Parlamentsausschuss angenommenen Text zu ändern.
Der Hauptstreitpunkt betraf die biometrische Fernidentifizierung. Liberale und progressive Europaabgeordnete wollten den Echtzeiteinsatz dieser Technologie verbieten, sie aber für nachträgliche Ermittlungen bei schweren Straftaten zulassen.
Im Gegensatz dazu versuchte die konservative Europäische Volkspartei (EVP), Ausnahmen von dem Echtzeitverbot für außergewöhnliche Umstände wie Terroranschläge oder vermisste Personen einzuführen. Dieser kurzfristige Versuch verärgerte die anderen Fraktionen, war aber letztendlich nicht erfolgreich.
Ein Parlamentsbeamter erklärte jedoch gegenüber EURACTIV, dass der Sinn von Änderungsanträgen im Plenum nicht immer darin bestehe, den Text zu ändern, sondern eine politische Botschaft zu vermitteln. In diesem Fall soll gezeigt werden, dass sich das EU-Parlament in dieser sensiblen Frage nicht einig ist, um die Verhandlungsposition der Europaabgeordneten gegenüber dem Rat zu schwächen, der auf breitere Ausnahmen bei der Strafverfolgung drängt.
Alle anderen Änderungsanträge, die über den im Ausschuss vereinbarten Text hinausgingen, wurden in der Parlamentsabstimmung abgelehnt.
Basismodelle und generative KI
Die EU-Abgeordneten haben einen mehrstufigen Ansatz für KI-Modelle eingeführt, die keinen spezifischen Zweck verfolgen, die so genannte allgemeine KI, mit einer strengeren Regelung für Basismodelle, große Sprachmodelle, auf denen andere KI-Systeme aufgebaut werden können.
Die oberste Ebene bezieht sich auf generative KI wie ChatGPT, für die das Europäische Parlament eine Kennzeichnungspflicht für KI-generierte Inhalte einführen und die Offenlegung von urheberrechtlich geschützten Trainingsdaten erzwingen will.
Mit ChatGPT hat generative KI die Aufmerksamkeit der Öffentlichkeit auf sich gezogen, und die Europäische Kommission hat Initiativen gestartet, um die KI-Regeln zu antizipieren und eine internationale Abstimmung auf G7-Ebene zu fördern.
In Bezug auf diese Initiativen warnte der führende italienische Europaabgeordnete Brando Benifei, dass sie „zu einem Kontext werden könnten, in dem die Unternehmen Einfluss auf die Gesetzgebungsarbeit nehmen werden“, die jetzt im Mittelpunkt der Lobbyarbeit zur Abschwächung der Verordnung steht. „Aber wenn wir vernünftig zwischen den Institutionen zusammenarbeiten, wird dies verhindert werden.“
Benifei erklärte gegenüber Reportern auch, dass das Parlament die zweijährige Anwendungsfrist der Gesetzgebung, wenn nicht für alle Arten von KI, so doch zumindest für Basismodelle oder generative KI vorziehen wolle, da diese Modelle bereits disruptive Auswirkungen hätten.
Wichtigste Änderungen
Die Abgeordneten haben mehrere weitere wichtige Änderungen an dem Text vorgenommen, angefangen bei der Definition von KI, die an die der OECD angepasst wurde.
Die Liste der verbotenen Praktiken wurde um unterschwellige Techniken, biometrische Kategorisierung, prädiktive Polizeiarbeit und internetgestützte Gesichtserkennungsdatenbanken erweitert. Zudem ist Software zur Erkennung von Emotionen in den Bereichen Strafverfolgung, Grenzmanagement, Arbeitsplatz und Bildung verboten.
Eine zusätzliche Ebene wurde für KI-Anwendungen hinzugefügt, die in die Hochrisikokategorie fallen, während die Liste der Hochrisikobereiche und Anwendungsfälle präzisiert und in den Bereichen Strafverfolgung und Migrationskontrolle erweitert wurde. Empfehlungssysteme prominenter sozialer Medien wurden als hochriskant hinzugefügt.
Die Pflichten von KI-Anbietern mit hohem Risiko in Bezug auf Risikomanagement, Data Governance und technische Dokumentation wurden verschärft. Es wurden neue Anforderungen zur Durchführung von Grundrechtsverträglichkeitsprüfungen und zur Überwachung der Umweltauswirkungen eingeführt.
Zudem wurde ein Amt für künstliche Intelligenz eingerichtet, um die Koordinierung grenzüberschreitender Fälle zu unterstützen, auch wenn die entscheidende Verantwortung für die Beilegung von Streitigkeiten zwischen den Behörden bei der Europäischen Kommission verblieb. Tudorache ist der Ansicht, dass das Amt für künstliche Intelligenz in Zukunft zu einer umfassenden digitalen Agentur ausgebaut werden sollte.
Bevorstehende Verhandlungen
Die Abgeordneten des Europäischen Parlaments werden nun in die interinstitutionellen Verhandlungen mit dem EU-Ministerrat, der die europäischen Regierungen vertritt, und der Europäischen Kommission in den sogenannten Trilogen eintreten. Der erste Trilog wird am Mittwochabend nach der Abstimmung des EU-Parlaments stattfinden.
Diese erste Sitzung wird jedoch kaum mehr als ein Fototermin sein, da die EU-Institutionen laut einer von EURACTIV eingesehenen Tagesordnung lediglich ihre Positionen darlegen und die Arbeit auf technischer Ebene delegieren werden.
Die Verhandlungen werden sich intensivieren, sobald Spanien im Juli die rotierende Ratspräsidentschaft übernimmt, da man in Madrid die Fertigstellung des KI-Gesetzes zur obersten digitalen Priorität erklärt hat.
Die Hauptstreitpunkte werden sich auf Hochrisikokategorien, Grundrechte und Gründungsmodelle beziehen. Dagegen werden Fragen wie Governance, Innovation und KI-Definition wahrscheinlich auf technischer Ebene gelöst werden.
[Bearbeitet von Nathalie Weatherald]
