KI-Gesetz: komplexe Verhandlungen im EU-Parlament stehen bevor
Jede Fraktion des Europäischen Parlaments hat einige hundert Änderungsanträge zum kommenden KI-Gesetz eingereicht und damit den Ton für künftige Diskussionen angegeben.
Jede Fraktion des Europäischen Parlaments hat einige hundert Änderungsanträge zum kommenden KI-Gesetz eingereicht und damit den Ton für künftige Diskussionen angegeben.
Die insgesamt tausenden von Änderungsanträgen bilden den Auftakt zu komplexen Verhandlungen, die noch vor dem Sommer beginnen sollen und in denen die Ko-Berichterstatter Brando Benifei für den Binnenmarktausschuss und Dragoș Tudorache für den Ausschuss für bürgerliche Freiheiten versuchen werden, durch Kompromisse eine Mehrheit zu erreichen.
Einem Beamten des EU-Parlaments zufolge sind die Abgeordneten in den beiden leitenden Ausschüssen fast gleichmäßig auf die Mitte-Rechts- und Mitte-Links-Achse verteilt. Bei den umstrittensten Punkten wird es sich um ein Rechenspiel handeln.
Definition
Eines der umstrittensten Themen ist die Definition von künstlicher Intelligenz (KI) selbst.
Der EU-Abgeordnete Benifei schlägt eine weit gefasste Definition und die Streichung der Liste der KI-Techniken und -Ansätze in Anhang I vor, um die Verordnung zukunftssicher zu machen.
Im Gegensatz dazu beharrt die Europäische Volkspartei (EVP) auf der auf OECD-Ebene vereinbarten Definition. Die EVP führte auch eine Definition des maschinellen Lernens als die Fähigkeit ein, Muster zu finden, ohne ausdrücklich für eine bestimmte Aufgabe programmiert zu sein.
Die beiden Ko-Berichterstatter lehnen es weiterhin ab, eine Ausnahmeregelung für KI für allgemeine Zwecke einzuführen. Im Gegensatz dazu schlug die EVP vor, die Verpflichtungen für diese Anbieter zu lockern und unterschiedliche Anforderungen für neue, ehemalige und ursprüngliche Anbieter einzuführen.
Anwendungsbereich
Tudorache führte einen neuen Artikel ein, um KI-Anwendungen im Metaverse in den Anwendungsbereich der Verordnung aufzunehmen, einschließlich eines Verweises auf Blockchain-gestützte Währungen und NFTs.
Er schlug auch vor, die Vorschriften unter bestimmten Umständen auf Anbieter anzuwenden, die nicht in der EU ansässig oder tätig sind.
Verbotene Praktiken
Die Abgeordneten der Grünen haben wichtige Vorschläge zu den verbotenen Praktiken gemacht und diese Kategorie auf biometrische Erfassung, Emotionserkennung und jede automatische Überwachung des menschlichen Verhaltens ausgeweitet.
Dazu gehören Empfehlungssysteme, die systematisch Desinformationen und illegale Inhalte vorschlagen, sowie Anwendungen für Strafverfolgung, Migration, Arbeit und Bildung.
Biometrische Erfassung
In einem deutlichen Positionswechsel schloss sich der liberale Tudorache den Sozialdemokraten und den Grünen an und sprach sich für ein vollständiges Verbot der biometrischen Erfassung aus, wobei die im ursprünglichen Vorschlag enthaltenen Ausnahmen gestrichen wurden.
In Bezug auf die biometrische Erfassung schlagen sowohl Tudorache als auch die EVP vor, die einvernehmliche Authentifizierung für den Zugang zu einem Dienst, einem Gerät oder einer Einrichtung von der Definition auszunehmen.
Die Grünen haben ein Verbot privater biometrischer Datenbanken eingeführt, die auf dem Auslesen von Informationen aus dem Internet beruhen, wie etwa die umstrittene Firma Clearview AI.
Hochrisikosysteme
Die EVP schlug eine neue Regelung vor, mit der die automatische Einstufung von Systemen, die in die Liste der in Anhang III genannten Sektoren fallen, in eine Liste von „kritischen Anwendungsfällen“ geändert wird.
Auf der Grundlage dieser Anwendungsfälle müssten KI-Anbieter selbst bewerten, ob ihre Systeme erhebliche Risiken für Gesundheit, Sicherheit und Grundrechte bergen.
Darüber hinaus schlug die EVP vor, dass die Verpflichtungen für risikoreiche Anwendungen teilweise oder vollständig aufgehoben werden könnten, wenn die Systeme durch die Erfüllung der risikomindernden Maßnahmen der Verordnung das Risiko durch funktionsfähige Gegenmaßnahmen oder eingebaute Funktionen ausreichend abgemildert haben.
Die EVP-Abgeordneten schlossen auch Systeme zur Bonitätsprüfung von der Hochrisiko-Liste aus. Im Gegensatz dazu dehnten die grünen Abgeordneten diese Kategorie auf Medien-Empfehlungssysteme, Algorithmen, die in der Krankenversicherung, im Zahlungsverkehr und beim Inkasso eingesetzt werden, aus.
Die grüne Fraktion stellte wesentlich strengere Umweltanforderungen und verstärkte die Einbeziehung von Dritten und der so genannten notifizierten Stellen. Darüber hinaus wurden Folgenabschätzungen zu den Grundrechten für alle Anbieter und Betreiber verpflichtend gemacht.
Rechtsklarheit
Die EVP schlug die Schaffung eines neuen Artikels vor, der die Vertrauenswürdigkeit in Bezug auf KI definiert.
Dies würde durch die Einführung einer Reihe von Grundsätzen geschehen, wie dieses Konzept in Bezug auf Anforderungen und technische Standards auf KI angewendet werden sollte.
Um besser zu definieren, wie die Konzepte der Genauigkeit, Zuverlässigkeit, Robustheit und Cybersicherheit eingesetzt werden sollten, haben die Mitte-Rechts-Abgeordneten Bestimmungen eingeführt, die die nationalen Metrologie- und Benchmarking-Behörden dazu verpflichten, unverbindliche Leitlinien zur Verfügung zu stellen.
Governance
Die EVP folgte dem Vorschlag der französischen Ratspräsidentschaft, die Interessengruppen in die Arbeit des Europäischen Rats für künstliche Intelligenz einzubeziehen und schlug vor, der Einrichtung mehr Autonomie bei der Festlegung ihrer eigenen Agenda zu geben.
Die Grünen wollen, dass der Europäische Datenschutzbeauftragte das Sekretariat des Ausschusses übernimmt. Der Datenschutzbeauftragte würde als Aufsichtsbehörde für große Unternehmen fungieren, deren Verstöße eine „gemeinschaftliche Dimension“ gemäß den Kriterien der EU-Fusionskontrollverordnung haben.
Die Abgeordneten beider Seiten scheinen sich darin einig zu sein, der Aufsichtsbehörde mehr Ermittlungsbefugnisse zu geben, wobei die Grünen besonders ehrgeizig sind, was die Korrekturbefugnisse angeht.
Werbung und Dark Patterns
Ein separater Änderungsantrag wurde von der Europaabgeordneten Maria-Manuel Leitão-Marques mit Unterstützung der Tracking Free Ad Coalition eingereicht, um KI-Systeme, die zur Bereitstellung von Online-Werbung verwendet werden, in die Liste der Hochrisikosysteme aufzunehmen.
Die Grünen fügten einen Absatz hinzu, der besagt, dass die Transparenzanforderung für automatisierte Entscheidungsfindung dazu beitragen sollte, Machtungleichgewichte in digitalen Bereichen auszugleichen und Dark Patterns entgegenzuwirken.
Geldbußen
Sowohl die liberalen als auch die konservativen Abgeordneten schlagen eine generelle Senkung der Bußgelder vor, wobei die EVP insbesondere eine Ausnahmeregelung für KMU vorsieht und Faktoren wie Vorsätzlichkeit, Fahrlässigkeit und Kooperation bei der Berechnung des Bußgeldes durch die Behörden berücksichtigt.
Im Gegensatz dazu drängt Benifei auf eine allgemeine Verschärfung der Sanktionen und auf die Streichung von Größe und Marktanteil aus den Kriterien, die die Behörden bei der Verhängung einer Strafe zu berücksichtigen hätten.
[Bearbeitet von Alice Taylor]
