KI-Gesetz: Revisionsbefugnisse der Kommission könnten erweitert werden

Die Ko-Berichterstatter im Europäischen Parlament für das KI-Gesetz haben vorgeschlagen, die Revisionsbefugnisse der Europäischen Kommission zu erweitern, um die Liste der Hochrisikosysteme und verbotenen Praktiken zu einem späteren Zeitpunkt zu ergänzen.

Das achte Paket von Kompromissänderungsanträgen zu der vorgeschlagenen EU-Verordnung zu Künstlicher Intelligenz (KI) wurde von den federführenden EU-Abgeordneten Dragoș Tudorache und Brando Benifei am vergangenen Freitag (21. Oktober) mit den Vertreter:innen der anderen Fraktionen geteilt.

Das KI-Gesetz ist ein richtungsweisender Gesetzesvorschlag zur Regulierung der Entwicklung, des Einsatzes und der Nutzung von künstlicher Intelligenz. Die Ko-Berichterstatter versuchen derzeit, eine gemeinsame Position mit den anderen Fraktionen zu erreichen, indem sie mehrere wesentliche Änderungen am ursprünglichen Wortlaut vorschlagen.

Revision der Befugnisse

Die wichtigste Änderung würde die Revisionsbefugnisse der Kommission nach Inkrafttreten des Gesetzes erheblich erweitern.

Die beiden Ausschüsse wollen der Kommission die Befugnis einräumen, die Liste der Risikobereiche zu erweitern, die festlegen, ob ein KI-System strengeren Anforderungen genügen muss. Im ursprünglichen Entwurf konnte die Kommission nur die Anwendungsfälle unter den Hochrisikobereichen, wie Bildung oder Beschäftigung, ändern oder streichen, aber die Liste der Hochrisikobereiche wurde festgeschrieben.

Darüber hinaus würde der Kompromiss es der EU-Kommission ermöglichen, die unzulässigen KI-Anwendungen wie Social Scoring und die Art der Systeme, die zusätzliche Transparenzmaßnahmen erfüllen müssen, auszuweiten.

Der KI-Ausschuss, ein Gremium, in dem die zuständigen nationalen Behörden vertreten sein werden, müsste eine Methodik für die Durchführung dieser Überprüfungen entwickeln.

Die Überprüfungen sollten jährlich nach dem Inkrafttreten der KI-Vorschriften unter Beratung durch den KI-Ausschuss und die nationalen Behörden stattfinden. Die Ergebnisse sollten dem Europäischen Parlament und dem EU-Rat vorgelegt werden.

Darüber hinaus müsste die Kommission zwei Jahre nach Inkrafttreten der Verordnung und von da an alle zwei Jahre einen Bericht vorlegen, in dem der Stand der Entwicklung harmonisierter Standards, die Höhe der Investitionen in Forschung und Entwicklung, die Wettbewerbsfähigkeit des europäischen KI-Ökosystems und die Umweltauswirkungen der Verordnung analysiert werden.

Strafen und Bußgelder

Der Kompromiss scheint zwischen Geldstrafen und anderen Strafen zu unterscheiden. So heißt es, dass „Geldstrafen zusätzlich zu oder anstelle von nicht-monetären Maßnahmen wie Anordnungen oder Verwarnungen verhängt werden können.“

Laut einer Notiz am Rande des Dokuments könnten die Geldbußen durch eine Reihe von Kriterien ausgelöst werden, die in einem neuen Artikel aufgeführt werden könnten. Der Ansatz bei den Bußgeldern scheint stärker risikobasiert zu sein, da die Obergrenze für die schwersten Verstöße angehoben wurde, während die Obergrenze für geringfügige Verstöße gesenkt wurde.

Für Verstöße gegen das Verbot verbotener Praktiken wie Social Scoring wurde das Bußgeld auf 40 Millionen Euro oder 7 Prozent des Jahresumsatzes angehoben. Verstöße gegen die Bestimmungen zur Data Governance können zu Geldbußen von bis zu 20 Millionen Euro oder 4 Prozent des Umsatzes führen.

Alle anderen Verstöße gegen die in der Verordnung festgelegten Verpflichtungen wurden auf 10 Millionen Euro oder 2 Prozent des Gesamtumsatzes gesenkt. Ebenso wurden die maximalen Bußgelder für die Bereitstellung von Falschinformationen auf 5 Millionen Euro und 1 Prozent gesenkt und die Befugnis, diese Art von Bußgeldern zu verhängen, auf die EU-Kommission ausgeweitet.

Es wurden weitere Elemente hinzugefügt, die bei der Entscheidung über die Höhe der Geldstrafe zu berücksichtigen sind, wie der vorsätzliche oder fahrlässige Charakter des Verstoßes, etwaige mildernde Umstände, die Zusammenarbeit mit der zuständigen Behörde, der Grad der Verantwortung, die Einhaltung von Verhaltenskodizes und die Erfolgsbilanz.

Ähnliche Änderungen wurden auch bei den Geldbußen für die EU-Organe und -Einrichtungen vorgenommen.

Vertraulichkeit

In Bezug auf die Vertraulichkeit schlugen die federführenden Abgeordneten vor, dass die Grundsätze der Zweckbindung und der Datenminimierung für die Informationsanfragen der zuständigen Behörden an den KI-Anbieter gelten sollten.

Mit anderen Worten: Die Behörden sollten Daten nur so lange wie nötig anfordern und aufbewahren. Dieselben Grundsätze gelten auch für den Informationsaustausch zwischen den Behörden.

Delegierte Befugnisse

Die Abgeordneten drängen auf eine stärkere Beteiligung des Europäischen Parlaments an der Ausarbeitung delegierter Rechtsakte auf der Grundlage der Interinstitutionellen Vereinbarung über bessere Rechtsetzung, wonach der Gesetzgeber den Entwurf eines sekundären Rechtsakts erhalten und zur Diskussion eingeladen werden sollte.

Wann immer ein delegierter Rechtsakt die Verpflichtungen der Wirtschaftsakteure ändert, sollte er ihnen eine angemessene Frist von mindestens zwei Jahren einräumen, damit sie sich entsprechend anpassen können.

Marktüberwachung

Der Kompromiss schlägt vor, die Verordnung über die Marktüberwachung und die Konformität von Produkten zu ändern, um den Marktüberwachungsbehörden die Möglichkeit zu bieten, ihre Befugnisse aus der Ferne auszuüben, um Untersuchungen und Informationsanfragen an die digitalen Technologien anzupassen.

Legislative Verknüpfungen

Es wurde ein neuer Artikel zur ’soliden Regulierung‘ hinzugefügt, der die Europäische Kommission beauftragt, mögliche Lücken und Überschneidungen zwischen dem KI-Gesetz und der bestehenden sektoralen Gesetzgebung zu analysieren und mit den Interessengruppen zu erörtern.

Eintritt in die Anwendung

Die Anbieter von Hochrisiko-KI-Systemen, die vor dem Inkrafttreten des KI-Regelwerks auf dem EU-Markt erschienen sind, haben ab dem Inkrafttreten zwei Jahre Zeit, die Verordnung einzuhalten.

Governance

Die Frage der Governance bleibe laut den Anmerkungen am Rande des Kompromisses noch offen. Die Diskussion dreht sich darum, ob der KI-Ausschuss beibehalten oder ein KI-Büro eingerichtet werden soll. EURACTIV geht davon aus, dass diese Frage wahrscheinlich auf die politische Ebene verlagert werden dürfte.

[Bearbeitet von Zoran Radosavljevic]