KI-Gesetz soll auf Metaversum ausgeweitet werden
Die federführenden EU-Abgeordneten schlugen vor, den Anwendungsbereich des KI-Gesetzes auf Metaversum-Umgebungen auszuweiten, die bestimmte Bedingungen erfüllen.
Die federführenden EU-Abgeordneten schlugen vor, den Anwendungsbereich des KI-Gesetzes auf das Metaversum auszuweiten, wenn bestimmte Bedingungen erfüllt werden. Die jüngsten Entwurfsänderungen betreffen auch das Risikomanagement, die Datenverwaltung und die Dokumentation für Hochrisikosysteme.
Die Ko-Berichterstatter des EU-Parlaments, Dragoş Tudorache und Brando Benifei, haben am Mittwoch (28. September) zwei von EURACTIV eingesehene neue Dokumente mit Kompromissänderungsanträgen in Umlauf gebracht, die noch vor der technischen Diskussion mit den anderen Fraktionen am Freitag vorgelegt werden.
Diese neuesten Texte führen wesentliche Änderungen für den Anwendungsbereich, den Gegenstand und die Verpflichtungen für Hochrisiko-KI-Systeme ein, die das Risikomanagement, die Datenverwaltung und die technische Dokumentation betreffen.
Anwendungsbereich
Ein neuer Artikel wurde hinzugefügt, um den Anwendungsbereich der Verordnung auf Betreiber von KI-Systemen in bestimmten virtuellen Räumen auszuweiten, die mehrere kumulierte Bedingungen erfüllen.
Diese Kriterien sind, dass das Metaversum einen authentifizierten Avatar erfordert, für eine Interaktion in großem Umfang ausgelegt ist, soziale Interaktionen ähnlich wie in der realen Welt ermöglicht, Finanztransaktionen in der realen Welt durchführt und Risiken für die Gesundheit oder die Grundrechte mit sich bringt.
Der Anwendungsbereich wurde von KI-Anbietern auf alle Wirtschaftsakteure ausgeweitet, die ein KI-System auf den Markt bringen oder in Betrieb nehmen.
Der Text stellt klar, dass die Verordnung nationale Gesetze oder Tarifverträge nicht daran hindert, strengere Verpflichtungen zum Schutz der Arbeitnehmerrechte einzuführen, falls Arbeitgeber KI-Systeme einsetzen.
Gleichzeitig sind KI-Systeme, die ausschließlich der wissenschaftlichen Forschung und Entwicklung dienen, vom Anwendungsbereich ausgenommen.
Die von Abgeordneten aufgebrachte Frage, ob KI-Systeme, die mit Kindern interagieren oder auf sie einwirken können, als besonders risikoreich eingestuft werden sollten, wurde auf einen späteren Zeitpunkt verschoben.
Außerdem wurde der Änderungsantrag der Mitte-Rechts-Abgeordneten, der den Anwendungsbereich für KI-Anbieter oder -Nutzer in einem Drittland einschränken würde, für zukünftige Diskussionen aufgehoben, da er mit der Definition des Begriffs zusammenhängt, heißt es in der Notiz am Rande des Dokuments.
Die in der Verordnung festgelegten Vorschriften sollen nicht nur für die Platzierung des KI-Marktes gedacht sein, sondern auch für seine Entwicklung.
Hinzu kommen die Ziele der Harmonisierung der Vorschriften für Hochrisikosysteme und der Förderung von Innovationen mit besonderem Schwerpunkt auf der Innovation.
Der Änderungsantrag der Mitte-Links-Abgeordneten, angeführt von Benifei, zur Einführung von Grundsätzen, die für alle KI-Systeme gelten, wurde „auf Eis gelegt“, so ein Kommentar am Rande des Textes.
Auch die Diskussion, ob das Governance-Modell in Form einer EU-Agentur oder einer erweiterten Version des Europäischen Rats für künstliche Intelligenz gestaltet sein soll, wurde vertagt.
Anforderungen für Hochrisiko-KI
Die Kompromissänderungsanträge sehen vor, dass die Hochrisiko-KI-Systeme während ihrer gesamten Laufzeit die Anforderungen des KI-Gesetzes erfüllen und dem neuesten Stand der Technik und den einschlägigen technischen Standards entsprechen müssen.
Die Frage der Berücksichtigung der vorhersehbaren Nutzung und des Missbrauchs des Systems im Konformitätsprozess wurde vorbehalten, da sie zusammen mit dem Thema der Allzweck-KI, also großen Modellen, die für eine Vielzahl von Aufgaben angepasst werden können, behandelt wird.
Was das Risikomanagementsystem betrifft, so haben die Abgeordneten klargestellt, dass es in bestehende Verfahren integriert werden kann, die im Zusammenhang mit sektoralen Rechtsvorschriften eingerichtet wurden, wie es beispielsweise im Finanzsektor der Fall ist.
Risikomanagement
Das Risikomanagementsystem müsste bei jeder wesentlichen Änderung der Hochrisiko-KI aktualisiert werden, „um seine kontinuierliche Wirksamkeit zu gewährleisten“.
Die Liste der Elemente, die beim Risikomanagement berücksichtigt werden müssen, wurde um die Bereiche Gesundheit, Recht und Grundrechte, Auswirkungen auf bestimmte Gruppen, Umwelt und die Verstärkung von Desinformation erweitert.
Wenn die KI-Anbieter nach der Risikobewertung zu dem Schluss kommen, dass es noch relevante verbleibende Risiken gibt, sollten sie dem Nutzer ein begründetes Urteil darüber vorlegen, warum diese Risiken als akzeptabel angesehen werden können.
Datenverwaltung
Die Kompromissänderungsanträge schreiben vor, dass für Hochrisiko-KI Techniken wie unüberwachtes Lernen und bestärkendes Lernen, die keine Validierungs- und Testdatensätze verwenden, auf der Grundlage von Trainingsdatensätzen entwickelt werden müssen, die eine bestimmte Reihe von Kriterien erfüllen.
Damit sollen Voreingenommenheiten verhindert werden, was durch die Forderung nach Berücksichtigung potenzieller Rückkopplungsschleifen noch verstärkt wird.
Darüber hinaus wird im Text darauf hingewiesen, dass Validierungs-, Test- und Trainingsdatensätze getrennt sein müssen und dass die Rechtmäßigkeit der Datenquellen überprüft werden muss.
Technische Dokumentation
Es wurden Formulierungen eingeführt, die den KMU hinsichtlich der Verpflichtung, nach Genehmigung durch die nationalen Behörden technische Unterlagen über Hochrisikosysteme vorzuhalten, mehr Spielraum geben.
Die Liste der technischen Informationen wurde erheblich erweitert und umfasst nun auch Informationen wie die Benutzeroberfläche, die Funktionsweise des KI-Systems, die zu erwartenden Inputs und Outputs, Cybersicherheitsmaßnahmen und den CO2-Fußabdruck.
[Bearbeitet von Nathalie Weatherald]
