EU-Parlamentarier diskutieren über Einstufung von KI als hochriskant
Die EU-Abgeordneten werden im Rahmen des neuen KI-Gesetzes darüber beraten, wie Systeme der künstlichen Intelligenz (KI) im Hinblick auf die tatsächlichen oder potenziellen Risiken, die sie darstellen, eingestuft werden sollen.
Die EU-Abgeordneten werden im Rahmen des neuen KI-Gesetzes darüber beraten, wie Systeme der künstlichen Intelligenz (KI) im Hinblick auf die tatsächlichen oder potenziellen Risiken, die sie darstellen, eingestuft werden sollen.
Das KI-Gesetz ist ein richtungsweisender EU-Vorschlag zur Regulierung der KI-Technologie auf der Grundlage ihrer potenziellen Risiken. Kernstück des Vorschlags ist die Hochrisikokategorie, die strengere Anforderungen an die Robustheit und das Risikomanagement auf Seiten der KI-Entwickler stellt.
Die für das Dossier zuständigen Europaabgeordneten werden diesen kritischen Aspekt des Vorschlags am Mittwoch (1. Februar) auf einer politischen Sitzung diskutieren. Laut einer von EURACTIV erhaltenen Tagesordnung wird die Bestimmung, die den Prozess der KI-Risikoklassifizierung definiert, im Mittelpunkt der Debatte stehen.
Die Tagesordnung enthält einen möglichen Kompromissvorschlag der Ko-Berichterstatter Brando Benifei und Dragos Tudorache. Die führenden Europaabgeordneten hatten bereits letzte Woche einen Kompromisstext vorgeschlagen, aber die neue Version enthält wesentliche Änderungen, die den Weg zu einer gemeinsamen Basis ebnen könnten.
Es wird erwartet, dass die Abgeordneten auf der gleichen Sitzung die Kompromisse zu den Anforderungen an risikoreiche KI-Systeme und zu Maßnahmen zur Förderung von Innovationen formell billigen werden.
Einstufung als hochriskant
Der ursprüngliche Entwurf der Verordnung stufte KI auf der Grundlage einer Liste kritischer Bereiche, in denen die Technologie eingesetzt wird, ein. Dazu gehörten Sektoren wie Strafverfolgung oder Gesundheitswesen. In dem Kompromiss von letzter Woche schlugen die Ko-Berichterstatter:innen vor, den Prozess weniger automatisch zu gestalten.
In anderen Worten: KI-Entwickler:innen sollen selbst einschätzen können, ob ihr System ein „erhebliches“ Risiko für die Gesundheit, die Sicherheit oder die Grundrechte der Menschen darstellt. Das Wort „erheblich“ wurde aus dem vorherigen Text zusammen mit einer Definition hinzugefügt.
„Ein ‚erhebliches Risiko‘ ist ein Risiko für die Gesundheit und Sicherheit oder die Grundrechte potenziell betroffener natürlicher Personen, das aufgrund seiner Schwere, Intensität, Eintrittswahrscheinlichkeit, Dauer der Auswirkungen und seiner Fähigkeit, eine Einzelperson, eine Vielzahl von Personen oder eine bestimmte Gruppe von Personen zu beeinträchtigen, erheblich ist“, heißt es in dem Text.
Wenn KI-Entwickler:innen der Ansicht sind, dass kein erhebliches Risiko besteht, müssten sie eine Ausnahmegenehmigung bei der nationalen Aufsichtsbehörde des betreffenden Landes oder beim EU-Büro beantragen, wenn das System auf mehr als einem europäischen Markt eingeführt werden soll.
Die zuständige Behörde würde dann in einen Regulierungsdialog mit dem Anbieter treten und müsste innerhalb von drei Monaten eine begründete Entscheidung treffen.
In jedem Fall würde das KI-System immer dann als hohes Risiko eingestuft, wenn es eine Sicherheitskomponente von Produkten ist, die unter sektorale EU-Rechtsvorschriften fallen, welche die Überprüfung der Konformität des Produkts durch einen Dritten vorschreiben. Dies ist zum Beispiel der Fall, wenn das KI-System verwendet wird, um die Sicherheit eines Spielzeugs oder eines Aufzugs zu gewährleisten.
Bemerkenswerterweise wurde die Definition der Sicherheitskomponente dahingehend geändert, dass sie sich nur auf das Risiko bezieht, das mit einem möglichen Ausfall oder einer Fehlfunktion des KI-Systems für die Gesundheit und Sicherheit von Menschen verbunden ist, während die Sicherheit von Eigentum ausgeschlossen wurde.
Änderung der Liste der Hochrisikobereiche
Die Liste der kritischen Bereiche für KI-Anwendungen mit hohem Risiko wurde in Anhang III aufgenommen, um die Europäische Kommission in die Lage zu versetzen, sie auf der Grundlage von Technologie- und Marktentwicklungen zu aktualisieren. Unter jedem Hochrisikobereich gibt es spezifische Anwendungsfälle, zum Beispiel Systeme, die für die Zulassung von Student:innen im Bildungssektor verwendet werden.
Für den jüngsten Kompromiss sollte die EU-Kommission die Befugnis erhalten, die Liste der Bereiche und Anwendungsfälle durch delegierte Rechtsakte zu ergänzen oder zu ändern. Ebenso könnte die Kommission Anwendungsfälle von der Liste streichen, nicht aber kritische Bereiche, wenn sie der Meinung ist, dass diese nicht mehr zutreffen.
[Bearbeitet von Alice Taylor]
