Änderung der Strafverfolgungsbestimmungen im KI-Gesetz
Mit einem neuen Kompromisstext zu Künstlicher Intelligenz (KI) und Strafverfolgung treibt die französische Ratspräsidentschaft die Gesetzgebung in dem Bereich weiter voran.
Mit einem neuen Kompromisstext zu Künstlicher Intelligenz (KI) und Strafverfolgung treibt die französische Ratspräsidentschaft die Gesetzgebung in dem Bereich weiter voran.
In der vergangenen Woche hat die französische EU-Ratspräsidentschaft mehrere Kompromisse zum Gesetz über künstliche Intelligenz (Artificial Intelligence Act) in Umlauf gebracht. Dem richtungsweisenden Gesetzesvorschlag zur Regulierung von KI-Systemen liegt hierbei ein risikobasierter Ansatz zugrunde.
Die KI-Verordnung hat für Paris hohe Priorität. Frankreich versucht, vor dem Ende seiner Ratspräsidentschaft so viele Fortschritte wie möglich auf dem Gebiet zu erzielen. Die Ziele des Telekommunikationsrates am 3. Juni 2021 scheinen jedoch noch unklar.
Laut einer diplomatischen Quelle der EU will man eine allgemeine Annäherung an den gesamten Text erreichen. Ein anderer Diplomat zeigt sich jedoch skeptische. Er glaube nicht, dass ein allgemeiner Ansatz vor Ende des Jahres erreicht werde. Die französische Regierung strebt vorerst einen Teilkompromiss zu den Bestimmungen über Innovation, Normen und gemeinsame Spezifikationen (Artikel 40-55) an.
Klar ist jedoch, dass der Aspekt der Rechtsdurchsetzung während der gesamten Diskussion ein Knackpunkt war. Deutschland und Finnland forderten sogar die Ausgliederung dieser Bestimmungen in ein anderes Dossier. Der Kompromiss, der EURACTIV am Dienstag (5. April) vorlag, versucht diesen Aspekt zu lösen.
Biometrische Systeme
Hinsichtlich der Verwendung biometrischer Identifizierungssysteme wurde der Vorschlag dahingehend geändert, dass Ausweisüberprüfungen und -kontrollen nun ausdrücklich ausgeschlossen werden. Damit ist deren Anwendung beispielsweise auch an Flughäfen oder zum Entsperren eines Smartphones verboten.
Der Text erklärt, dass unter Echtzeit „ein biometrisches Identifizierungssystem gemeint ist, bei dem die Erfassung der biometrischen Daten, der Vergleich und die Identifizierung sofort oder nahezu sofort erfolgen“.
Die Definition des „öffentlich zugänglichen Raums“, für den das Verbot des Einsatzes von Gesichtserkennungstechnologien gilt, wurde ebenfalls überarbeitet. Die Präambel des Textes wurde um Erläuterungen und Beispiele ergänzt.
Insgesamt schaffen die Anpassungen mehr und mehr Ausnahmeregelung, unter der biometrische Erkennung eingesetzt werden kann. So wurde das konkrete Beispiel vermisster Kinder und der Hinweis, dass die Bedrohung „unmittelbar bevorstehend“ sein muss, gestrichen. Zugleich wurde die Gewährleistung der Sicherheit der physischen Infrastruktur den Ausnahmen hinzugefügt.
Darüber hinaus wurde die Verwendung biometrischer Identifizierungssysteme für die Lokalisierung eines mutmaßlichen Straftäters ausgeweitet. Während in der ursprünglichen Fassung noch von einer Straftat in den Anwendungsbereich eines Europäischen Haftbefehls die Rede war, wurde die Schwelle in der neuen Fassung deutlich herabgesetzt. Hier besteht eine Ausnahme für jede Straftat, die zu einer Haftdauer von mindestens fünf Jahren führen könnte.
Ein neuer Artikel setzt die Beschränkungen für Gesichtserkennungstechnologien auch dann aus, wenn eine Person nicht willens oder nicht in der Lage ist, sich in einer Situation auszuweisen, die den Polizeikräften die Durchführung von Identitätskontrollen erlaubt.
Konformitätsbewertungsverfahren
Erhebliche Änderungen wurden zudem an der Ausnahmeregelung für das Konformitätsbewertungsverfahren vorgenommen. Diese ermöglicht es den Marktüberwachungsbehörden der Mitgliedstaaten das Einsetzen eines risikoreichen AI-Systems zu genehmigen, wenn ein ordnungsgemäß begründeter Antrag eingeht.
Der ursprüngliche Vorschlag sah vor, dass die Kommission oder ein anderer Mitgliedstaat die Genehmigung innerhalb von zwei Wochen anfechten konnte. Dabei war vorgesehen, dass die EU-Exekutive im Falle von Auslegungsdifferenzen die Rolle des „Dealbreakers“ übernehme. Diese Möglichkeit wurde in dem französischen Vorschlag gestrichen.
Darüber hinaus wurde ein neuer Artikel hinzugefügt: „um eine Möglichkeit zu schaffen, eine nachträgliche Genehmigung für Strafverfolgungsbehörden zu beantragen. Dadurch soll diesen Behörden mehr Flexibilität im Falle besonderer Dringlichkeit eingerichtet werden.“ In diesen Fällen muss die Genehmigung „ohne unangemessene Verzögerung“ erteilt werden.
„Das ist viel zu weit gefasst und potenziell schädlich. Der Zweck dieses Artikels war es, einige kleine Ausnahmen mit gewisser Aufsicht zuzulassen. Der neue Vorschlag bedeutet im Grunde, dass die Polizei es einfach so macht und später fragt“, äußert sich Sarah Chander, eine leitende politische Beraterin bei European Digital Rights, besorgt.
Transparenzverpflichtungen
Die Nutzer von KI-Systemen mit Technologien zur Erkennung von Emotionen müssten im Allgemeinen die Personen informieren, die überwacht werden. Für strafrechtliche Ermittlungen wurde jedoch eine Ausnahme von dieser Transparenzverpflichtung aufgenommen.
Darüber hinaus legt der Text fest, dass die Verwendung von Emotionserkennung beim ersten Einsatz klar und deutlich gekennzeichnet sein muss und dass die nationalen Regierungen zusätzliche Transparenzanforderungen einführen können.
EU-Datenbank für risikoreiche KI-Systeme
Das KI-Gesetz sieht eine EU-Datenbank mit Informationen über die eingesetzten Hochrisikosysteme vor. Dem neuen Text zufolge wären diese Informationen über die Prüfung der Hochrisikosysteme nicht öffentlich zugänglich, da sie nur der Marktaufsichtsbehörde und der EU-Kommission zur Verfügung stehen würden.
Aus dem Text geht jedoch nicht hervor, welche Informationen öffentlich zugänglich gemacht werden und welche nicht. Im Anhang des Dokuments wird präzisiert, dass die Hochrisikosysteme in den Bereichen Strafverfolgung und Migration von der Datenbank ausgeschlossen werden.
Marktbeobachtung und Überwachung
Ein neuer Artikel wurde hinzugefügt, um zu präzisieren, dass die Überwachung eines risikoreichen AI-Systems die Vertraulichkeit der Ermittlungen der Strafverfolgungsbehörden nicht beeinträchtigt.
Außerdem hat die französische Regierung den Artikel über die Marktaufsichtsbehörde umformuliert. Diese soll die Anwendung von KI-Systemen durch Polizeibehörden überwachen soll. Die Abänderung soll „darauf hinzuweisen, dass die Datenschutzbehörden in dieser Hinsicht nicht unbedingt die erste Wahl sein müssen.“
Weitere Schritte
Der französische Text wird am Donnerstag (7. April) bei einem Treffen mit Regierungsvertretern für Justiz und Inneres erörtert.
[Bearbeitet von Nathalie Weatherald].
