KI-Gesetz: Tschechische Ratspräsidentschaft drängt auf engere KI-Definition

Die tschechische EU-Ratspräsidentschaft schlug eine engere Definition von künstlicher Intelligenz (KI), eine überarbeitete und gekürzte Liste von Hochrisikosystemen, eine stärkere Rolle für den KI-Ausschuss und eine umformulierte Ausnahme für die nationale Sicherheit vor.

Prag teilte am Freitag (15. Juli) den ersten vollständigen Kompromiss zum KI-Gesetz, der EURACTIV vorliegt. Der Text wird die Grundlage für die Diskussion in der Arbeitsgruppe Telekommunikation am Mittwoch, der letzten Sitzung vor der Sommerpause, bilden.

„Die tschechische Präsidentschaft beabsichtigt, die im zweiten Kompromissvorschlag vorgenommenen Änderungen vorzustellen, die die vier im Papier zu den politischen Optionen vorgestellten und im Folgenden zusammengefassten Themen abdecken, und bittet die Delegationen um allgemeine Ansichten und Kommentare“, heißt es in dem Papier.

Definition

Die Definition von KI wurde erheblich eingegrenzt auf ein System, das mit einem gewissen Grad an Autonomie entwickelt wurde, um eine bestimmte Reihe von durch den Menschen definierten Zielen unter Verwendung von maschinellem Lernen und/oder logischen oder wissensbasierten Ansätzen zu erreichen.

Definitionen für maschinelles Lernen und wissensbasierte Ansätze wurden in die Präambel des Textes aufgenommen, die auch geändert wurde, um KI von herkömmlicher Software zu unterscheiden.

„Die grundlegenden Konzepte der OECD-Definition eines KI-Systems wurden beibehalten, und zusätzlich wurde das Konzept der Autonomie in die Definition aufgenommen, wie von einigen Delegationen ausdrücklich gewünscht“, heißt es in dem Dokument.

Die tschechische Präsidentschaft hat eine Definition und Verpflichtungen für KI-Systeme mit allgemeinem Verwendungszweck aufgenommen. Die Verpflichtungen der Verordnung würden weitgehend für diese Art von Systemen gelten, es sei denn, der KI-Anbieter schließt jegliche risikoreichen Verpflichtungen aus.

Darüber hinaus wurde Anhang I über KI-Techniken und -Ansätze gestrichen, zusammen mit der Befugnis der Kommission zur Überarbeitung durch delegierte Rechtsakte. Die Kommission würde ermächtigt, Durchführungsrechtsakte zu erlassen, um diese Techniken auf der Grundlage technologischer Entwicklungen zu spezifizieren.

Hochrisikosysteme

Mehrere Mitgliedstaaten haben befürchtet, dass die KI-Verordnung auch Systeme erfassen könnte, bei denen kein ernsthaftes Risiko einer Grundrechtsverletzung besteht.

Daher schlug die tschechische Ratspräsidentschaft vor, die Einstufung in die Kategorie der Hochrisikosysteme durch eine horizontale Ebene zu ergänzen, die sich an der hochrangigen KI-Expertengruppe und dem OECD-Klassifizierungsrahmen orientiert.

Die zusätzliche Ebene basiert auf der Bedeutung und Unmittelbarkeit der Ergebnisse des Systems im Entscheidungsprozess. Mit anderen Worten, die KI kann nur dann als risikoreich eingestuft werden, wenn sie ohne menschliche Überprüfung unmittelbar wirksam ist oder wenn sie nicht nur eine Ergänzung der menschlichen Entscheidung darstellt.

Wie dieser Output bei der Entscheidungsfindung als signifikant eingestuft wird, wird von der Kommission in Durchführungsrechtsakten festgelegt, die auch Leitlinien zur Gewährleistung einheitlicher Durchführungsbedingungen enthalten müssen.

Wichtig ist, dass die Liste der risikoreichen Anwendungsfälle in Anhang III erheblich geändert wurde. Die Kategorien für die Festlegung von Versicherungen, die biometrische Kategorisierung, den Umweltschutz, die Kontrolle der Umweltverschmutzung und die Aufdeckung von Fälschungen wurden gestrichen.

Darüber hinaus kann die Kommission nicht mehr nur risikoreiche Anwendungsfälle in die Liste aufnehmen, sondern diese auch streichen, sofern sie keine erheblichen Risiken mehr darstellen oder ihre Streichung nicht zu einer Verringerung des allgemeinen Schutzniveaus für Gesundheit, Sicherheit und Grundrechte führt.

Governance und Durchsetzung

Mehrere Mitgliedstaaten teilten Bedenken, dass die Governance-Architektur des KI-Gesetzes zu stark dezentralisiert sei, da „die Durchsetzung auf nationaler Ebene im Cyberspace vor allem aufgrund unzureichender Kapazitäten und unzureichenden Know-hows auf der Ebene der nationalen Behörden an Grenzen stoßen könnte“.

Die tschechische Lösung besteht aus zwei Teilen. Der erste Teil betrifft den Europäischen Ausschuss für künstliche Intelligenz, der die nationalen Behörden bei der Umsetzung unterstützen wird. Der Ausschuss wird vor allem die Marktaufsichtsbehörden unterstützen, nationales Personal ausbilden und die Kommission in internationalen KI-Fragen beraten.

Da der Ausschuss an den Durchsetzungsmaßnahmen beteiligt sein wird, wurde seine Zusammensetzung dahingehend geändert, dass ihm nur Vertreter der Mitgliedstaaten angehören.

Eine neue Anforderung besteht darin, eine ständige Untergruppe einzurichten, die als Plattform für ein breites Spektrum von Interessengruppen dient und auch bei der Ausarbeitung von Durchführungsrechtsakten konsultiert werden soll.

Zweitens schlugen die Tschechen einen neuen Artikel vor, der die Kommission verpflichtet, eine oder mehrere Prüfeinrichtungen auf EU-Ebene zu benennen, die den Ausschuss oder die Marktaufsichtsbehörden technisch und wissenschaftlich beraten.

Darüber hinaus könnte die Kommission einen Pool unabhängiger Sachverständiger einrichten, die die Durchsetzungsmaßnahmen unterstützen. Sie könnten die nationalen Behörden unterstützen, bei grenzüberschreitenden Untersuchungen beraten und die Kommission bei Verstößen gegen verbotene Praktiken beraten.

Nationale Sicherheit

Auf Wunsch einiger EU-Staaten wurde die Ausnahmeregelung für die nationale Sicherheit dahingehend präzisiert, dass sie „Aktivitäten, die das Militär, die Verteidigung oder die nationale Sicherheit betreffen, unabhängig von der Art der Einrichtung, die diese Aktivitäten durchführt“, abdeckt.

[Bearbeitet von Nathalie Weatherald]