EU-Gesetzgeber fordern Verbot von KI-Nacktheits-Apps nach Grok-Skandal

Mehr als 50 EU-Abgeordnete aus verschiedenen Fraktionen haben die Europäische Kommission in einem Schreiben, das Euractiv vorliegt, aufgefordert zu bestätigen, dass „KI-gestützte Nacktheit”-Apps in der Union verboten sind.

Das Schreiben wurde vor dem Hintergrund der weltweiten Empörung über das KI-Tool Grok von Elon Musk verfasst, das Deepfake-Bilder von unbekleideten Frauen und Kindern generiert hatte. Die Muttergesellschaft von Grok, xAI, gab am Donnerstag bekannt, dass sie die Funktion des Tools zur Erzeugung solcher Bilder deaktiviert habe.

„Diese Systeme sollten vom EU-Markt verbannt werden”, schrieben die Abgeordneten in Bezug auf Grok und andere KI-gesteuerte Programme, mit denen Nutzer manipulierte intime Bilder erzeugen können. Sie erklärten, dass solche Tools geschlechtsspezifische Online-Gewalt und die Erstellung von Material über sexuellen Kindesmissbrauch begünstigen.

Rechtliche Lücken

„Es ist unklar, ob diese Systeme derzeit auf dem EU-Markt verboten sind, was rechtliche Lücken hinterlässt“, fügten die Abgeordneten hinzu.

In dem Schreiben baten die Abgeordneten die Kommission um Klärung, ob alle KI-gestützten „Nudify“-Systeme gemäß dem EU-KI-Gesetz oder anderen EU-Rechtsvorschriften verboten sind. Falls nicht, forderten sie die Kommission auf, solche Anwendungen in die Liste der verbotenen KI-Praktiken gemäß dem KI-Gesetz aufzunehmen.

Während die Kommission die Social-Media-Plattform X aufgefordert hat, alle internen Dokumente im Zusammenhang mit Grok aufzubewahren, wobei sie sich auf ihre Befugnisse gemäß dem Gesetz über digitale Dienste (DSA) beruft, warnten die Gesetzgeber, dass „es nicht ausreicht, diese KI-Systeme nur auf einer kleinen Anzahl sehr großer Online-Plattformen zu bekämpfen“. Der DSA gilt derzeit nur für 25 sogenannte sehr große Online-Plattformen in der EU.

Wie Euractiv bereits berichtet hat, werden die Gesetzgeber voraussichtlich am kommenden Dienstag über diese Angelegenheit debattieren.

(aw)