Uneinigkeit im EU-Parlament über Verbot von Pornografie-KI-Apps

Führende Gesetzgeber im Europäischen Parlament sind sich uneinig über das Verbot von KI-Pornografie-Apps – wie Elon Musks KI-Chatbot Grok – gemäß den KI-Vorschriften der EU, wie Euractiv erfahren hat.

Das rechtliche Instrument, mit dem ein Verbot umgesetzt werden könnte, ist das KI-Vereinfachungspaket, das derzeit im Parlament und im Rat beraten wird – wobei der Rechtsausschuss des Parlaments in seiner Stellungnahme zum KI-Vorschlag letzte Woche ein Verbot gefordert hat.

In den letzten Monaten löste Grok eine weltweite Empörung aus, nachdem das KI-Chatbot-Tool dazu verwendet wurde, Bilder zu generieren, auf denen Frauen und Kinder ohne ihre Zustimmung digital entkleidet wurden. Die Kommission schlug jedoch bereits im November das KI-Omnibusgesetz vor – bevor Grok das Problem der KI-Nudifikations-Apps ins Rampenlicht rückte.  

Die EU-Regulierungsbehörden reagierten im Januar auf die Empörung über Grok mit der Einleitung einer Untersuchung gemäß dem Digital Services Act (DSA) der EU, der Musks Social-Media-Plattform X reguliert, in die der KI-Chatbot integriert ist.  Die Kommission hat die Pornografiefunktion von Grok außerdem gemäß den bestehenden EU-Digitalvorschriften als „illegal” bezeichnet.

Solche Tools in der EU eindeutig verbieten

Einige Parlamentarier drängen jedoch darauf, KI-Tools zur Pornografisierung ausdrücklich in eine Liste verbotener Verwendungszwecke aufzunehmen, die im KI-Gesetz verankert ist, um solche Tools in der EU eindeutig zu verbieten. 

Wie Euractiv heute berichtete, haben zwei führende Gesetzgeber des KI-Vereinfachungspakets – Arba Kokalari von der EVP und Michael McNamara von Renew – keine Bestimmungen zum Verbot von Pornografietools in ihren Entwurf der Position des Parlamentsaufgenommen .

„Es gab Punkte, in denen sich die Berichterstatter nicht einigen konnten, aber auch Punkte, in denen sie sich einig waren“, sagte McNamara gegenüber Euractiv. „Die Frage der Nudifier gehörte zu den ersteren“. Der irische Europaabgeordnete hatte zuvor öffentlich erklärt, dass er ein Verbot unterstütze. Kokalari reagierte nicht sofort auf die Bitte von Euractiv um eine Stellungnahme.

Mehrere Quellen aus anderen Fraktionen teilten Euractiv mit, dass derzeit darüber diskutiert werde, ob sie ein Verbot in ihren Änderungsanträgen zum Vereinfachungspaket vorschlagen sollten. Die Fraktionen sind sich auch weiterhin uneinig darüber, wie ein solches Verbot im Rahmen des KI-Omnibusgesetzes erreicht werden kann.

„Es gibt mehrere Personen, die Nudification-Apps verbieten möchten“, erklärte ein parlamentarischer Beamter, der mit den Diskussionen vertraut ist, gegenüber Euractiv.

Die Schattenberichterstatter haben bis zum Ablauf der Frist für Änderungsanträge in der nächsten Woche Zeit, sich zu entscheiden.

Die Kommission scheint ihrerseits offen für diesen Vorschlag zu sein. Bei einer Pressekonferenz anlässlich der Einleitung der DSA-Untersuchung gegen Grok deutete ein EU-Beamter an, dass das KI-Omnibusgesetz möglicherweise „der richtige Zeitpunkt“ sei, um sich mit Nudification-Apps zu befassen.

(nl)