Les législateurs européens réclament l’interdiction des IA génératrices d’images de nudité

Cette initiative intervient dans le sillage du scandale entourant Grok, l’outil d’IA associé au réseau social X, accusé d’avoir produit des images deepfake représentant des femmes et des enfants dénudés. Face à l’indignation internationale, xAI, la société mère de Grok, a annoncé jeudi 15 janvier avoir désactivé la fonctionnalité permettant la génération de telles images.

« Ces systèmes devraient être interdits sur le marché européen », écrivent les législateurs dans une lettre consultée par Euractiv. Ils y font référence à Grok et à d’autres outils basés sur l’IA qui permettent aux utilisateurs de générer des images intimes manipulées. Selon eux, ces outils facilitaient la violence en ligne fondée sur le genre et la création de contenus pédopornographiques.

« Il n’est pas clair si ces systèmes sont actuellement interdits sur le marché européen, ce qui laisse des lacunes juridiques », poursuivent les législateurs.

Dans leur lettre, ils demandent à la Commission de préciser si tous les systèmes de « nudification » basés sur l’IA sont interdits par le règlement européen sur l’IA (AI Act) ou d’autres législations européennes. Si ce n’est pas le cas, ils ont exhorté la Commission à ajouter ces applications à la liste des pratiques interdites en matière d’IA dans le cadre de l’AI Act.

Alors que la Commission a demandé à la plateforme de réseau social d’Elon Musk de conserver tous les documents internes relatifs à Grok, en utilisant ses pouvoirs en vertu du règlement sur les services numériques (Digital Services Act, DSA), les législateurs ont averti que « se contenter de s’attaquer à ces systèmes d’IA sur un petit nombre de très grandes plateformes en ligne est insuffisant ». Le DSA ne s’applique actuellement qu’à 25 plateformes en ligne dites « très grandes » dans l’UE.

Les législateurs devraient également débattre de cette question mardi prochain.