Hé Grok, pourrais-tu créer une interdiction de « pornification » ?

Au début de l’année, Elon Musk semblait avoir transformé sa plateforme de réseau social X en une plateforme pornographique, puisque le chatbot Grok intégré à l’IA diffusait à la demande une multitude d’images sexualisées de femmes et d’enfants, déclenchant un scandale mondial.

Les responsables politiques se sont empressés d’agir dans le cadre des règles existantes en matière de sécurité en ligne. Mais dans l’UE, le débat s’est très vite orienté vers la question de savoir si des règles plus strictes, voire une interdiction pure et simple des outils de nudification basés sur l’IA, étaient nécessaires pour protéger les personnes, en particulier les enfants, contre la pornification par l’IA.

La présidente de la Commission, Ursula von der Leyen, s’est elle-même exprimée sur le sujet, affirmant que « le préjudice causé par les images illégales est bien réel ». Sous la pression des législateurs, la Commission a ouvert une nouvelle enquête sur X, enquêtant sur Grok en vertu de la loi sur les services numériques (DSA) pour suspicion de partage de matériel illégal à caractère pédopornographique (CSAM).

Mais l’exécutif européen a déjà passé des années à enquêter minutieusement sur la plateforme pour un certain nombre d’autres violations de la DSA – en confirmant certaines en décembre, mais en continuant à examiner d’autres questions, notamment les préoccupations relatives aux contenus illégaux – il est donc clair que le règlement numérique ne peut pas offrir de solutions rapides aux préjudices urgents en ligne.

Alors que le scandale de la pornification de Grok s’est quelque peu calmé, après que Musk ait limité la capacité de l’IA à déshabiller numériquement les utilisateurs de X, les lents rouages de l’élaboration des politiques de l’UE commencent à se mettre en marche pour déterminer le degré de sévérité dont le bloc devrait faire preuve à l’égard de ces technologies d’IA manifestement nuisibles.

Lacunes dans les règles des plateformes

Grok est intégré à la plateforme de médias sociaux X de Musk, ce qui a permis à la Commission d’ouvrir une enquête au titre de la DSA, puisque X, anciennement Twitter, est désigné comme une très grande plateforme en ligne (VLOP), ce qui signifie qu’il est soumis à des règles de risque systématique supervisées par l’exécutif de l’UE.

La DSA est un outil réglementaire puissant : les infractions confirmées peuvent entraîner des amendes pouvant atteindre 6 % du chiffre d’affaires annuel mondial. La loi peut également être utilisée pour émettre des ordonnances correctives et, en cas de non-conformité persistante, même forcer la suspension temporaire d’une plateforme dans l’UE. Le règlement n’est toutefois pas conçu pour interdire définitivement des services sur le marché.

Même la possibilité d’une suspension temporaire est présentée comme une mesure de dernier recours dans la DSA, limitée à des circonstances exceptionnelles, que l’UE n’a jusqu’à présent jamais invoquées.

En revanche, le gouvernement britannique a pris des mesures cette semaine pour combler une lacune juridique dans son propre régime de sécurité en ligne, en déclarant qu’il inclurait explicitement les chatbots IA dans la loi sur la sécurité en ligne (Online Safety Act), l’équivalent britannique de la DSA de l’UE.

Cela signifierait que les fournisseurs de chatbots IA seraient tenus de respecter les obligations relatives aux contenus illégaux prévues par la législation britannique, qui impose aux plateformes d’empêcher la création de tels contenus, sous peine de sanctions pouvant atteindre 10 % de leur chiffre d’affaires mondial.

Au sein de l’UE, les législateurs cherchent désormais ailleurs une éventuelle interdiction des outils de pornification, la Commission n’ayant fait aucune déclaration concernant une modification des règles numériques de l’UE afin de mieux encadrer les chatbots IA.

Tous à bord de l’omnibus IA

Il se trouve que l’UE examine actuellement un ensemble de modifications proposées à une autre loi, la loi sur l’IA, et que cet omnibus IA suit son cours dans le processus législatif, auquel une interdiction des outils de pornification pourrait être commodément ajoutée.

La loi sur l’IA interdit déjà certaines utilisations « inacceptables » de l’IA, mais l’omnibus vise principalement à répondre aux préoccupations liées à la bureaucratie.

Pourtant, les législateurs semblent peu disposés à laisser passer le scandale Grok. Les parlementaires de plusieurs groupes utilisent le processus d’amendement pour proposer une formulation concrète en vue d’une interdiction de la pornification.

Mais la pression en faveur d’une interdiction divise les groupes libéraux et conservateurs, la plupart des parlementaires du centre semblant jusqu’à présent plus intéressés par la simplification que par l’extension des règles relatives à l’IA.

Sauter dans le train de l’interdiction de l’IA

Les propositions du S&D, de Renew, des Verts et de la Gauche sur la forme que devrait prendre l’interdiction sont globalement similaires : ils souhaitent ajouter les systèmes d’IA pornographiques, et non les modèles sous-jacents, à la liste des interdictions existantes dans la loi sur l’IA.

Il est essentiel de noter que cela interdirait non seulement l’utilisation de ces systèmes, mais aussi leur mise à disposition en Europe. Ainsi, ce sont les entreprises technologiques, plutôt que leurs utilisateurs, qui seraient potentiellement responsables si la pornification continuait d’exister.

L’UE interdit déjà le partage de contenus intimes sans le consentement de la personne concernée dans sa directive sur la violence à l’égard des femmes. Cette interdiction inclut également l’utilisation de logiciels pour créer et partager des contenus donnant l’impression qu’une personne a des relations sexuelles. La Gauche et les Verts souhaitent aligner les règles révisées en matière d’IA sur cette interdiction existante.

La question épineuse du consentement

La plupart des textes proposés par les groupes politiques autoriseraient toujours les outils de nudification s’ils sont utilisés avec le consentement de la personne concernée. Le libellé des socialistes précise que le consentement doit être « libre, spécifique, éclairé et sans ambiguïté ».

Mais cette exigence semble problématique : comment un outil d’IA pourrait-il garantir que le consentement a été donné par la personne qui apparaît sur la photo qu’il modifie ?

« Je crains que le fait d’imposer le consentement comme condition préalable ne crée une énorme faille et ne sème la confusion », a déclaré la députée européenne verte Kim van Sparrentak à Euractiv. Elle craint que des acteurs malveillants ne contournent facilement une telle restriction, tandis que les fournisseurs pourraient simplement afficher une case à cocher, à l’instar de la situation actuelle (très décriée) avec les cookies de suivi.

Les Verts ont donc proposé d’interdire totalement les systèmes d’IA capables de générer des vidéos « sexualisées ou intimes » d’individus, à condition que le système puisse les partager directement sans consentement, comme la capacité de Grok à publier directement des nus générés par l’IA sur X, où le chatbot est intégré.

« Interdisons clairement ces pratiques une fois pour toutes », a déclaré Mme van Sparrentak.

Une approche alternative

Si le groupe S&D a proposé d’interdire les systèmes d’IA pornographiques via la liste des utilisations interdites de la loi sur l’IA, il a également une autre proposition : cela imposerait une nouvelle obligation aux entreprises qui fournissent des systèmes d’IA à usage général, tels que Grok ou ChatGPT d’OpenAI, afin de garantir que leurs systèmes ne puissent pas être utilisés pour générer du contenu pornographique non consensuel.

Cette approche permettrait d’éviter de rouvrir la partie controversée de la loi sur l’IA qui traite des interdictions totales.

« Nous devrons travailler ensemble dans le peu de temps dont nous disposons pour trouver une solution juridiquement solide », a déclaré Brando Benifei, chef de file du groupe S&D.

La Commission suit de près

Les capitales discutent également de ce sujet au sein du Conseil, mais les discussions semblent moins avancées pour l’instant : deux textes de compromis obtenus par Euractiv ne font pour l’instant aucune mention d’une éventuelle interdiction de la pornification.

Des sources ont toutefois indiqué à Euractiv que l’Espagne avait soulevé la question lors d’une discussion cette semaine, plusieurs pays, dont la France, l’Irlande et la Slovénie, semblant y être favorables.

Pour sa part, la Commission attend son heure.

« La Commission suit les discussions au Parlement européen et au Conseil dans le cadre de l’AI Omnibus et examine la question », a déclaré un porte-parole à Euractiv, ajoutant qu’« aucune mesure officielle n’avait encore été prise à ce sujet ».