Le chatbot Grok, intégré à X, fait l'objet de vives critiques dans l'UE
« Si les victimes avaient été des hommes puissants, X serait déjà hors ligne », a déclaré l'eurodéputée des Verts Alexandra Geese.
L’assistant IA Grok, propriété d’Elon Musk, a été conçu pour être provocateur, voire politiquement incorrect, mais cet outil controversé suscite désormais l’indignation mondiale après avoir généré des images sexuellement explicites de femmes et d’enfants.
Depuis août dernier, le chatbot Grok, intégré à la plateforme de médias sociaux X de Musk – le mettant ainsi à la portée de millions d’utilisateurs – propose un mode dit « épicé » qui permet aux utilisateurs de générer du contenu explicite à l’aide de l’IA. Au cours des dernières semaines, cette fonctionnalité pornographique a conduit Grok à produire des images sexuellement explicites de femmes, y compris de mineures.
Les pays et les eurodéputés de l’UE ont réagi avec dégoût, exhortant Bruxelles à accélérer les mesures coercitives à l’encontre du développeur de Grok, xAI, alors que le scandale continue de prendre de l’ampleur.
« Ce n’est pas épicé. C’est illégal », a averti lundi Thomas Regnier, porte-parole de la Commission européenne chargé du numérique.
Il a également déclaré que la Commission examinait cette fonctionnalité dans le cadre de l’application de la loi sur les services numériques (DSA) de l’Union européenne, ajoutant : « X est tout à fait conscient que nous prenons très au sérieux l’application de la DSA. »
Appel à une application accélérée
Comme Grok fait partie de X, il est réglementé par la DSA, qui désigne le service de médias sociaux comme une « très grande plateforme en ligne » (ou VLOP), ce qui signifie qu’il est soumis aux règles les plus strictes de la loi et à des amendes pouvant atteindre 6 % du chiffre d’affaires annuel mondial.
« Ce contenu est illégal dans la plupart des pays de l’UE », a déclaré la députée verte Alexandra Geese à Euractiv, à propos de la fonctionnalité pornographique de Grok. « La Commission devrait se coordonner avec les DSC [autorités nationales qui appliquent également la DSA] et agir rapidement. »
La France et l’Allemagne ont déjà exhorté la Commission à appliquer la DSA à Grok.
Mardi, le ministre allemand de la Culture, Wolfram Weimer, a appelé l’exécutif européen à appliquer rigoureusement la DSA à la plateforme. « Ce que nous observons actuellement sur X ressemble à l’industrialisation du harcèlement sexuel », a-t-il dénoncé.
La semaine dernière, la haute commissaire française à l’enfance, Sara El Haïry, a également demandé à l’Arcom, l’autorité française de régulation des médias, d’examiner les contenus diffusés par Grok au regard de la DSA. Par ailleurs, les députés français ont demandé au procureur de Paris d’ouvrir une enquête pénale sur le chatbot IA de Musk.
Mme Geese estime qu’une enquête de la Commission sur Grok dans le cadre de la DSA devrait être « très rapide » et suggère qu’elle pourrait aboutir à « une très lourde amende » pour la plateforme, en raison des « dommages considérables » subis par les victimes de pornification. La loi pourrait également être utilisée pour bloquer l’accès régional à X « s’ils ne se conforment pas immédiatement », a-t-elle également suggéré.
Cependant, le bilan de la Commission en matière d’application de la loi sur X – et sur la DSA en général – est tout sauf rapide.
En décembre, elle a finalement infligé une amende de 120 millions d’euros à la plateforme de Musk pour avoir enfreint les règles de transparence de la DSA après deux années d’enquête. Parallèlement, une série de préoccupations plus graves concernant la plateforme de Musk, que la Commission a également commencé à examiner en décembre 2023, restent en suspens.
Risques liés à l’IA malveillante
Le développeur de Grok, xAI, a répondu à la polémique sur la pornification par le biais d’un post sur X, affirmant que les résultats sexualisés étaient dus à une défaillance des mesures de sécurité de son système d’IA.
Curieusement, le post est rédigé à la première personne, Grok se référant à lui-même en utilisant le « je », comme si un outil numérique pouvait être tenu responsable des défaillances techniques, plutôt que les humains qui l’ont conçu.
Pour le député européen Jeroen Lenaers, rapporteur du Parlement pour la prochaine révision de la directive sur les abus sexuels sur les enfants (CSA), cet épisode était tout à fait prévisible. Selon lui, l’incapacité à prévenir les abus est le résultat du choix de plateformes telles que X de ne pas s’autoréguler de manière proactive face à des risques graves, plutôt que le résultat d’une défaillance ponctuelle en matière de sécurité.
« Si les plateformes d’IA choisissent d’autoriser la génération de contenus érotiques, des mesures de protection robustes, efficaces et vérifiables de manière indépendante doivent être mises en place à l’avance », a-t-il fait valoir, avertissant que « les contenus érotiques générés par l’IA ouvrent la voie à des contenus abusifs, notamment des CSAM [contenus pédopornographiques] ».
M. Lenaers espère criminaliser la possession, la création et la distribution de CSAM générés par l’IA dans la prochaine révision de la directive CSA.
L’organisation britannique de défense des droits des enfants, Internet Watch Foundation, souhaite également voir des mesures beaucoup plus sévères prises à l’encontre des outils numériques utilisés pour les abus sexuels. « Il est essentiel que toutes les formes d’abus sexuels sur mineurs en ligne soient criminalisées et poursuivies, peu importe comment et pourquoi elles sont créées », a déclaré un porte-parole à Euractiv, appelant à une interdiction générale dans l’UE des applications utilisées pour « dénuder » les images de personnes.
Selon un rapport publié cette semaine par AI Forensics, une ONG européenne indépendante, la majorité (53 %) des images générées par Grok contenaient des « personnes en tenue minimale », dont 81 % étaient des femmes et 2 % semblaient avoir moins de 18 ans.
« Si les victimes étaient des hommes puissants, X serait déjà hors ligne », a suggéré M. Geese.
Alors que X affirme avoir supprimé tout le contenu CSAM potentiellement illégal généré par Grok, Lenaers soutient que, pour les contenus à caractère sexuel, les risques sont si élevés qu’un système standard de notification et de suppression « n’est pas une solution, car le préjudice causé aux victimes est déjà fait et ne peut être réparé ».
