Deepfakes sexuels sur X : Ursula von der Leyen « consternée » par les dérives du chatbot Grok

« Je suis consternée qu’une plateforme technologique permette aux utilisateurs de déshabiller numériquement des femmes et des enfants en ligne », a-t-elle déclaré lors d’un entretien avec la presse, notamment le journal italien Corriere Della Sera.

« C’est un comportement inconcevable, et le préjudice causé par ces deepfakes est bien réel », a ajouté la présidente de la Commission. « Nous n’allons pas externaliser la protection des enfants et le consentement à la Silicon Valley. S’ils n’agissent pas, nous le ferons. »

Une porte-parole de l’exécutif européen a déclaré qu’elle ne donnerait pas plus de détails sur la manière dont Bruxelles allait agir. La Commission a toutefois déjà demandé à X de conserver les enregistrements internes liés à Grok.

Condamnation internationale

Ces déclarations interviennent alors que les autorités de régulation commencent à prendre des mesures contre la plateforme X à la suite de ce scandale.

Lundi 12 janvier, l’Office of communications (Ofcom) — l’autorité régulatrice des télécommunications au Royaume-Uni —, a annoncé avoir ouvert une enquête sur Grok. Le gouvernement du pays avait précédemment déclaré qu’il soutiendrait le régulateur s’il décidait d’interdire la plateforme.

Au cours du week-end, la Malaisie et l’Indonésie ont de leur côté ordonné le blocage du chatbot de X sur leurs territoires.

Les relations entre la Commission européenne et X sont déjà fortement dégradées depuis décembre, lorsque l’exécutif européen a infligé à la plateforme une amende au titre du règlement sur les services numériques (Digital Services Act, DSA). Il s’agissait de la première sanction prononcée dans le cadre de ce texte clé de la régulation technologique.

La semaine dernière, X a restreint les fonctionnalités d’édition d’images aux seuls utilisateurs payants. Une mesure jugée insuffisante par la Commission européenne, un porte-parole ayant rapidement indiqué qu’elle ne réglait en rien les problèmes de fond.

La Commission exhortée à agir

Le Parlement européen et les États membres de l’UE, en particulier la France, ont déjà appelé la Commission à se pencher sur les fonctionnalités de Grok qui permettent de dénuder des personnes sur des photos.

« Je suis tout à fait d’accord avec le président de la Commission, et j’espère que la Commission européenne mènera très rapidement cette enquête », a confié l’eurodéputée écologiste Alexandra Geese, anciennement responsable du DSA, à Euractiv lundi.

Elle a fait valoir que la vente d’images à caractère sexuel violent à l’égard des femmes constituait clairement un risque systémique de violence sexiste au regard de la législation numérique.

« Je tiens également à souligner que la directive visant à lutter contre la violence à l’égard des femmes érige précisément ce comportement en infraction pénale », a affirmé Alexandra Geese. « J’espère donc que le président de la Commission joindra le geste à la parole et conclura rapidement l’enquête. »