L’IA de X dénude des femmes, même mineures, et suscite l’indignation
Grok, l’IA intégrée au réseau social X d’Elon Musk, permet actuellement à des utilisateurs de demander la suppression des vêtements de personnes figurant sur des photos publiées sur la plateforme. Selon Bloomberg, l’outil aurait également généré ces derniers jours des images sexualisées de mineurs.
Le média américain Bloomberg rapporte que Grok a produit des images d’enfants vêtus de manière « minimale », avant que ces contenus ne soient retirés. Interrogée par Euractiv sur ces informations, xAI — l’entreprise qui développe Grok — a répondu par un message automatique laconique : « Legacy Media Lies » (« les médias traditionnels mentent »).
De son côté, Grok a reconnu sur X l’existence de « cas isolés » dans lesquels des utilisateurs ont demandé et obtenu des images générées par l’IA représentant des mineurs portant peu de vêtements, selon des propos rapportés par Reuters. L’outil a indiqué avoir « identifié des lacunes » dans ses dispositifs de sécurité et travailler à leur correction « de toute urgence », tout en rappelant que les contenus pédopornographiques sont illégaux.
En France, la haute-commissaire à l’Enfance, Sara El Haïry, a déclaré sur X qu’elle avait demandé à l’Autorité de régulation de la communication audiovisuelle et numérique (ARCOM) de se pencher sur la question, en vertu de la loi européenne sur la modération des contenus, le règlement sur les services numériques (Digital Services Act, DSA).
Roland Lescure, ministre de l’Économie, Anne Le Hénanff, ministre chargée de l’Intelligence artificielle et du Numérique, et Aurore Bergé, ministre déléguée chargée de l’Égalité entre les femmes et les hommes, ont demandé au parquet de Paris d’ouvrir une enquête et ont fait un signalement à la plateforme Pharos, destinée aux victimes d’escroqueries sur Internet.
Ils ont déclaré dans un communiqué qu’« Internet n’est ni une zone de non-droit ni une zone d’impunité : les infractions sexuelles commises en ligne sont des infractions pénales à part entière et sont pleinement punies par la loi, au même titre que celles commises hors ligne ».
