Deepfakes sur X : la Commission ouvre une enquête sur Grok, le chatbot d'Elon Musk
L'enquête décrétée par la Commission devra déterminer si le réseau social s'est conformé aux exigences légales visant à atténuer les risques associés aux résultats de l'IA.
La Commission européenne a annoncé lundi l’ouverture d’une enquête officielle sur Grok, l’assistant d’intelligence artificielle d’Elon Musk, en vertu de la loi sur les services numériques (DSA). Cette décision intervient alors que l’outil, disponible sur la plateforme X, a été utilisé pour générer des images dénudées de personnes réelles, notamment des femmes et des enfants.
Grok est accessible via X, qui est soumis aux règles les plus strictes de la DSA. L’enquête décrétée par la Commission devra déterminer si la plateforme de médias sociaux s’est conformée aux exigences légales visant à atténuer les risques associés aux résultats de l’IA.
Les responsables de l’application de la DSA examineront l’utilisation de l’outil d’IA pour diffuser des contenus illégaux dans l’UE, notamment des images sexuellement explicites et du matériel pédopornographique (CSAM), selon un communiqué de presse de l’UE.
Les violations confirmées de la DSA peuvent entraîner des amendes pouvant atteindre 6 % du chiffre d’affaires annuel mondial.
Extension du système de recommandation
Dans son annonce de lundi, la Commission a également révélé qu’elle prolongeait l’enquête en cours sur les systèmes de recommandation de X, ouverte par l’UE en décembre 2023.
Lors de son ouverture, la Commission avait déclaré que l’enquête viserait à déterminer si X atténuait les risques liés à ses algorithmes de recommandation. La Commission a désormais déclaré que l’enquête porterait également sur l’impact du passage récemment annoncé par X à des systèmes de recommandation basés sur Grok.
Un responsable de l’UE a expliqué que X avait annoncé la semaine dernière des changements à ses systèmes de recommandation qui les placeraient « davantage sous le contrôle de Grok ».
Selon ce responsable, l’entreprise n’a pas fourni d’évaluation des risques à la Commission. Ces changements pourraient avoir « un impact critique sur certains risques », a-t-il ajouté, citant les préoccupations qui ont motivé la prolongation de l’enquête.
Indignation mondiale
Ces dernières semaines, le scandale des deepfakes pornographiques de Grok a suscité l’indignation mondiale.
La présidente de la Commission, Ursula von der Leyen, s’est même exprimée publiquement, qualifiant ces contenus sexualisés d’« épouvantables ».
Comme nous l’avons signalé précédemment, la décision de la Commission d’ouvrir une enquête DSA sur Grok a été prise dans un climat politique tendu au sein du Berlaymont quant à la marche à suivre concernant cet outil d’IA.
Au début du mois, la Commission a demandé à X de conserver tous les documents internes relatifs à Grok pendant que les autorités chargées de l’application de la DSA examinaient leurs options. Mais d’autres régulateurs ont poursuivi leurs enquêtes – dans le cas du Royaume-Uni – ou ont même bloqué l’outil d’IA controversé.
En décembre, l’UE a infligé une amende de 120 millions d’euros à X dans le cadre d’une précédente enquête DSA concernant les dispositions en matière de transparence. D’autres enquêtes sont toujours en cours.
Cette mesure a déclenché une vive réaction de la part de Washington et de Musk lui-même, qui a appelé à des représailles, demandant l’abolition de l’Union.
