Présidentielle irlandaise : un deepfake relance le débat sur la lutte contre la désinformation liée à l’IA

La vidéo, qui montrait Catherine Connolly annonçant son retrait de l’élection présidentielle irlandaise de vendredi 24 octobre, a été largement diffusée sur Facebook avant d’être démentie.

La candidate a ensuite déposé plainte auprès de la commission électorale irlandaise, tandis que l’autorité des médias Coimisiún na Meán a indiqué à Euractiv qu’elle avait contacté la plateforme concernée pour lui demander quelles mesures elle avait prises.

Règles relatives à l’IA et lacunes dans leur application

L’utilisation de vidéos générées par l’IA pendant une élection pourrait constituer une violation du règlement européen sur l’IA (AI Act). Cependant, l’Irlande n’a pas encore donné à son organisme de surveillance de l’IA les pouvoirs nécessaires pour faire respecter les règles européennes.

La Coimisiún na Meán dispose toutefois déjà de pouvoirs de surveillance sur Facebook en vertu du règlement européen sur les services numériques (Digital Services Act, DSA). La loi sur la gouvernance en ligne oblige les grandes plateformes, telles que Facebook, propriété de Meta, à atténuer les risques pesant sur les processus démocratiques, y compris la désinformation.

La surveillance de Meta/Facebook est répartie entre la Commission européenne, qui applique les règles du DSA aux grandes plateformes, et la Coimisiún na Meán, étant donné que le siège européen de Meta est situé établi à Dublin.

La Commission européenne a ouvert une procédure contre Meta depuis avril 2024 pour des violations présumées du DSA, notamment pour ne pas avoir lutté contre les campagnes de désinformation et la publicité trompeuse. Elle n’a cependant clos aucune de ces enquêtes.

Un porte-parole de la Commission a indiqué à Euractiv que Bruxelles était « au courant » du deepfake et « en contact » avec la Coimisiun na Mean irlandaise.

« Les lignes directrices électorales prévues par le DSA fournissent des mesures recommandées aux très grandes plateformes en ligne et aux moteurs de recherche afin d’atténuer les risques systémiques en ligne susceptibles d’avoir une incidence sur l’intégrité des élections », a ajouté le porte-parole.

Il a également pécisé que ces lignes directrices comprennent des recommandations sur « des mesures d’atténuation spécifiques liées à l’IA générative, y compris les deepfakes ».

Quelles mesures de surveillance ?

La Coimisiún na Meán a déclaré avoir organisé une table ronde avec les principales plateformes en ligne afin de discuter de leur état de préparation avant les élections, avant le scandale des deepfakes — une mesure similaire à celle prise par d’autres autorités nationales cette année avant les élections aux Pays-Bas, en Roumanie et en Allemagne.

L’organisme de surveillance irlandais a également publié un manuel électoral à l’intention des candidats à la présidence et des journalistes afin de les aider à signaler les contenus illégaux en ligne.

Après que le deepfake de Catherine Connolly soit devenu viral, la Coimisiún na Meán a expliqué avoir contacté « la plateforme concernée » pour lui demander ce qu’elle faisait pour lutter contre la désinformation virale. Elle a déclaré avoir rappelé à l’entreprise ses obligations en vertu du DSA, en particulier à l’approche d’une élection nationale, afin d’atténuer les risques liés aux contenus préjudiciables.

Le régulateur n’a pas confirmé avec quelle plateforme il avait pris contact.

Les plateformes réagissent

Jeudi, Adrian Weckler, journaliste spécialisé dans les technologies pour l’Irish Independent, a déclaré avoir contacté les organismes de surveillance susceptibles d’être responsables de cette question, mais n’avoir obtenu aucune réponse claire.

« Nous avons une vidéo qui a perturbé l’élection présidentielle, mais personne ne semble en être
responsable », a-t-il affirmé au Tonight Show.

Un porte-parole de Meta a expliqué à Euractiv que la société avait supprimé certaines vidéos liées à Catherine Connolly car elles enfreignaient ses politiques en matière d’ingérence électorale. Cependant, Meta n’a pas pu confirmer si la vidéo deepfake spécifique largement diffusée sur Facebook avait été supprimée.

Adrian Weckler a déclaré que Meta avait supprimé la vidéo virale après que sa publication ait contacté la société pour obtenir des commentaires.

La société a ajouté avoir déployé une équipe dédiée en Irlande afin de réagir rapidement à toute menace de désinformation avant les élections.

Un porte-parole de YouTube, une autre grande plateforme technologique sur laquelle la vidéo deepfake a circulé, a confié à Euractiv avoir « supprimé la chaîne concernée pour violation de nos règles communautaires, qui interdisent strictement l’usurpation d’identité ».

La déclaration de YouTube fait référence à une chaîne « RTÉ News AI », qui semble avoir cherché à se faire passer pour la chaîne d’information nationale irlandaise — RTÉ News — afin de contribuer à la diffusion du deepfake.