Le tatouage numérique, poussé par l'UE, ne dégradera pas la qualité des textes générés par l'IA

Des experts défendent l’apposition de filigranes sur les textes générés par l’IA face aux craintes que ce processus ne dégrade la qualité des résultats, alors que le géant américain Anthropic a essuyé des critiques pour avoir adopté une mesure de transparence privilégiée par la réglementation européenne sur l’IA.

Le règlement européen sur l’IA oblige les développeurs concernés à veiller à ce que leurs modèles marquent de manière invisible différentes formes de contenu – audio, image, vidéo et texte – afin d’aider les internautes à repérer les contenus synthétiques et à réduire les risques tels que la désinformation. 

Avec la généralisation de l’accès aux outils d’IA générative, on assiste également à une recrudescence de contenus de mauvaise qualité apparaissant en ligne et ailleurs. Le réseau social professionnel LinkedIn a même lancé le mois dernier un bouton permettant aux utilisateurs lassés de signaler les contenus suspects d’être du « AI slop » (contenus générés par IA de piètre qualité).

Anthropic – le créateur du chatbot Claude – a présenté la semaine dernière son approche pour la mise en œuvre du code de transparence de l’UE en matière d’IA. Sa page d’assistance mentionne toutefois uniquement « l’intégration d’un filigrane imperceptible directement dans le texte lui-même », sans fournir plus de détails.

Cette publication a suscité certaines inquiétudes, notamment de la part du blogueur américain spécialisé dans les technologies John Gruber, qui a rédigé un article demandant des éclaircissements et émettant l’hypothèse – erronée – qu’Anthropic ajoute des marques invisibles au texte.

En réalité, les approches de l’industrie de l’IA en matière de filigranage sont plus sophistiquées depuis des années. 

Un léger biais

L’approche d’Anthropic repose sur une technologie de filigrane lancée par Google en 2024, comme l’a expliqué l’entreprise dans un article de blog complémentaire.

Le processus consiste à modifier la manière dont les modèles d’IA produisent du texte pour les choix de mots « sans enjeu ».

L’entreprise a donné l’exemple de la phrase « Il faisait froid aujourd’hui et… », qui pourrait être suivie d’un mot comme « couvert » ou « gris », puisque les modèles d’IA générative construisent des phrases en prédisant le mot suivant le plus probable en fonction de ce qui précède.

Le « watermarking » (tatouage numérique) influence légèrement ces choix – en orientant le modèle vers, par exemple, « couvert ». Sur un texte plus long, comportant de nombreux choix de ce type, cela intègre un schéma dans le texte qui peut être détecté par la suite.

Pourtant, certains détracteurs semblent campés sur leurs positions. Gruber a ensuite qualifié cette technique de biais de « manifestement choquante » et de « dénaturation perverse de ce que signifie écrire ».

« Par définition, cela ne peut que détériorer la qualité du texte », a-t-il affirmé.

La longueur compte

Les experts ne sont pas d’accord.

« En général, cela nuit à la qualité du texte uniquement dans le cas de textes très courts », a déclaré à Euractiv Kalina Bontcheva, professeure d’analyse de texte à l’université de Sheffield.

Bontcheva est étroitement impliquée dans ce sujet, puisqu’elle a coprésidé la rédaction du code de transparence de l’UE.

Elle a souligné que la question a fait l’objet de discussions approfondies lors de la phase de rédaction – un processus auquel ont participé les entreprises du secteur de l’IA concernées.

« Nous avons donc établi une définition explicite de ce qu’est un texte très court, discuté du seuil avec les principaux fournisseurs de modèles d’IA et trouvé un accord sur sa faisabilité », a ajouté Bontcheva.

Dino Pedreschi, professeur d’informatique à l’université de Pise et autre coprésident du code, a abondé dans ce sens. Il a reconnu les inquiétudes concernant la qualité rédactionnelle, mais a déclaré que pour les textes suffisamment longs, cela « ne pose pas de problème ».

En vertu du code, le tatouage numérique ne s’applique qu’aux textes de plus de 200 tokens (environ 150 mots).

La Commission européenne a également écarté les craintes concernant la détérioration des textes générés par l’IA.

« Les mesures prévues par le code sont conformes aux pratiques de pointe et les règles de l’UE en matière d’IA ne conduisent pas, de par leur conception, à une détérioration de la qualité des textes produits », a affirmé un porte-parole à Euractiv.

Tous les grands laboratoires d’IA sont soumis aux exigences des règles de transparence de la loi sur l’IA – et nombre d’entre eux, notamment OpenAI, Google et Mistral, ont adhéré au code qui l’accompagne et qui les engage à recourir au tatouage numérique comme moyen de rendre les textes générés par l’IA détectables par des machines. 

Une nouvelle course à l’armement en matière d’IA ?

Pourtant, l’annonce d’Anthropic a donné lieu à des informations faisant état de la mise sur le marché précipitée d’outils prétendant contourner le filigrane de Claude.

Pedreschi a reconnu que les filigranes peuvent être supprimés, mais a fait valoir qu’ils sont plus difficiles à contourner que les balises de métadonnées.

Il a en outre laissé entendre qu’ils sont suffisamment robustes pour inciter les utilisateurs les plus malveillants à réfléchir à la question de la détectabilité.

(nl, vc)