L'UE évalue des outils de détection de pédopornographie

La Commission a utilisé des données sur l’exactitude et la précision des outils d’intelligence artificielle (IA) pour détecter le matériel pédopornographique en ligne provenant exclusivement de Meta et d’une autre entreprise technologique, selon une demande d’accès à l’information déposée par l’ancien eurodéputé Felix Reda.

Des recherches indépendantes, des tests de contrôle ou des détails supplémentaires sur les ensembles de données sous-jacents des entreprises technologiques n’ont pas été pris en compte dans l’analyse d’impact de la proposition de règlement sur le matériel pédopornographique.

La proposition de l’UE prévoit la possibilité d’émettre des ordonnances judiciaires demandant le balayage de communications cryptées pour détecter la pédopornographie, ce qui suscite des inquiétudes quant à la possibilité de divulguer aux forces de l’ordre des énormes quantités de fausses alertes et donc de contenus privés.

Pour répondre à ces critiques, la commissaire européenne aux affaires intérieures, Ylva Johansson, qui dirige le dossier, a publié le 7 août un article de blog indiquant que pour la détection de nouveaux contenus pédopornographiques, il existe une technologie dont le taux de précision est de 99,9 %.

Le lendemain, Felix Reda, un ancien législateur européen qui travaille aujourd’hui pour l’association sans but lucratif Gesellschaft für Freiheitsrechte, a envoyé une demande de liberté d’information à l’exécutif européen pour connaître les sources de ce taux de précision.

Dans sa réponse via AskTheEU, qui a été retardée de plusieurs semaines même après l’extension du délai pour les cas exceptionnels, la Commission a cité Meta et le produit commercial Safer développé par Thorn comme étant les fournisseurs de ces données. Selon Thorn, les « derniers tests » du modèle de classification de Safer montrent un taux de précision de 99 %.

« Sur le plan technique, cela n’a tout simplement aucun sens pour une entreprise de dire qu’elle a effectué un test et d’affirmer un certain degré de précision sans divulguer les données exactes du test », a expliqué M. Reda à EURACTIV.

Sur internet, il se pourrait que le nombre de contenus faussement détectés soit beaucoup plus important, car la proportion de contenus pédopornographiques sur tous les services de messagerie est probablement très faible, a poursuivi M. Reda.

Le nombre de fausses alertes est pertinent car des messages inoffensifs, des chats et des photos de personnes innocentes contenant des contenus explicites pourraient se retrouver sur les écrans des enquêteurs.

Thorn n’a pas fourni à EURACTIV les détails sur les ensembles de données et les méthodes de leurs tests à temps pour la publication.

En outre, la Commission aurait dû mener des tests elle-même au lieu de s’appuyer sur des entreprises qui pourraient finir par s’enrichir en tant que fournisseurs de logiciels de contrôle de chat à l’avenir, affirme Felix Reda.

La Commission a présenté sa proposition visant à prévenir et à combattre la pédopornographie en mai 2022, suscitant des réactions négatives en raison de sa suggestion d’une obligation de contrôle généralisée pour les services de messagerie et du risque de briser le chiffrement de bout en bout, comme l’a rapporté EURACTIV.

En juillet, le Conseil européen de la protection des données et le Contrôleur européen de la protection des données ont adopté un avis conjoint, affirmant que la proposition dans sa forme actuelle peut présenter plus de risques pour les tierces personnes que pour les criminels qu’ils veulent poursuivre pour pédopornographie.

Lundi prochain (10 octobre), la commissaire Ylva Johansson présentera la proposition à la Commission des libertés civiles, de la justice et des affaires intérieures (LIBE), qui entamera les négociations au Parlement. Le Conseil travaille déjà sur le texte mais n’aborde pas encore les obligations de filtrage controversées.

La Commission n’a pas immédiatement répondu à la demande de commentaire d’EURACTIV.