L’UE finance un nouveau logiciel pour détecter les contenus pédopornographiques en ligne

Un nouveau projet mené par des chercheurs européens et britanniques a pour objectif de développer un outil d’apprentissage automatique permettant de détecter et de bloquer en temps réel les contenus pédopornographiques sur les appareils.

Le projet financé par la Commission européenne pour développer l’outil a été annoncé jeudi (23 février) par l’organisation britannique de protection de l’enfance Internet Watch Foundation (IWF). Il devrait débuter le mois prochain et durer deux ans.

Le logiciel sera mis à l’essai sur une base volontaire par les utilisateurs qui considèrent être exposés au risque de voir du contenu pédopornographique en ligne. L’outil assurera une surveillance en temps réel et bloquera l’accès à toute image ou vidéo de cette catégorie avant même que l’utilisateur ne puisse la visionner.

« Malheureusement, la demande d’images et de vidéos d’enfants victimes d’abus sexuels est incessante », a indiqué Dan Sexton, directeur de la technologie de l’IWF.

« Mais nous savons que la recherche et la suppression de ces contenus ne suffisent pas dans la lutte mondiale permanente pour mettre fin aux abus sexuels sur les enfants, c’est pourquoi nous sommes ravis de jouer notre rôle dans ce projet de formation et de test d’un logiciel qui pourrait s’avérer crucial pour réduire la demande de matériel criminel en premier lieu. »

Le projet, baptisé « Protech », doté d’un budget de 2 millions d’euros et qui devrait débuter en mars, sera piloté par l’hôpital universitaire de la Charité de Berlin. Il réunira des experts dans des domaines tels que la protection de l’enfance, la psychologie, le génie logiciel et la santé publique.

Les organisations participantes, originaires du Royaume-Uni et de l’UE, incluront des groupes tels que la Lucy Faithfull Foundation, Stop it Now Pays-Bas et le centre médico-légal de l’hôpital universitaire d’Anvers.

Les chercheurs de ces institutions collaboreront au développement d’un outil d’apprentissage automatique — appelé Salus — qui permettra de détecter et d’intercepter le matériel pédopornographique afin d’éviter qu’il n’apparaisse sur les écrans des utilisateurs.

Le logiciel ne nécessitera aucune interaction, sauf si le contenu est détecté, mais l’installation du dispositif sera volontaire. Selon l’IWF, l’outil permettra d’intervenir auprès des utilisateurs craignant de commettre des actes illicites à l’encontre d’enfants et cherchera à atténuer les craintes des victimes d’abus sexuels sur des enfants de se voir à nouveau confrontées à des contenus existants.

Le projet examinera également ce qui se passera une fois que ce type de contenu sera détecté. Un porte-parole de l’IWF a confié à EURACTIV que l’outil ne prévoit pas de signaler les utilisateurs à la police, mais plutôt de travailler du côté de la prévention afin de réduire la disponibilité de ce type de contenu illégal.

« Les volontaires qui utiliseront cette application seront des personnes cherchant à s’empêcher elles-mêmes de visionner du contenu pédopornographique et seront recrutées par des organisations visant à les aider à contrôler leur comportement », a déclaré le porte-parole.

Dans sa phase pilote, l’application sera proposée à au moins 180 utilisateurs dans cinq pays – l’Allemagne, les Pays-Bas, la Belgique, l’Irlande et le Royaume-Uni — sur une période de 11 mois. Les membres du projet évalueront ensuite son déploiement et son impact et envisageront son déploiement potentiel en tant que composante d’initiatives de prévention en matière de santé publique.

« Les appareils numériques peuvent jouer un rôle dans la réduction des abus sexuels en ligne en offrant certaines fonctionnalités et mesures qui permettent de renforcer la sécurité des utilisateurs, telles que les paramètres de sécurité et de confidentialité, les options de signalement et de blocage », a déclaré Stefan Bogaerts, président du département de psychologie du développement de l’Université de Tilbourg.

La Commission européenne a publié l’année dernière sa proposition pour lutter contre les contenus pédopornographiques. Celle-ci prévoit la possibilité pour les autorités judiciaires de demander aux fournisseurs de services de communication, tels que les applications de messagerie et les courriers électroniques, de mettre en place des mesures permettant de détecter les contenus pédopornographiques.

Bien que saluée par les défenseurs de la protection de l’enfance, cette mesure a été critiquée en raison de son incompatibilité avec le chiffrement de bout en bout, une technologie par laquelle seules les personnes impliquées dans la communication peuvent déchiffrer les messages.

L’application des injonctions de détection pourrait se faire principalement de deux manières : par l’envoi des communications à un serveur « d’analyse » supplémentaire ou par l’analyse des appareils.

Ella Jakubowska, chargée de mission à European Digital Rights (EDRi), a confié à EURACTIV que, bien que le projet semble être orienté vers un fonctionnement sur appareil, des garanties solides seraient nécessaires pour empêcher une « dérive des exigences » (scope creep) et s’assurer que la technologie ne se retrouve pas utilisée pour la surveillance d’appareils par des tiers.

La participation au projet d’experts en matière de protection de la vie privée, de protection des données et de cybersécurité serait également essentielle, a déclaré Mme Jakubowska. Elle a également ajouté que « si l’innovation dans le domaine de la prévention des abus sur les enfants est essentielle, il existe toujours des limites à ce qu’une approche technologique peut accomplir. »

« Aucune application ne peut remplacer les investissements dans l’éducation, dans les services sociaux, dans les soins de santé préventive, et dans la lutte contre les problèmes structurels qui mènent à la criminalité », a-t-elle conclu.

[Édité par Anne-Sophie Gayet]