ONG, Commission et intérêts financiers : que se passe-t-il avec la réglementation sur les abus sexuels envers les enfants ?

Un article récent du Balkan Insight a révélé des liens étroits, y compris de possibles intérêts financiers, entre la Commission européenne et des organisations de protection de l’enfance dans le cadre d’un projet de loi de l’UE visant à empêcher la diffusion en ligne de contenu pédopornographique (CSAM).

Selon l’article, ces liens vont au-delà des consultations habituelles avec les parties prenantes, puisqu’au moins un fonctionnaire de la Commission siège au conseil d’administration de l’une des organisations de protection de l’enfance. Cette situation a incité la commission des libertés civiles, de la justice et des affaires intérieures (LIBE) du Parlement européen à faire part de ses préoccupations dans une lettre officielle adressée à la Commission.

La proposition de règlement vise à prévenir et à combattre le contenu pédopornographique en ligne, en obligeant les plateformes numériques de l’UE à détecter et à signaler ce type de contenu.

La commissaire aux Affaires intérieures, Ylva Johansson, a présenté la proposition l’année dernière à la commission LIBE et a suscité des réactions partagées : les associations du secteur numérique craignant que l’analyse de ce type de contenu n’entraîne une rupture du cryptage et des violations de la vie privée, tandis que les organisations de protection de l’enfance soulignaient qu’il s’agissait d’une étape cruciale dans la prévention des abus.

Bénéfice

Les données fournies par les organisations de protection de l’enfance font état d’un nombre inquiétant de contenus pédopornographiques dans l’Union européenne. L’une de ces ONG, Thorn, cofondée par l’acteur américain Ashton Kutcher, dispose de son propre logiciel pour détecter les abus.

Selon Arda Gerkens, ancienne directrice de la plus ancienne ligne d’assistance téléphonique d’Europe pour le signalement des abus sexuels commis sur des enfants, citée dans Balkan Insight, « des groupes comme Thorn font tout ce qu’ils peuvent pour faire avancer cette législation, non seulement parce qu’ils pensent que c’est la voie à suivre pour lutter contre les abus sexuels commis sur des enfants, mais aussi parce qu’ils ont un intérêt commercial à le faire ».

L’article décrit comment Thorn vend ses outils d’intelligence artificielle à des fins lucratives : le département américain de la sécurité intérieure a acheté des licences pour 4,3 millions de dollars depuis 2018. D’autres entreprises, comme Vimeo, Flickr ou OpenAI, les utilisent également.

Emily Slifer, directrice des politiques chez Thorn, a confirmé à Euractiv que « Thorn a effectivement un produit que nous vendons à l’industrie. C’est une très petite partie de ce que nous faisons ». Elle souligne, toutefois, que « revenu ne signifie pas profit ».

« La majeure partie de notre financement provient de donateurs, qu’il s’agisse de particuliers, de fondations, de subventions, etc. »

Mme Slifer a expliqué qu’il avait créé ce produit parce que de telles solutions n’avaient jamais été proposées aux petites et moyennes entreprises. « Nous sommes les seuls à le faire ».

En outre, la raison pour laquelle ils sont intéressés par le règlement de l’UE est qu’ils pourraient aider le futur Centre de l’UE, un centre d’expertise central pour aider à lutter contre le CSAM, ajoute-t-elle.

« Nous n’avons pas d’intérêt commercial. La seule raison pour laquelle Thorn est ici est d’élaborer une bonne réglementation qui étende notre mission de protection des enfants contre les abus sexuels en ligne », a-t-elle déclaré.

La Commission et les ONG

Selon Balkan Insight, Thorn et son cofondateur Ashton Kutcher ont été en contact avec la Commission au sujet de la réglementation, en particulier avec le bureau de Mme Johansson, mais aussi avec d’autres.

Par exemple, la présidente de la Commission, Ursula von der Leyen, et Ashton Kutcher ont participé à une vidéoconférence avec l’Alliance mondiale WeProtect (WeProtect Global Alliance) en 2020, une autre organisation de protection de l’enfance.

Comme l’a écrit Balkan Insight, les échanges de courriels entre Mme Johansson et Julie Cordua, PDG de Thorn, ont révélé « une relation de travail continue et étroite entre les deux parties dans les mois qui ont suivi le lancement de la proposition CSAM, la Commission ayant facilité à plusieurs reprises l’accès de Thorn à des lieux de décision cruciaux auxquels assistaient des ministres et des représentants des États membres de l’UE ».

« Il est évident que nous avons parlé à la Commission, je ne prétendrai pas le contraire, mais nous n’avons pas beaucoup discuté avec elle. Nous n’avons en aucun cas participé à la rédaction de ce règlement », a déclaré Mme Slifer, qui a également confirmé que Mme Johansson avait rencontré Mme Cordua et M. Kutcher.

« Nous sommes entrés dans ce débat vers la fin de la période intérimaire », a déclaré Mme Slifer, en référence au règlement temporaire autorisant la détection volontaire des CSAM, en vigueur jusqu’au 3 août 2024.

« Nous avons toujours offert notre soutien aux régulateurs, non seulement au sein de l’UE, mais dans toutes les juridictions […] parce que nous savons que les entreprises n’expliquent pas toujours […] comment ces produits et systèmes fonctionnent », a-t-elle expliqué. Mme Slifer a ajouté que l’entreprise a toujours respecté les règles et qu’elle figure également dans le registre de transparence.

D’autres liens

Thorn entretient également des relations avec l’Alliance mondiale WeProtect, à laquelle elle a versé 219  000 euros en 2021, selon le Balkan Insight.

Le conseil d’administration de WeProtect comprend également Mme Cordua, confirme Mme Slifer, et Antonio Labrador Jimenez, qui dirige l’équipe de la commission chargée de la lutte contre le CSAM.

Bien que M. Labrador Jimenez ne reçoive aucune compensation pour sa participation au conseil, WeProtect est cofinancé par l’UE. Balkan Insight souligne que sa position au sein du conseil d’administration « soulève des questions sur la manière dont la Commission utilise sa participation à l’organisation pour promouvoir la proposition de M. Johannson ».

WeProtect a déclaré à Euractiv que ses membres « représentaient 102 gouvernements, 67 entreprises du secteur privé, 93 organisations de la société civile et 9 organisations intergouvernementales », et qu’ils « rassemblaient des experts pour décomposer des problèmes complexes et développer des politiques et des solutions pour protéger les enfants des abus sexuels en ligne ».

L’organisation a ajouté qu’elle « n’a pas directement contribué au développement ou au contenu de la législation proposée par la Commission européenne », mais qu’elle « se félicite de son engagement à s’attaquer à ce problème urgent qui affecte des millions d’enfants dans le monde ».

La commission des libertés préoccupée

Juan Fernando López Aguilar, le président de la commission parlementaire européenne LIBE a envoyé une lettre à la commissaire Ylva Johansson, datée du 28 septembre. Dans cette lettre, les coordinateurs de la commission LIBE ont exprimé leurs inquiétudes concernant les rapports.

« Les allégations selon lesquelles les solutions définies dans la proposition législative pour lutter contre le CSAM reproduiraient les solutions conçues par ces groupes, contribuant ainsi à promouvoir leurs intérêts économiques, sont particulièrement préoccupantes », a écrit M. López Aguilar.

Il a demandé à Mme Johansson de fournir « des clarifications et des explications concernant ces allégations ».

Mme Slifer de Thorn a également répondu à la lettre, déclarant dans une réponse datée du 2 octobre et consultée par Euractiv que l’entreprise se concentrait sur la protection des enfants et fournissait des outils pour les petites et moyennes entreprises qui n’avaient généralement pas les capacités nécessaires pour combattre les abus sexuels sur les enfants sur leurs plateformes.

Elle a également proposé de rencontrer M. López Aguilar ou ses collègues « pour répondre à toutes les questions que vous pourriez avoir dans le format que vous déciderez ».

« Une réforme institutionnelle intéressante : Thorn répondant aux lettres au nom de la Commission », a noté la députée Sophie in ‘t Veld sur X.

Les réactions de la Commission

Interrogée sur ces allégations, la porte-parole de la commission pour les Affaires intérieures, Anitta Hipper, a déclaré à Euractiv que « l’accent devrait être mis sur la recherche des solutions les plus efficaces rapidement ».

Alors qu’un autre article de Balkan Insight a rapporté la semaine dernière qu’Europol demandait un « accès illimité aux données » pour détecter le CSAM en 2022, le texte de la proposition a changé depuis.

Mme Hipper a également ajouté que le projet de loi « porte avant tout sur la prévention, la détection ciblée n’étant qu’une mesure de dernier recours. La surveillance n’est pas générale : il y aura un mandat spécifique à un certain service d’une entreprise et limité dans le temps ».

Mme Johansson a publié un message sur X, écrivant que « malgré les tentatives de déformation de notre travail, nous continuerons à faire ce qu’il faut pour nos enfants ».

Elle a également posté une vidéo dans laquelle elle souligne que le projet de loi est sa proposition et que c’est elle qui décide de son contenu, tout en félicitant les survivants de s’être exprimés.

La commission LIBE se prononcera sur la législation le 26 octobre. Les ordres de détection, qui seraient émis pour autoriser la détection de CSAM sur les plateformes, doivent encore faire l’objet de discussions.