Haine en ligne : les défis des audits de conformité des plateformes

En vertu du nouveau règlement de l’UE sur les services numériques, les plateformes doivent permettre à des équipes externes d’auditer leurs algorithmes. Cette tâche sans précédent soulève toutefois de nombreuses questions.

Le règlement sur les services numériques (Digital Services Act, DSA) introduira un régime spécifique pour les très grandes plateformes en ligne à partir du mois d’août. Ces plateformes devront analyser les risques sociétaux qu’elles engendrent, comme la diffusion de fausses informations ou la haine en ligne, et proposer des mesures d’atténuation des risques.

Ces mesures d’analyse et d’atténuation des risques feront l’objet d’audits indépendants qui évalueront la conformité des algorithmes au DSA. Le processus d’audit sera donc déterminant pour la manière dont les plateformes interpréteront les nouvelles règles de l’UE et s’y adapteront.

La Commission européenne a publié un projet d’acte délégué visant à définir la méthodologie de ces audits indépendants. Mais les réactions des cabinets d’audit, des entreprises technologiques et de la société civile mettent en évidence plusieurs points critiques sur ce terrain encore inexploré.

Auditeurs

Les cabinets d’audit ont constamment souligné l’absence de normes industrielles permettant de vérifier des algorithmes et ont demandé à la Commission des orientations supplémentaires sur le « niveau raisonnable d’assurance » pour se conformer aux différentes obligations du DSA.

« Le cadre scientifique n’est pas en place. Nous n’avons pas les réponses à ce que cette loi vise à atteindre. Comment définir un risque systémique ? Comment le mesurer ? » a indiqué à EURACTIV Adriana Iamnitchi, professeur de sciences sociales informatiques à l’université de Maastricht.

PwC, un cabinet de conseil de renommée mondiale, a écrit dans sa réponse que « faire de l’auditeur le juge de ce qui constitue la conformité constituera probablement des résultats variés et créera potentiellement des désaccords entre les parties prenantes quant à savoir qui a placé la barre au bon niveau et si les différentes entités sont traitées de manière équitable ».

Les commentaires de PwC recoupent ceux de Deloitte et d’EY, de grands cabinets d’audit prêts à se lancer sur ce nouveau marché. Les audits d’algorithmes étant relativement nouveaux et techniquement complexes, seule une poignée d’entreprises possède l’expertise nécessaire à cette tâche ou les moyens d’acquérir les talents requis.

Plateformes

Les risques d’incohérence et d’incomparabilité sont prévisibles, étant donné les différents types de plateformes qui feront l’objet des audits, allant des réseaux sociaux aux moteurs de recherche.

Les entreprises technologiques considèrent que l’acte délégué de la Commission européenne est trop normatif, qu’il ne tient pas compte de la diversité des cas d’utilisation et qu’il n’oblige pas les auditeurs à faire preuve de proportionnalité dans leurs évaluations.

« L’inconvénient d’imposer une norme [trop] prescriptive est qu’elle limite le choix des auditeurs et les incite à suivre strictement la lettre de la loi, plutôt que son esprit », peut-on lire dans la soumission de Wikimédia.

Les auditeurs et les plateformes semblent s’accorder sur le fait qu’une certaine flexibilité devrait être envisagée pour la première année, compte tenu de la complexité du DSA et de la nouveauté de ce cadre.

Cependant, un argument plus fondamental des acteurs du numérique est que l’industrie de l’audit pourrait ne pas disposer de l’expertise nécessaire pour évaluer le fonctionnement interne des plateformes.

« Cela montre le paradoxe dans lequel nous nous trouvons. Un grand nombre d’entreprises opaques, axées sur les données, ont conduit à des complexités hors de portée même des personnes dont le travail est de les étudier, à savoir les académiques », a expliqué à EURACTIV Catalina Goanta, professeure associée de droit et de technologie à l’université d’Utrecht.

La société civile

Au cœur des réactions des représentants de la société civile se trouve la question suivante : qui contrôlera les auditeurs ?

Dans une réponse commune, les ONG Algorithm Watch et AI Forensic ont souligné que les sociétés d’audit pourraient être incitées à être indulgentes dans leurs évaluations afin d’attirer et de conserver des contrats.

Ce risque d’« audit-washing » s’aggrave dans un contexte dépourvu de normes objectives. Entre-temps, les entreprises auditées auront toute latitude pour exclure certaines informations des rapports en les qualifiant de confidentielles, ce qui empêchera leur publication.

Pour les membres de la société civile, le meilleur moyen de contrôler les auditeurs et les plateformes est de permettre aux chercheurs agréés d’accéder à la version complète des rapports d’audit. Dans le cadre du DSA, les chercheurs agréés sont autorisés à demander des données aux plateformes, mais leur rôle dans le mécanisme d’audit est encore flou sur le plan procédural.

Plus généralement, la société civile semble sceptique quant à savoir si les grandes sociétés d’audit sont bien placées pour évaluer les risques systémiques, tels que ce que les médias sociaux pourraient impliquer pour les processus démocratiques. D’autres acteurs tentent déjà de combler ce vide.

L’un d’entre eux est Algorithm Audit, une ONG dont la raison sociale est d’évaluer de manière éthique les critères des audits algorithmiques, tout en indiquant les avantages et les inconvénients pour chaque circonstance spécifique. Sa méthodologie est appelée « algoprudence », un néologisme constitué à partir d’algorithme et de jurisprudence.

« Il y aura un processus d’apprentissage collectif qui prendra trois à cinq ans », a expliqué Jurriaan Parie, cofondateur d’Algorithm Audit, ajoutant que beaucoup dépendra de la manière dont la Commission et son nouveau centre sur la transparence algorithmique travailleront en bonne intelligence avec les auditeurs pour établir de bonnes pratiques sectorielles.

« Il s’agit d’un processus. Ce ne sera pas parfait au départ, mais il faut bien commencer quelque part. La question est de savoir qui y prêtera attention », a conclu la professeure Adriana Iamnitchi.

[Édité par Anne-Sophie Gayet]