Haine en ligne : un rapport préconise davantage de moyens et de transparence

Un rapport de l’Arcom publié lundi (24 juillet) recommande aux plus grandes plateformes numériques de redoubler d’efforts, notamment en ce qui concerne les moyens alloués à la modération et la transparence de leurs méthodes, afin qu’elles atteignent la conformité avec le règlement européen sur la haine en ligne.

À un mois de l’entrée en application du règlement européen (Digital Services Act, DSA), et presque 2 ans après l’adoption de la loi française du 24 août 2021 qui anticipait ce règlement, l’Autorité de régulation de la communication audiovisuelle et numérique française (Arcom) a voulu dresser un bilan « des moyens mis en œuvre par les plateformes pour lutter contre les contenus haineux ».

Le rapport s’est basé sur des observations de l’Arcom sur 13 services numériques au cours de l’année passée et sur un questionnaire envoyé aux entreprises concernées. 11 de ces services devront se conformer au DSA le 25 août : Google Search, YouTube, LinkedIn, Facebook, Instagram, Bing, Pinterest, Snap, TikTok, Twitter et la Fondation Wikimédia. Les services Yahoo et Dailymotion ont également été étudiés, mais ne seront concernés par le DSA qu’en 2024.

L’Arcom constate que les entreprises « prennent progressivement la mesure de leur responsabilité sociale ».

Selon l’Arcom, les plateformes ont pour effet positif d’être des « nouvelles agoras », au centre du débat public, bien que leurs modèles économiques, basés sur la publicité et la captation de l’attention, ont pour effet de comporter des risques pour les utilisateurs.

Pour pallier ces risques systémiques, les entreprises ont chacune mis en place leur propre « régime d’auto-régulation ».

C’est dans ce cadre que le rapport porte sur l’évolution de la « responsabilisation accrue des plateformes ». Les législateurs ont pour objectif de permettre aux utilisateurs d’accéder à ces plateformes en minimisant les risques.

Afin d’assurer une conformité des services numériques au DSA, le rapport recommande d’abord aux plateformes de « satisfaire aux obligations de transparence » avec toutes les parties prenantes concernées par la lutte contre la haine en ligne.

Pour y parvenir, l’institution prône notamment une simplification des dispositifs de signalement ainsi que l’augmentation des moyens à disponibilité des actions de modération.

Simplifier les dispositifs de signalement

D’une part, d’après l’Arcom, les signalements de contenus haineux doivent être rendus plus simples pour les utilisateurs et, d’autre part, il est nécessaire de mieux les guider dans le processus de signalisation.

Les recommandations portent sur l’utilisation de pictogrammes plus simples, de clarification des intitulés de signalement, et de leurs illustrations avec des cas concrets. Le rapport cite notamment Snapchat, dont « l’énumération des motifs de signalement est longue », mais ergonomique, car « classé[e] en sous-ensembles ».

Il est aussi proposé, lors des signalements, de rappeler la loi en vigueur, de joindre des commentaires écrits aux demandes de signalement, ou de signaler tout un compte plutôt qu’un seul contenu.

Enfin, l’Arcom demande aux plateformes du numérique qu’elles permettent « à l’utilisateur d’indiquer s’il souhaite être informé de l’évolution du traitement de son signalement ».

Moyens de mise en œuvre de la modération

L’Arcom considère qu’il faut rendre plus transparents les moyens déployés dans la mise en œuvre des actions de modération, et notamment le nombre de modérateurs employés pour chaque langue.

Elle demande aussi de dimensionner adéquatement les ressources humaines et algorithmiques en termes d’analyses et de décisions en matière de modération.

Ensuite, l’autorité française demande d’indiquer systématiquement dans les rapports de transparence d’où proviennent les signalements : utilisateurs, signaleurs de confiance ou autorités publiques.

Les « signaleurs de confiance », ou « trusted flaggers » dans le DSA, sont des organisations reconnues pour leur expertise dans l’identification de contenus illicites, comme des ONG spécialisées ou des associations de consommateurs par exemple.

Par ailleurs, l’Arcom demande à ce que tout utilisateur puisse contester une décision de modération, tout en mettant en garde contre un taux d’infirmation trop élevé, citant TikTok et Dailymotion qui révoquent réciproquement 40 % et 44 % de leurs décisions de modération initiales.

Autres recommandations

L’Arcom a également mis en avant l’importance pour les plateformes de renforcer la transparence de leurs activités, de tisser des liens avec les signaleurs de confiance et de renforcer la coopération avec les autorités publiques dans le cadre de l’obligation de diligence prévue dans le DSA.

Une partie des recommandations porte également sur les manières de clarifier et rendre plus accessibles les conditions générales d’utilisation.

L’autorité rappelle que seule la coopération des acteurs publics et privés « permettra une réponse pénale efficace c[ontre] les contenus haineux. Le DSA les obligera à répondre avec diligence aux autorités pour agir c[ontre] le contenu, identifier l’auteur, justifier précisément un refus, rendre publiques ces actions ».

[Édité par Davide Basso & Hugo Struna]