L'EU Kids Act vise les chatbots IA trop amicaux

La présidente de la Commission, Ursula von der Leyen, et la commissaire chargée des technologies, Henna Virkkunen, ont officiellement présenté jeudi l’EU Kids Act, proposant des règles à l’échelle de l’Union européenne pour limiter l’accès des mineurs aux services en ligne.

La loi vise un large éventail de plateformes – des réseaux sociaux aux chatbots basés sur l’IA, en passant par les jeux et les boutiques d’applications –, comme l’a rapporté précédemment Euractiv.

Dans le cadre de cette approche, Virkkunen a déclaré que les chatbots et assistants basés sur l’IA ne pourraient plus jouer le rôle d’« amis humains » auprès des utilisateurs mineurs, ce qui permettrait de réduire le risque que les enfants développent une dépendance affective à l’égard de l’IA.

« Des limites claires »

Les plateformes des géants de la tech n’ont pas été conçues en tenant compte du « bien-être et du développement des enfants », a déclaré von der Leyen, estimant que des « limites claires » sont nécessaires pour protéger les enfants face à la logique commerciale des géants de la tech, qui cherchent à capter leur attention.

La Commission adopte une approche différenciée pour appliquer des restrictions à l’utilisation des technologies par les adolescents, tenant compte du fait que chaque tranche d’âge a ses propres sensibilités et besoins en matière de protection, a-t-elle précisé. 

Le projet final de loi fixe à 15 ans l’âge minimum à partir duquel les enfants peuvent créer eux-mêmes des comptes sur les services concernés.

Toutefois, à partir de 13 ans, et avec l’autorisation parentale, les enfants seraient autorisés à disposer de « mini-comptes ». Ces comptes restreints, qui doivent être créés par un parent ou un tuteur, limiteraient les fonctionnalités sociales et restreindraient l’utilisation à une heure par jour au maximum.

« Les parents ne peuvent pas rivaliser avec les algorithmes ni suivre leur rythme, et ils ne devraient pas avoir à le faire », a fait valoir von der Leyen, tout en soulignant la nécessité de mieux communiquer sur les risques et les avantages du monde numérique auprès des parents et des enseignants.

Sécurité par conception

Répondant aux inquiétudes selon lesquelles la volonté de l’UE d’imposer des contrôles d’âge en ligne risquerait d’affaiblir les normes de sécurité des contenus, von der Leyen a déclaré : « Une limite d’âge ne signifie pas que les entreprises technologiques sont déchargées de leur responsabilité quant au contenu de leur plateforme. » 

Elle a souligné que les plateformes doivent prouver que leurs services sont conçus pour garantir la sécurité des mineurs de moins de 18 ans.

Parmi les autres exigences en matière de sécurité par conception applicables aux comptes de mineurs figurent notamment l’interdiction des fonctionnalités addictives ou l’utilisation de systèmes de recommandation de contenus basés sur le profilage. 

La loi rendra obligatoire la vérification de l’âge sur de nombreuses plateformes. Les réseaux sociaux et les plateformes de partage de vidéos devront vérifier l’âge des nouveaux comptes et estimer celui des utilisateurs existants, selon le communiqué de presse.

Ursula von der Leyen a déclaré que les plateformes pourraient s’appuyer sur des outils certifiés par l’UE et respectueux de la vie privée, tels que l’application de vérification de l’âge de la Commission, basée sur la « preuve à divulgation nulle de connaissance », qui ne communique au service qu’une « seule information » : si un utilisateur est en âge d’accéder au service ou non.

Un haut responsable de l’UE a également indiqué que d’autres services concernés – tels que les assistants basés sur l’IA, les chatbots et les jeux en ligne – seront tenus d’utiliser des méthodes d’assurance d’âge.

La loi établira la distinction entre la vérification et la validation de l’âge, a précisé ce même responsable : la première exigeant un âge précis, tandis que la seconde déduit l’âge à partir de techniques telles que l’analyse comportementale ou les informations relatives de carte bancaire.

(nl)

MISE À JOUR : des informations supplémentaires sur les contrôles d’âge ont été ajoutées à la suite de la réunion d’information technique de l’UE qui s’est tenue après la conférence de presse