Des eurodéputés proposent d'étendre le champ d'application des règles de l'IA au métavers

Les co-rapporteurs du règlement sur l’intelligence artificielle (IA) ont proposé d’étendre le champ d’application du règlement aux environnements métavers qui remplissent certaines conditions. Les derniers amendements portaient également sur la gestion des risques, la gouvernance des données et la documentation des systèmes à haut risque.

Les co-rapporteurs du Parlement européen, Dragoş Tudorache et Brando Benifei, ont fait circuler deux nouveaux lots d’amendements de compromis, consultés par EURACTIV, mercredi (28 septembre), en amont de la discussion technique avec les autres groupes politiques vendredi (30 septembre).

Ces derniers lots introduisent des changements importants dans le champ d’application, l’objet et les obligations du règlement pour les systèmes d’IA à haut risque concernant la gestion des risques, la gouvernance des données et la documentation technique.

Champ d’application

Un nouvel article a été ajouté visant à étendre le champ d’application du règlement aux opérateurs de systèmes d’IA dans des environnements métavers spécifiques qui remplissent plusieurs conditions cumulatives.

Ces critères sont les suivants : le métavers doit comporter un avatar authentifié, être conçu pour une interaction à grande échelle, permettre des interactions sociales similaires à celles du monde réel, permettre des transactions financières dans le monde réel et supposer l’existence de risques pour la santé ou les droits fondamentaux.

Le champ d’application a été étendu des fournisseurs d’IA à tout opérateur économique mettant un système d’IA sur le marché ou en service.

Le texte précise que le règlement n’empêche pas les législations nationales ou les conventions collectives d’introduire des obligations plus strictes destinées à protéger les droits des travailleurs lorsque les employeurs utilisent des systèmes d’IA.

Parallèlement, les systèmes d’IA destinés uniquement à la recherche et au développement scientifiques sont exclus du champ d’application.

La question de savoir si tout système d’IA susceptible d’interagir avec des enfants ou d’avoir un impact sur eux doit être considéré comme à haut risque, comme l’ont demandé certains eurodéputés, a été reportée.

En outre, l’amendement des eurodéputés de centre droit visant à restreindre le champ d’application pour les fournisseurs ou utilisateurs d’IA dans un pays tiers a également été réservé pour des discussions futures car il est lié à la définition, indique la note en marge du document.

Objet du règlement

Les règles prévues par le règlement ne doivent pas être destinées uniquement au positionnement du marché de l’IA, mais aussi à son développement. Les objectifs d’harmonisation des règles pour les systèmes à haut risque et de soutien à l’innovation avec une attention particulière à l’innovation ont également été ajoutés.

L’amendement des eurodéputés de centre gauche, mené par M. Benifei, visant à introduire des principes applicables à tous les systèmes d’IA a été « mis en suspens », selon un commentaire en marge du texte. De même, le débat sur le modèle de gouvernance, d’une agence de l’UE ou d’une version améliorée du Conseil européen de l’intelligence artificielle, a également été mis en suspens.

Exigences pour l’IA à haut risque

Les amendements de compromis stipulent que les systèmes d’IA à haut risque doivent se conformer aux exigences de la loi sur l’IA pendant toute leur durée de vie et tenir compte des normes techniques les plus pointues et pertinentes.

La question de la prise en compte des utilisations et des utilisations abusives prévisibles du système dans le processus de conformité a été mise en suspens également. Celle-ci sera en effet abordée en même temps que le sujet de l’IA à usage général — c’est-à-dire des modèles de grande ampleur pouvant être adaptés à une variété de tâches.

Pour ce qui est du système de gestion des risques, l’eurodéputé a précisé qu’il pourrait être intégré aux procédures existantes mises en place dans le cadre de la législation sectorielle, comme c’est le cas dans le secteur financier, par exemple.

La gestion des risques

Le système de gestion des risques devra être mis à jour à chaque fois qu’un changement notable interviendra dans l’IA à haut risque « afin de garantir son efficacité continue. »

La liste des éléments que la gestion des risques devrait prendre en compte a été étendue aux domaines de la santé, des droits juridiques et fondamentaux, de l’impact sur des groupes spécifiques, de l’environnement et de la diffusion de la désinformation.

Si, après l’évaluation des risques, les fournisseurs d’IA considèrent qu’il existe encore des risques résiduels pertinents, ils doivent fournir à l’utilisateur un avis motivé sur les raisons pour lesquelles ces risques peuvent être considérés comme acceptables.

Gouvernance des données

Les amendements de compromis prévoient que, pour l’IA à haut risque, les techniques telles que l’apprentissage sans supervision et l’apprentissage par renforcement qui n’utilisent pas d’ensembles de données de validation et de test doivent être élaborées sur la base d’ensembles de données de formation répondant à un ensemble de critères spécifiques.

L’intention est ici d’empêcher le développement de biais, et elle est renforcée par l’obligation de prendre en compte les boucles de rétroaction potentielles.

En outre, le texte indique que les ensembles de données de validation, de test et de formation doivent tous être distincts, et que la légalité des sources de données doit être vérifiée.

Documentation technique

Des formulations ont été introduites pour donner plus de latitude aux PME pour se conformer à l’obligation de conserver une documentation technique sur les systèmes à haut risque, après approbation des autorités nationales.

La liste des informations techniques a été considérablement élargie afin d’inclure des informations telles que l’interface utilisateur, le fonctionnement du système d’IA, les entrées et sorties attendues, les mesures de cybersécurité et l’empreinte carbone.