Loi sur l’IA : l’IA à usage général exclue des catégories à haut risque

Les co-rapporteurs du Parlement européen ont fait circuler une nouvelle série d’amendements de compromis au règlement sur l’intelligence artificielle (AI Act) concernant la classification des systèmes d’intelligence artificielle (IA) à haut risque, laissant l’IA à usage général pour les discussions futures.

Le règlement proposé a pour objectif d’encadrer l’IA en fonction de son potentiel de nuisance. Par conséquent, un élément essentiel du règlement sur l’IA consiste à déterminer quels cas d’utilisation de l’IA doivent être considérés comme à haut risque, ceux-ci devant se conformer à des obligations plus strictes.

Les eurodéputés en charge du dossier, Brando Benifei et Dragoș Tudorache, ont fait circuler la dixième série d’amendements de compromis proposant une refonte importante de cette partie du règlement sur l’IA. Le document, daté du 8 décembre et consulté par EURACTIV, devrait être discuté au niveau politique mercredi (14 décembre).

Classification à haut risque

La classification à haut risque est basée sur deux possibilités. La première est que le système d’IA est ou fait partie du composant de sécurité des produits couverts par la législation d’harmonisation de l’UE, tels que les machines et les jouets.

Dans ce cas, le texte précise qu’un système d’IA doit être considéré à haut risque si sa défaillance ou son dysfonctionnement peut mettre en danger la santé, la sécurité ou les droits fondamentaux des individus.

Deuxièmement, les applications d’IA seraient considérées à haut risque si elles relèvent des domaines et des cas d’utilisation répertoriés à l’annexe III.

À cet égard, les co-rapporteurs ont ajouté une exigence supplémentaire selon laquelle cette liste à haut risque ne fait référence qu’aux systèmes ayant un but précis. Cette formulation a pour objectif d’exclure l’IA à usage général de la classification.

« En attendant les discussions, l’IA à usage général sera traitée séparément », peut-on lire dans une note en marge du texte.

Par ailleurs, si un système est employé dans les domaines énumérés à l’annexe III, il ne sera plus automatiquement considéré comme étant à haut risque, les eurodéputés ayant ajouté deux scénarios possibles.

Le système relèvera notamment de la catégorie la plus stricte s’il reçoit en entrée des données personnelles ou biométriques ou s’il est destiné à prendre ou à faciliter la prise de décisions touchant à la santé, à la sécurité ou aux droits fondamentaux des personnes.

Le premier critère est particulièrement large, la plupart des systèmes d’IA étant entraînés avec des ensembles de données mêlant données personnelles et non personnelles. La formulation pourrait être considérée comme un moyen de modifier cette tendance en décourageant l’utilisation de données personnelles comme données d’entrée de l’IA.

Pouvoirs de révision

Les amendements de compromis habilitent la Commission européenne à modifier la liste de l’annexe III en ajoutant ou en supprimant des domaines à haut risque ou des cas d’utilisation spécifiques. La condition pour cela est que le système d’IA « présente un risque sérieux d’atteinte à la santé et à la sécurité, d’incidence négative sur les droits fondamentaux, sur l’environnement ou sur la démocratie et l’État de droit ».

Dans le texte original, l’exécutif européen ne pouvait qu’ajouter des cas d’utilisation dans les domaines à haut risque existants, et non les modifier ou les supprimer.

Les conditions d’évaluation de ces nouveaux risques ont été considérablement remaniées pour inclure également les fonctionnalités du système qui sortent du cadre de son objectif initial, le potentiel d’utilisation abusive, la nature et la quantité de données traitées. Le niveau d’autonomie du système, les risques de discrimination, les mesures d’atténuation disponibles, les avantages potentiels du système et l’efficacité de la surveillance humaine ont également été intégrés.

Au cours de cette évaluation, la Commission devrait consulter le Bureau de l’IA (AI Office), qui selon la version du texte du Parlement jouerait un rôle de centralisation dans l’architecture de gouvernance. L’exécutif européen devrait également consulter les partenaires sociaux des groupes susceptibles d’être affectés par le système.

Le Bureau de l’IA et les autorités nationales pourraient contester la catégorisation de la Commission, et celle-ci devrait ensuite réévaluer sa décision et publier son raisonnement. La procédure à suivre pour ces cas doit être détaillée dans un acte délégué.

« Dans un souci de clarté et de compatibilité entre les différents amendements, [les rapporteurs] proposent un texte de compromis qui tient compte des intentions politiques à l’origine des différentes propositions de réorganisation du texte, tout en s’en tenant autant que possible au texte original afin de faciliter les négociations internes et les trilogues », peut-on lire dans une note du compromis.

Les considérants qui l’accompagnent, destinés à clarifier les dispositions des articles respectifs, n’ont quant à eux pas été modifiés.

[Édité par Anne-Sophie Gayet]