Loi sur l’IA : les eurodéputés cherchent à finaliser les dispostions relatives à la classification à haut risque

Les eurodéputés en charge des travaux relatifs au règlement sur l’intelligence artificielle (AI Act) ont fait circuler de nouveaux amendements de compromis visant à finaliser les dispositions relatives à la classification des systèmes d’intelligence artificielle (IA) qui présentent des risques importants ainsi que les mesures destinées à promouvoir l’innovation.

Le règlement sur l’IA est une législation européenne visant à réglementer l’intelligence artificielle en fonction de son potentiel de nuisance.

Les nouveaux compromis, consultées par EURACTIV, étaient au cœur d’une réunion technique jeudi (26 janvier).

Classification à haut risque

Les dispositions classant un système comme présentant un haut potentiel de nuisance ont été considérablement modifiées. Une des façons pour qu’une IA relève de la catégorie à haut risque est qu’elle soit utilisée dans l’un des secteurs répertoriés à l’annexe III, tels que la santé ou l’emploi.

La catégorisation des systèmes appartenant à cette liste de cas d’utilisation ne sera toutefois pas automatique, dans la mesure où ils devront « présenter un risque de préjudice pour la santé, la sécurité ou les droits fondamentaux des personnes physiques d’une manière qui produise des effets juridiques les concernant ou qui ait un effet équivalent significatif ».

Les fournisseurs d’IA pourraient alors recourir à un bac à sable règlementaire — un environnement contrôlé permettant aux acteurs de tester leur technologie ou service — afin de déterminer si leur système entre dans la catégorie à haut risque. Si ce n’est pas le cas, alors ils devraient soumettre une demande motivée à l’autorité nationale compétente afin d’être exemptés des obligations.

S’il est prévu que le système soit utilisé dans plus d’un État membre, la demande serait adressée au Bureau de l’IA, un organe de l’UE dont les eurodéputés ont discuté afin de rationaliser l’application au niveau européen.

Par ailleurs, dans le compromis précédent, les co-rapporteurs ont proposé d’exclure l’IA à usage général, c’est-à-dire les modèles de langage pouvant être adaptés à différentes tâche tels que ChatGPT. Cette exclusion visait à traiter ce type particulier de système à un stade ultérieur, et a été maintenue dans le nouveau texte.

Cette partie du texte n’ayant pas pu être abordée jeudi, elle sera à nouveau discutée lors d’une réunion technique lundi prochain (30 janvier).

Obligations pour les systèmes à haut risque

Le nouveau texte de compromis porte également sur les obligations incombant aux développeurs de systèmes d’IA considérés à haut risque.

Dans le cadre des systèmes de gestion des risques, la démocratie et l’État de droit ont été inclus parmi les éléments que les fournisseurs de systèmes à haut risque devraient prendre en considération lors de l’évaluation raisonnable des risques prévisibles — et non plus la référence plus vague aux « valeurs de l’UE ».

Les eurodéputés souhaitent que, lors de l’essai des systèmes d’IA à haut risque, les développeurs d’IA prennent en compte non seulement l’utilisation mais aussi les utilisations abusives raisonnablement prévisibles ainsi que les éventuelles répercussions négatives sur les groupes vulnérables tels que les enfants.

En ce qui concerne les corpus de données qui alimentent les algorithmes, les développeurs d’IA seront tenus — tout au long du cycle de vie du système — de mettre en place des mesures de gouvernance des données et de gestion des risques en rapport avec les pratiques de collecte des données, et notamment de vérifier la légalité de la source des données.

En outre, les développeurs d’IA devront examiner si les ensembles de données peuvent conduire à des biais susceptibles d’avoir un impact sur la santé, la sécurité ou les droits fondamentaux d’une personne, conduisant par exemple à une discrimination illégale. Le contexte et la finalité du système doivent également être pris en compte.

Les articles et leur annexe respective relatifs à la documentation technique et à la tenue de registres pour les systèmes à haut risque n’ont pas été modifiés de manière significative depuis le compromis précédent et ont été largement approuvés lors de la réunion technique de jeudi.

Mesures en faveur de l’innovation

En ce qui concerne les mesures de soutien à l’innovation, l’obligation pour chaque pays de l’UE de mettre en place au moins un bac à sable réglementaire a été maintenue dans le nouveau compromis.

Toutefois, les eurodéputés s’apprêtent désormais à inclure la possibilité pour les États membres d’établir de tels bacs à sable conjointement avec d’autres pays.

Les objectifs de ces bacs à sable ont également été reformulés afin de mettre l’accent sur les moyens de guider les développeurs et les fournisseurs d’IA quant à la manière de se conformerau règlement sur l’IA et de faciliter le test et le développement de solutions innovantes et d’adaptations potentielles à cette réglementation.

L’autorité publique établissant le bac à sable devra remettre au Bureau de l’IA et à la Commission européenne un rapport annuel qui sera publié avec toutes les informations pertinentes sur un site web dont la gestion sera assurée par l’exécutif européen.

Les eurodéputés souhaitent également charger la Commission d’adopter un acte délégué définissant les modalités de création et de supervision des bacs à sables réglementaires dans un délai d’un an à compter de l’entrée en vigueur du règlement.

Les critères d’accès aux bacs à sable devraient être transparents et compétitifs, et les autorités devraient permettre la participation des petites et moyennes entreprises (PME) et d’autres acteurs innovants. L’idée de rendre obligatoire le fonctionnement des bacs à sable règlementaires dans une annexe détaillée a été abandonnée.

La partie relative aux bacs à sable réglementaires ne suscite généralement pas de controverse, à l’exception du traitement ultérieur des données à caractère personnel et des données couvertes par des droits de propriété intellectuelle pour le développement de systèmes d’IA dans l’intérêt public.

Ce traitement ultérieur permettrait, par exemple, de développer l’IA afin de détecter des maladies ou de s’adapter au changement climatique. De même, un nouvel article a été introduit pour promouvoir la recherche sur l’IA en faveur de résultats bénéfiques pour la société et l’environnement.

[Édité par Anne-Sophie Gayet]