Loi sur l’IA : les co-rapporteurs cherchent à résoudre les dernières questions en suspens

Les co-rapporteurs du Parlement européen ont proposé des amendements de compromis à la liste des applications d’intelligence artificielle (IA) à haut risque, aux utilisations interdites et aux définitions des concepts.

Les députés européens Brando Benifei et Dragoș Tudorache s’efforcent de clore les négociations sur le règlement relatif à l’intelligence artificielle (AI Act). Ce règlement constitue la première tentative au monde de règlementer l’IA en fonction de son potentiel de risque.

Parmi les questions en suspens que les deux députés tentent de boucler figurent la liste des utilisations de l’IA présentant des risques importants, les pratiques interdites et les définitions des concepts clés utilisés dans le projet de loi, selon des documents obtenus par EURACTIV.

Domaines à haut risque

L’annexe III du règlement sur l’IA dresse la liste des domaines critiques avec des cas d’utilisation spécifiques.

Dans une version de compromis de l’annexe III diffusée lundi (6 février), les co-rapporteurs ont étendu la notion d’identification et de catégorisation biométriques aux systèmes biométriques tels que Lensa, une application capable de générer des avatars à partir du visage d’une personne.

Étant donné que les co-rapporteurs souhaitent que l’identification biométrique en temps réel dans les espaces accessibles au public soit totalement interdite, le cas d’utilisation à haut risque a été limité à l’identification a posteriori. En ce qui concerne les espaces accessibles au public, l’identification en temps réel et l’identification a posteriori ont été ajoutées à la liste.

En outre, les cas d’utilisation incluent la catégorisation biométrique à distance dans les espaces publics et les systèmes de reconnaissance des émotions.

En ce qui concerne les infrastructures critiques, tout élément de sécurité relatif au trafic routier et ferroviaire a été inclus.

Toutefois, les systèmes destinés à assurer la sécurité de l’approvisionnement en eau, en gaz, en chauffage, en énergie et en électricité n’entrent dans cette catégorie que si la défaillance du système présente une forte probabilité d’entraîner une menace imminente pour cet approvisionnement.

Dans le domaine de l’éducation, la formulation a été modifiée pour inclure les systèmes qui attribuent des tâches d’apprentissage personnalisées en fonction des données personnelles des élèves.

Dans le domaine de l’emploi, la catégorie à haut risque a été élargie pour inclure les algorithmes qui prennent ou aident à prendre des décisions liées à la mise en place, l’établissement, la mise en œuvre ou la fin d’une relation de travail. Cela concerne notamment la répartition des tâches personnalisées ou le contrôle du respect des règles sur le lieu de travail.

Pour ce qui est de l’accès aux services publics, le texte précise désormais le type d’aide publique auquel la disposition fait référence. Il s’agit du logement, de l’électricité, du chauffage, de la climatisation et de l’Internet. L’exemption pour les systèmes conçus par de petits fournisseurs et destinés à évaluer la solvabilité des personnes a été supprimée.

Les modèles d’IA destinés à évaluer l’éligibilité à l’assurance maladie et à l’assurance vie et ceux destinés à classer les appels d’urgence, par exemple pour les services répressifs ou le tri des patients en soins de santé d’urgence, sont également couverts.

Un nouveau domaine de risque a été ajouté pour les systèmes destinés à être utilisés par des groupes vulnérables. C’est notamment le cas des systèmes d’IA susceptibles d’affecter gravement le développement personnel d’un enfant. Cette formulation approximative pourrait avoir pour effet de couvrir les systèmes de recommandation des réseaux sociaux.

Les eurodéputés ont élargi la formulation dans la gestion des services répressifs, de la migration et du contrôle des frontières afin d’éviter que la classification à haut risque ne puisse être contournée par un contractant.

En outre, toute application d’IA susceptible d’influencer le vote des citoyens dans le cadre de scrutins locaux, nationaux ou européens est considérée comme à risque, de même que tout système contribuant aux processus démocratiques tels que le décompte des voix.

Une catégorie résiduelle a été introduite pour couvrir les systèmes d’IA générative tels que ChatGPT et Stable Diffusion. Tout texte généré par l’IA qui pourrait être confondu avec un texte généré par l’homme est considéré comme un risque, à moins qu’il ne soit soumis à un examen humain et qu’une personne ou une organisation en soit légalement responsable.

Les deep fakes générés par l’IA, c’est-à-dire les contenus audiovisuels représentant une personne faisant ou disant quelque chose qui n’a jamais eu lieu, relèvent de la catégorie à haut risque — à moins qu’il ne s’agisse d’une œuvre artistique.

Les techniques subliminales générées par l’IA à des fins thérapeutiques et de recherche scientifique sont également considérées comme à haut risque.

Pratiques interdites

Une autre partie importante des règles en matière d’IA concerne le type d’applications qui sont totalement interdites.

Selon un autre compromis consulté par EURACTIV, les modèles d’IA ayant recours à des techniques subliminales affectant une personne de manière inconsciente doivent être interdits, sauf si leur utilisation est approuvée à des fins thérapeutiques et avec le consentement explicite des personnes qui y sont exposées.

Sont également interdites les applications d’IA délibérément manipulatrices ou conçues pour exploiter la vulnérabilité d’une personne, par exemple sa santé mentale ou sa situation économique, afin de modifier matériellement son comportement d’une manière susceptible de lui causer un préjudice physique ou psychologique important.

Les co-rapporteurs proposent également d’étendre l’interdiction de la notation sociale non seulement des individus mais aussi des groupes d’individus. Celle-ci est en effet susceptible de se fonder sur des caractéristiques personnelles déduites qui pourraient conduire à un traitement préférentiel.

L’interdiction des méthodes de police prédictives alimentées par l’IA a par ailleurs été maintenue.

Définitions

La définition de l’IA est un sujet sensible car elle détermine tout le champ d’application du règlement. Cette partie a été « mise en suspens » pour le moment, selon un commentaire en marge d’un troisième document.

Le concept de risque a été défini comme étant « la combinaison de la probabilité d’occurrence d’un danger causant un dommage et du degré de gravité de ce dommage ».

D’autres définitions ont été ajoutées concernant les données, le profilage, les deep fakes, l’identification et la catégorisation biométriques, les techniques subliminales et les données sensibles. Ces définitions apportent plus de clarté à ces concepts et les alignent sur le règlement général sur la protection des données (RGPD) de l’UE.

[Édité par Anne-Sophie Gayet]