Législation sur l’IA : le Parlement européen s’apprête à voter en commission à la fin du mois d’avril

Le 26 avril, les eurodéputés des commissions cheffes de file du Parlement européen voteront l’accord politique relatif à la législation sur l’intelligence artificielle (IA). De nombreuses questions ont été réglées, mais quelques points critiques restent en suspens.

La législation sur l’IA constitue une proposition historique de l’UE visant à réglementer l’intelligence artificielle en fonction de sa probabilité de porter préjudice. Le Parlement européen devrait finaliser sa position sur le dossier d’ici le mois de mai afin d’entamer rapidement les négociations avec le Conseil de l’UE et la Commission dans le cadre de ce que l’on appelle les trilogues.

Les discussions entourant la législation sur l’IA ont pris plus de temps que prévu en raison de querelles politiques au sein du Parlement, qui ont abouti à une direction conjointe de la commission du Marché intérieur et de la protection des consommateurs (IMCO) et de la commission des Libertés civiles, de la justice et des affaires intérieures (LIBE).

Enfin, un compromis « d’ensemble » sur la proposition globale prend forme, même si plusieurs points importants doivent encore être réglés.

« Il s’agit d’un équilibre délicat », a indiqué un responsable du Parlement européen à EURACTIV.

Cet équilibre pourrait être remis en question lors du vote en plénière en mai, lorsque des amendements alternatifs pourraient être déposés. Cependant, certains obstacles critiques doivent être résolus avant d’en arriver là.

L’IA à usage général

Des développements technologiques tels que la montée en puissance de ChatGPT ont joué un rôle dans la perturbation des discussions relatives à la législation sur l’IA, les députés européens se pressant de décider des modalités de traitement d’une technologie qui évolue à une vitesse fulgurante et qui n’est pas couverte par la proposition initiale.

C’est peut-être la question politique la plus importante qui reste en suspens. Un compromis potentiel discuté la semaine dernière consistait à imposer des exigences plus strictes aux systèmes d’IA à usage général tels que ChatGPT, notamment des obligations strictes en matière de gestion des risques et de la qualité ainsi que des audits externes.

Cependant, le centre droit fait pression pour que ces exigences soient mieux adaptées à la spécificité de cette technologie. Par ailleurs, ce que certains appellent la « véritable » IA à usage général, qui peut être adaptée à des fins multiples, se dirige vers un régime un peu plus léger.

Ceux qui apportent des modifications substantielles aux systèmes seraient tenus de se conformer aux règles en matière d’IA. Toutefois, les fournisseurs d’IA à usage général devraient soutenir cet effort de conformité en apportant des informations non sensibles sur le plan commercial.

Définition de l’IA

La définition de l’intelligence artificielle a représenté un enjeu politique majeur, car elle détermine le champ d’application de la législation. Dans une concession importante accordée au Parti populaire européen (PPE) de centre-droit, la définition a été alignée sur celle de l’OCDE.

Pratiques interdites

La législation sur l’IA interdit certaines applications technologiques considérées comme présentant un risque inacceptable, telles que les techniques subliminales qui exploitent la vulnérabilité d’une personne, bien qu’une exception à des fins thérapeutiques ait été introduite dans ce cas.

La question du traitement des systèmes de reconnaissance biométrique a constitué un sujet brûlant. Les députés européens progressistes ont fait pression pour une interdiction totale, tandis que les eurodéputés conservateurs voulaient garder cette technologie disponible pour des circonstances exceptionnelles telles que les attentats terroristes et les enlèvements.

Un terrain d’entente a été trouvé : l’utilisation de logiciels de reconnaissance faciale en temps réel est interdite, mais elle reste autorisée a posteriori en tant qu’application à haut risque. Toutefois, cet accord sera probablement mis à l’épreuve lors de la session plénière.

À la demande des députés de gauche, la liste des pratiques interdites a été considérablement élargie afin de comprendre la catégorisation biométrique, la police prédictive et les bases de données de reconnaissance faciale fondées sur un scaping systématique, tel qu’opéré par l’entreprise controversée Clearview AI.

Il reste à savoir si la reconnaissance des émotions devrait également être interdite moyennant une exception médicale, un point que le centre gauche espère obtenir dans le cadre du compromis d’ensemble.

L’interdiction de la notation sociale a été étendue aux entreprises privées.

Catégories à haut risque

Les applications d’IA présentant un risque important de préjudice doivent se conformer à un régime strict. Dans la proposition initiale, tous les modèles d’IA relevant de domaines d’application spécifiques tels que l’application de la loi étaient automatiquement classés comme étant à haut risque.

Cette règle automatique a été supprimée et seuls les modèles d’IA présentant un risque pour la santé, la sécurité et les droits fondamentaux des personnes ont été ajoutés à la liste. Cette disposition est fortement contestée par des groupes tels que les Verts et la Gauche, pour lesquels des garanties supplémentaires ont été ajoutées.

Par ailleurs, les eurodéputés progressistes ont obtenu une liste plus large d’applications à haut risque. Elle a été élargie à la catégorisation et à l’identification biométriques, à l’hypertrucage et aux textes générés par l’IA, hormis dans les cas où il y a une responsabilité éditoriale.

Les cas d’utilisation dans le domaine de l’emploi, de l’éducation, du contrôle des migrations et des infrastructures critiques ont été élargis.

Obligations à haut risque

D’importantes modifications des obligations pour les fournisseurs à haut risque ont été approuvées lors d’une réunion politique mercredi (29 mars). Il s’agit notamment d’exigences en matière de gestion des risques et d’obligations d’information, de transparence sur l’objectif initial des ensembles de données d’entraînement, de tenue de registres plus stricte et de transparence sur la consommation d’énergie du modèle.

Tous les utilisateurs de systèmes à haut risque devront réaliser une analyse d’impact afin de tenir compte des conséquences potentielles sur les droits fondamentaux de la personne concernée.

En outre, les autorités publiques et les entreprises technologiques classées comme contrôleurs d’accès en vertu du règlement sur les marchés numériques qui utilisent l’IA à haut risque devront s’enregistrer dans une base de données publique européenne comme tout autre utilisateur désireux de s’enregistrer volontairement.

Mise en œuvre et gouvernance

Le chapitre sur l’application de la législation et la gouvernance est encore ouvert. Il convient de savoir si le Bureau européen de l’intelligence artificielle, un nouvel organe de l’UE, aura un rôle purement de coordination ou s’il disposera de pouvoirs d’exécution dans les cas transfrontaliers, pour lesquels on ne sait pas exactement d’où proviendront les ressources.