Le règlement de l’UE sur l’IA entre dans la phase finale du processus législatif

Le Parlement européen a adopté sa position sur le règlement relatif à l’intelligence artificielle (AI Act) à une écrasante majorité ce mercredi (14 juin), ouvrant ainsi la voie aux négociations interinstitutionnelles destinées à finaliser la première législation au monde sur l’intelligence artificielle.

La législation sur l’IA est une initiative phare visant à règlementer cette technologie de rupture en fonction de sa capacité à causer des dommages. Elle suit une approche basée sur le risque, interdisant les applications d’IA qui posent un risque inacceptable et imposant un régime strict pour les cas d’utilisation à haut risque.

« Est-ce le bon moment pour règlementer l’IA ? Ma réponse est résolument oui. C’est le bon moment en raison de l’impact profond de l’IA », a déclaré Dragoș Tudorache, l’un des corapporteurs du Parlement européen sur la règlementation de l’IA, à ses pairs avant le vote.

Pratiques interdites

Les tentatives de dernière minute pour modifier le texte adopté en commission parlementaire ont porté sur la définition des types d’applications de l’IA qui devraient être interdites.

Le principal point de désaccord concernait l’identification biométrique à distance. Les législateurs libéraux et progressistes ont cherché à interdire l’utilisation en temps réel de cette technologie, mais à l’autoriser pour les enquêtes a posteriori sur les crimes graves.

En revanche, le Parti populaire européen (PPE) de centre droit a tenté d’introduire des dérogations à l’interdiction de l’utilisation en temps réel dans des circonstances exceptionnelles telles que les attaques terroristes ou pour la recherche de personnes disparues. Cette tentative de dernière minute a mis en colère les autres groupes politiques, mais n’a finalement pas abouti.

Cependant, un fonctionnaire parlementaire a confié à EURACTIV que le but des amendements en plénière n’est pas toujours de modifier le texte, mais d’envoyer un message politique. Dans ce cas, montrer que le Parlement européen n’est pas unanime sur cette question sensible vise à affaiblir les positions de négociation des eurodéputés vis-à-vis du Conseil, qui fait pression pour des exclusions plus larges en matière d’application de la loi.

Tous les autres amendements en dehors du texte convenu au niveau de la commission parlementaire ont été rejetés lors du vote en séance plénière.

Modèles de fondation et IA générative

Les législateurs de l’UE ont introduit une approche à plusieurs niveaux pour les modèles d’IA qui n’ont pas d’objectif spécifique, les IA à usage général, avec un régime plus strict pour les modèles de fondation, de grands modèles de langage sur lesquels d’autres systèmes d’IA peuvent être basés.

Le niveau supérieur concerne l’IA générative telle que ChatGPT, pour laquelle le Parlement européen souhaite introduire un étiquetage obligatoire pour le contenu généré par l’IA et imposer la divulgation des données d’entraînement couvertes par le droit d’auteur.

Avec ChatGPT, l’IA générative a attiré l’attention du grand public, et la Commission européenne a lancé des initiatives de sensibilisation pour tenter d’anticiper les règles en matière d’IA et de favoriser l’alignement international au niveau du G7.

L’eurodéputé Brando Benifei a mis en garde contre le fait que ces initiatives « pourraient devenir un contexte dans lequel les entreprises agiraient pour influencer le travail législatif », ce qui est actuellement au centre des efforts de lobbying visant à édulcorer la règlementation. « Mais si nous coopérons correctement entre les institutions, cela sera évité. »

M. Benifei a également indiqué aux journalistes que le Parlement souhaite mettre sur la table l’anticipation de la période d’application de deux ans de la législation, si ce n’est pour tous les types d’IA, au moins, pour les modèles de fondation ou l’IA générative, étant donné les implications que ces modèles ont déjà.

Principaux changements

Les eurodéputés ont introduit plusieurs autres changements significatifs au texte, à commencer par la définition de l’IA, qui est alignée sur celle de l’Organisation de coopération et de développement économiques (OCDE).

La liste des pratiques interdites a été étendue aux techniques subliminales, à la catégorisation biométrique, à la police prédictive, aux bases de données de reconnaissance faciale sur Internet, et les logiciels de reconnaissance des émotions sont interdits dans les domaines de l’application de la loi, de la gestion des frontières, du lieu de travail et de l’éducation.

Un niveau supplémentaire a été ajouté pour les applications d’IA entrant dans la catégorie à haut risque, tandis que la liste des domaines à haut risque et des cas d’utilisation a été précisée et étendue aux domaines du maintien de l’ordre et du contrôle des migrations. Les systèmes de recommandation des principaux médias sociaux ont été ajoutés à la liste des applications à haut risque.

Les obligations des fournisseurs d’IA à haut risque en matière de gestion des risques, de gouvernance des données et de documentation technique ont été rendues plus prescriptives. De nouvelles exigences ont été introduites pour la réalisation d’évaluations de l’impact sur les droits fondamentaux et le contrôle de l’impact environnemental.

Un Bureau de l’IA a également été créé pour soutenir la coordination des affaires transfrontalières, bien que la responsabilité essentielle du règlement des litiges entre autorités ait été laissée à la Commission. Selon M. Tudorache, ce bureau devrait être transformé en une agence numérique polyvalente.

Négociations à venir

Les eurodéputés vont maintenant entamer des négociations interinstitutionnelles avec le Conseil de l’UE et la Commission européenne dans le cadre de ce que l’on appelle les trilogues. Le premier trilogue a eu lieu mercredi soir, après le vote du Parlement européen.

Cependant, lors de cette première session, les institutions de l’UE se sont contentées d’exposer leurs positions et de déléguer le travail au niveau technique, selon un ordre du jour consulté par EURACTIV.

Les négociations s’intensifieront lorsque l’Espagne prendra la présidence tournante du Conseil en juillet, Madrid ayant fait de la finalisation de la règlementation sur l’IA sa principale priorité numérique.

Les principaux points de désaccord devraient porter sur les catégories à haut risque, les droits fondamentaux et les modèles de fondation. En revanche, des questions telles que la gouvernance, l’innovation et la définition de l’IA seront probablement résolues au niveau technique.

Le premier trilogue opérationnel devrait avoir lieu avant les élections législatives espagnoles. Les Espagnols souhaitent parvenir à un accord d’ici novembre avec trois trilogues, mais deux trilogues ont également été prévus en guise de solution de secours.

[Édité par Anne-Sophie Gayet]