Loi sur l’IA : une réunion prévue pour résoudre les questions en suspens

Les rapporteurs du Parlement européen sur le règlement sur l’intelligence artificielle (AI Act) ont fait circuler lundi (13 février) un ordre du jour en vue d’une réunion politique clé qui comprend de nouveaux compromis sur la définition de l’intelligence artificielle (IA), son champ d’application, les pratiques interdites et les catégories à haut risque.

Samedi (11 février), Brando Benifei et Dragoș Tudorache ont partagé une nouvelle série d’amendements de compromis, obtenus par EURACTIV, dans l’ordre du jour d’une réunion qui aura lieu mercredi (15 février).

Cette réunion aura pour objectif de régler certaines questions critiques encore en suspens sur le projet de règlementation de l’IA, une loi qui prévoit de règlementer l’IA en fonction de son potentiel de risque.

Définition de l’IA

La définition de l’intelligence artificielle est une question fondamentale car elle détermine l’application du règlement sur l’IA. Les députés européens en charge du dossier ont proposé d’utiliser la définition de l’Institut national des normes et de la technologie (National Institute of Standards and Technology) américain.

L’IA est définie comme « un système artificiel ou basé sur une machine qui peut, pour un ensemble donné d’objectifs, générer des résultats tels que du contenu, des prévisions, des recommandations ou des décisions influençant des environnements réels ou virtuels. Les systèmes d’IA sont conçus pour fonctionner avec des niveaux variables d’autonomie ».

Le préambule du texte précise que l’IA doit être capable d’agir avec un niveau minimum d’indépendance vis-à-vis du contrôle humain, qu’elle peut posséder des capacités d’apprentissage (c’est-à-dire l’apprentissage automatique) et qu’elle ne couvre pas les systèmes entièrement traçables et prédictibles.

Une clarification essentielle concerne les « objectifs » du modèle d’IA, étant donné que les grands modèles linguistiques connus sous le nom d’IA à usage général peuvent être adaptés pour effectuer diverses tâches.

« La référence à un ensemble donné d’objectifs n’est pas liée au but ou à l’objectif final du système, mais plutôt au processus d’optimisation des paramètres au sein du modèle. Ces objectifs peuvent être aussi bien explicites qu’implicites », peut-on lire dans le compromis.

En outre, le texte précise désormais que lorsqu’une solution d’IA est intégrée dans un système plus étendu, tous les composants interagissant avec la nouvelle solution doivent être considérés comme faisant partie du système.

La définition de l’IA a été déplacée de l’annexe et intégrée au corps de la loi, de sorte qu’il ne sera pas possible pour la Commission européenne de la modifier ultérieurement.

Champ d’application

En ce qui concerne le champ d’application de la législation, les co-rapporteurs veulent savoir si le règlement sur l’IA doit empêcher les fournisseurs de l’UE de déployer des solutions d’IA interdites, comme les systèmes de notation sociale, sur le marché unique, mais aussi de les exporter.

Une exemption partielle a été proposée sur les systèmes d’IA ouverts. « Tant que ces systèmes ne sont pas mis en service ou mis à disposition sur le marché moyennant paiement, indépendamment du fait que ce paiement concerne le système d’IA lui-même, la fourniture du système d’IA en tant que service ou la fourniture d’une assistance technique pour le système d’IA en tant que service. »

Pratiques interdites

Les systèmes d’IA ayant recours à des technologies biométriques pour catégoriser les personnes en utilisant ou en déduisant des caractéristiques sensibles ou protégées ont été ajoutés à la liste des pratiques interdites. En vertu du règlement général sur la protection des données (RGPD), les informations protégées comprennent l’origine ethnique, l’orientation sexuelle et les convictions religieuses.

Les co-rapporteurs souhaitent également interdire les modèles d’IA qui alimentent les bases de données de reconnaissance faciale en récupérant sans discernement les images des visages sur les photos de profil des réseaux sociaux, les caméras de surveillance et tout autre cas d’utilisation figurant sur la liste des domaines à haut risque.

Classification en catégories à haut risque

Le règlement sur l’IA définit certains systèmes d’IA comme présentant un risque élevé de causer des dommages, une catégorie de systèmes qui devra donc se conformer à des exigences plus strictes. L’annexe III du règlement dresse la liste des domaines et des cas d’utilisation à haut risque.

La proposition initiale indiquait que les modèles d’IA dont la finalité relevait de ces domaines et cas d’utilisation devaient être considérés comme à haut risque. Cette notion de « finalité » ne s’applique pas à certains cas d’utilisation, comme les systèmes d’IA utilisés par les partis politiques, dans le processus démocratique et pour la recherche scientifique.

Si les développeurs d’IA considèrent que leur système ne présente pas un risque élevé, même s’il relève de l’annexe III, ils peuvent en informer l’autorité nationale ou le Bureau de l’IA si plusieurs pays de l’UE sont concernés.

Le compromis initial imposait à l’autorité compétente de répondre dans un délai d’un mois. Dans la nouvelle version, les co-rapporteurs ont proposé une clause de consentement tacite, signifiant que l’exemption sera justifiée si l’autorité ne répond pas dans les trois mois.

Base de données de l’UE

La proposition initiale imposait aux fournisseurs de systèmes d’IA à haut risque de s’enregistrer dans une base de données à l’échelle de l’UE.

Les députés européens proposent à présent d’étendre cette obligation aux exploitants d’IA qui sont des organismes publics ou des entreprises privées désignés comme contrôleurs d’accès en vertu du règlement sur les marchés numériques (Digital Markets Act, DMA).

Principes généraux

Un nouvel article comportant des principes généraux s’appliquant à tous les systèmes d’IA a été introduit comme base volontaire pour tous les algorithmes ne relevant pas de la catégorie à haut risque. La Commission et le Bureau de l’IA devront émettre des recommandations sur la manière de se conformer à ces principes.

Les principes comprennent le contrôle humain, la robustesse technique, le respect des règles de protection des données, l’explicabilité adéquate, la non-discrimination et l’équité, ainsi que le bien-être social et environnemental.

Connaissance de l’IA

Par ailleurs, une nouvelle mesure obligeant l’UE et ses États membres à promouvoir l’éducation aux médias auprès du grand public a été ajoutée.

Les fournisseurs et exploitants d’IA devront veiller à ce que leur personnel possède des connaissances en matière d’IA, notamment sur la manière de se conformer au règlement.

[Édité par Anne-Sophie Gayet]