Loi sur l'IA : les eurodéputés proposent d'étendre les pouvoirs de révision de la Commission

Les co-rapporteurs du Parlement européen pour le règlement sur l’intelligence artificielle (AI Act) ont proposé d’étendre les pouvoirs de révision de la Commission européenne afin qu’elle puisse étendre la liste des systèmes à haut risque et des pratiques interdites à un stade ultérieur.

Le huitième lot d’amendements de compromis sur la proposition de règlement sur l’intelligence artificielle (IA) a été partagé par les eurodéputés en charge du dossier Dragoș Tudorache et Brando Benifei avec les représentants des autres groupes politiques vendredi dernier (21 octobre).

Le règlement sur l’IA est une proposition législative phare visant à réglementer le développement, le déploiement et l’utilisation de l’intelligence artificielle. Les co-rapporteurs tentent actuellement de parvenir à une position commune avec les autres groupes politiques, en présentant plusieurs changements importants par rapport à la formulation initiale.

Pouvoirs de révision

L’amendement le plus significatif vise à étendre considérablement les pouvoirs de révision de la Commission après l’entrée en vigueur de la législation.

Les deux eurodéputés souhaitent donner à la Commission le pouvoir d’étendre la liste des domaines à haut risque qui détermineraient si un système d’IA doit se conformer à des exigences plus strictes. Dans le texte original, la Commission ne pouvait modifier ou supprimer que les cas d’utilisation relevant des domaines à haut risque, tels que l’éducation ou l’emploi, mais la liste des domaines à haut risque était arrêtée.

En outre, le compromis permettrait à l’exécutif européen d’étendre les applications d’IA interdites, telles que la notation sociale, et le type de systèmes qui devraient se conformer à des mesures de transparence supplémentaires.

Le Comité de l’IA, un organe qui réunira les autorités nationales compétentes, devra élaborer une méthodologie pour la réalisation de ces examens.

Les examens devraient avoir lieu chaque année après l’entrée en vigueur des règles relatives à l’IA, sur les conseils du Comité de l’IA et des autorités nationales. Les résultats devraient être présentés au Parlement européen et au Conseil de l’UE.

En outre, deux ans après l’entrée en vigueur du règlement, et tous les deux ans par la suite, la Commission devra fournir un rapport analysant l’état d’avancement du développement de normes harmonisées, le niveau d’investissement dans la recherche et le développement, la compétitivité de l’écosystème européen de l’IA ainsi que l’impact environnemental du règlement.

Sanctions et amendes

Le compromis semble faire la différence entre les amendes et les autres sanctions, en précisant que « les amendes peuvent être imposées en plus ou à la place de mesures non monétaires telles que des ordres ou des avertissements ».

En vertu d’une note en marge du document, l’amende administrative pourrait être déclenchée par une série de critères qui pourraient être énumérés dans un nouvel article. L’approche relative aux amendes semble davantage fondée sur le risque, puisque le plafond maximal pour les infractions les plus graves a été relevé, tandis que celui des infractions mineures a été réduit.

Pour la violation de l’interdiction de pratiques interdites telles que la notation sociale, l’amende administrative a été portée à 40 millions d’euros ou à 7 % du chiffre d’affaires annuel. La violation des dispositions relatives à la gouvernance des données pourrait entraîner des amendes allant jusqu’à 20 millions d’euros ou 4 % du chiffre d’affaires.

Toutes les autres violations des obligations du règlement ont été abaissées à 10 millions d’euros et 2 % du chiffre d’affaires global. De même, les amendes maximales pour la fourniture d’informations incorrectes ont également été réduites à 5 millions d’euros et à 1 %. Le pouvoir d’infliger ce type d’amendes a par ailleurs été étendu à la Commission européenne.

D’autres éléments à prendre en compte pour déterminer le montant de l’amende ont été ajoutés, comme la nature intentionnelle ou négligente de l’infraction, toute action d’atténuation, la coopération avec l’autorité compétente, le degré de responsabilité, l’adhésion à des codes de bonne conduite et les antécédents.

Des changements similaires ont été appliqués aux amendes relatives aux institutions et organes de l’UE.

Confidentialité

En termes de confidentialité, les eurodéputés en charge du dossier ont proposé que les principes de limitation de la finalité et de minimisation des données s’appliquent aux demandes d’information adressées par les autorités compétentes au fournisseur d’IA.

En d’autres termes, les autorités ne devraient demander et conserver les données que tant que cela est nécessaire. Les mêmes principes s’appliquent lors de l’échange d’informations entre autorités.

Pouvoirs délégués

Les eurodéputés demandent une implication plus importante du Parlement européen dans l’élaboration des actes délégués, sur la base de l’accord interinstitutionnel « Mieux légiférer », selon lequel les législateurs devraient recevoir le projet de législation secondaire et être invités à en discuter.

Lorsqu’un acte délégué modifie les obligations des opérateurs économiques, il devrait prévoir un délai supplémentaire proportionnel d’au moins deux ans pour leur permettre de s’adapter en conséquence.

Surveillance du marché

Le compromis propose de modifier le règlement sur la surveillance du marché et la conformité des produits pour donner aux autorités de surveillance du marché la capacité d’exercer leurs pouvoirs à distance afin d’adapter les enquêtes et les demandes d’information aux technologies numériques.

Liens législatifs

Un nouvel article sur la « réglementation saine » a été ajouté, donnant mandat à la Commission européenne d’analyser et de s’engager avec les parties prenantes pour identifier les lacunes et les doublons potentiels entre le règlement sur l’IA et la législation sectorielle existante.

Entrée en vigueur

Les fournisseurs de systèmes d’IA à haut risque apparus sur le marché de l’UE avant l’entrée en vigueur du règlement sur l’IA disposeront de deux ans à compter de son entrée en vigueur pour se conformer au règlement.

Gouvernance

La question de la gouvernance est toujours en suspens, selon les notes en marge du compromis. La discussion porte sur la question de savoir si la mise en place du Comité de l’IA sera maintenue ou si un Bureau de l’IA (AI Office) sera créé. Cette question est susceptible d’être portée au niveau politique, selon les informations d’EURACTIV.