Loi sur l’IA : les eurodéputés progressent sur l’évaluation de la conformité pour les utilisations à haut risque

Les députés européens en charge du règlement sur l’intelligence artificielle (AI Act) ont fait circuler des amendements de compromis révisés sur la manière dont les systèmes d’intelligence artificielle (IA) susceptibles de présenter des risques importants doivent se conformer aux exigences du règlement.

Le règlement sur l’IA est une proposition législative phare visant à réglementer l’intelligence artificielle en fonction de son potentiel de nuisance. Un élément fondamental du projet de loi est la catégorie des applications à haut risque, qui devront se conformer à des exigences plus strictes.

La manière dont les fournisseurs d’IA de ces systèmes devront se conformer aux règles définies dans le règlement sur l’IA a fait l’objet d’une réunion technique qui s’est tenue lundi (6 février). En amont de la réunion, les co-rapporteurs Brando Benifei et Dragoș Tudorache ont partagé des documents de compromis obtenus par EURACTIV avec d’autres députés européens.

Procédure d’évaluation de la conformité

Le règlement sur l’IA permet aux fournisseurs de systèmes d’identification et de catégorisation biométriques de justifier de leur conformité à l’aide de deux procédures alternatives. Celles-ci consistent en une évaluation par une tierce partie de leur système de gestion de la qualité et de leur documentation technique ou en un contrôle interne.

Les eurodéputés estiment que les fournisseurs de systèmes d’identification et de catégorisation biométriques ne pourront utiliser le contrôle interne que s’ils respectent pleinement les normes harmonisées. Si les normes n’existent pas, existent mais de manière limitée, ou si les développeurs d’IA décident de ne pas y avoir recours, alors un audit externe est nécessaire.

Les développeurs d’IA peuvent également demander une évaluation par un tiers s’ils le jugent nécessaire, quel que soit le niveau de risque du système. Les fournisseurs d’IA de tous les autres cas présentant un risque élevé pourront effectuer le contrôle en interne sans audit externe.

Les représentants des PME, tels que la European DIGITAL SME Alliance, ont prévenu que ces sociétés d’audit seront incitées à gonfler les coûts de conformité, désavantageant ainsi les petits acteurs.

Afin de répondre à ces préoccupations, les députés européens ont introduit un article exigeant que les organismes tiers prennent en compte les intérêts et les besoins spécifiques des petits fournisseurs d’IA lors du calcul de leurs frais, « en réduisant ces frais proportionnellement à leur taille et à leur part de marché ».

La Commission européenne aura la possibilité de modifier les dispositions des procédures d’évaluation de la conformité. Le compromis prévoit que l’exécutif européen pourra le faire après une consultation avec le Bureau de l’IA (AI Office) et les parties prenantes concernées et ce, uniquement après avoir fourni des « preuves substantielles ».

Le concept de preuve substantielle n’est toutefois pas défini.

Dérogation à l’évaluation de la conformité

Initialement, les co-rapporteurs avaient proposé de supprimer l’intégralité de l’article qui permettait à une autorité de surveillance du marché de déroger à la procédure d’évaluation de la conformité pour la mise en service d’un système d’IA à haut risque sur son territoire national pour des raisons exceptionnelles telles que la protection des personnes.

L’ensemble de l’article a été réintroduit, mais l’autorité de surveillance du marché devra désormais obtenir l’autorisation d’une autorité judiciaire pour bénéficier de la dérogation. Les demandes et les autorisations devront être notifiées aux autres États membres et à la Commission.

La sécurité publique a été retirée des besoins exceptionnels pour lesquels une dérogation peut être demandée.

Les discussions techniques et politiques sont actuellement en cours au Parlement européen, dans le but de parvenir à une position commune dans les semaines à venir.