Loi sur l'IA : la reconnaissance faciale au cœur des discussions au Parlement européen

Les eurodéputés ont tenu leur premier débat politique sur le règlement sur l’intelligence artificielle (IA) mercredi (5 octobre). La discussion a progressé vers des sujets sensibles comme la question très controversée de la reconnaissance biométrique.

Le règlement sur l’IA est une législation européenne historique destinée à réglementer l’intelligence artificielle en introduisant une série d’obligations proportionnelles aux dommages potentiels des applications de ces technologies.

Jusqu’à présent, les co-rapporteurs du Parlement européen, le social-démocrate Brando Benifei et le libéral Dragoș Tudorache, ont cantonné la discussion aux aspects les plus techniques, espérant créer un élan avant de s’attaquer aux difficultés plus politiques.

Cette approche n’a pas été sans succès puisque le dossier a progressé en plusieurs parties. Lors de la réunion, les eurodéputés ont formellement accepté les deux premiers ensembles de compromis sur les procédures administratives, l’évaluation de la conformité, les normes et les certificats.

Certaines parties importantes du troisième ensemble de compromis sur les obligations pour les systèmes à haut risque ont également été approuvées.

Toutefois, la majeure partie de la réunion politique de mercredi à Strasbourg a été consacrée à des sujets très sensibles tels que le champ d’application du règlement sur l’IA et les restrictions à l’utilisation de la reconnaissance biométrique, une technologie très controversée qui permet d’identifier une personne par son visage ou d’autres caractéristiques personnelles.

La reconnaissance biométrique

Comme prévu, la partie la plus passionnée du débat a porté sur les systèmes de reconnaissance biométrique. En amont de la réunion, le co-rapporteur a partagé un programme, consulté par EURACTIV, comprenant une proposition de reformulation de l’article sur les pratiques interdites.

Dans le projet initial, la Commission européenne proposait d’interdire les techniques subliminales, l’exploitation des vulnérabilités, la notation sociale et les systèmes d’identification biométrique en temps réel.

Toutefois, cette dernière interdiction comportait quelques exceptions remarquables, notamment lorsqu’il s’agissait d’identifier des victimes d’enlèvement, de prévenir des menaces imminentes telles que des attaques terroristes et de repérer des suspects criminels.

Les eurodéputés progressistes et les organisations de la société civile ont sévèrement critiqué cette approche, estimant que ces exceptions pouvaient conduire à une surveillance plus généralisée. Les eurodéputés en charge du dossier ont désormais formulé cette interdiction clairement, tout en laissant les autres pratiques interdites inchangées.

L’article interdit désormais « la mise sur le marché ou la mise à disposition sur le marché, la mise en service ou l’utilisation de systèmes d’identification biométrique à distance qui sont ou peuvent être utilisés dans des espaces accessibles au public ou au privé, tant hors ligne qu’en ligne. »

Notamment, le texte supprime la référence au temps réel, étendant l’interdiction à l’identification a posteriori, affectant certains des cas les plus controversés, comme la société de reconnaissance faciale Clearview AI.

Une autre modification importante concerne les espaces privés, précisant que l’interdiction s’applique également au domaine virtuel.

Alors que l’objectif de la discussion préliminaire était précisément de faire émerger les opinions des groupes politiques, deux responsables du Parlement européen ont déclaré à EURACTIV qu’il semblait y avoir une majorité claire en faveur de l’interdiction.

L’interdiction complète irait dans le sens d’une résolution adoptée en octobre dernier, lorsque le Parti populaire européen (PPE) de centre-droit était largement isolé dans sa volonté de donner aux forces de l’ordre une certaine marge de manœuvre dans l’utilisation de ces outils.

Champ d’application

Le champ d’application des règles relatives à l’IA est un autre sujet sensible.

Les co-rapporteurs ont proposé une exemption pour les autorités publiques des pays tiers et les organisations internationales qui utilisent l’IA dans le cadre d’accords de coopération internationale ou de coopération judiciaire et si elles sont couvertes par une décision d’adéquation des données ou un accord sur les droits fondamentaux.

Ce compromis se situe à mi-chemin entre les eurodéputés progressistes qui demandent des garanties plus strictes en matière de droits fondamentaux — qui ne sont pas nécessairement couverts par les décisions relatives au caractère adéquat des données — et les législateurs de centredroit qui sont favorables à une exemption plus large pour les pays tiers.

En outre, les co-rapporteurs ont suggéré que le règlement n’affecterait pas les règles de protection des données de l’UE, y compris celles liées à l’application de la loi, au régime européen de protection des consommateurs et de sécurité des produits, au droit du travail national et aux activités de recherche et développement (R&D) proprement dites.

L’exemption de la R&D a été particulièrement débattue. Selon un responsable, le problème se situe davantage au niveau de la formulation, car personne ne souhaite créer de vide juridique.

Pour un second responsable parlementaire, en ce qui concerne la question du champ d’application, il est généralement admis que chaque groupe doit renoncer à un élément. Par conséquent, le texte doit être examiné dans son ensemble.

Base de données européenne

Le projet initial de la Commission prévoyait l’obligation pour les fournisseurs de systèmes d’IA les plus susceptibles de causer des dommages d’être enregistrés dans une base de données européenne.

Les amendements de compromis proposaient d’étendre cette obligation aux utilisateurs qui sont des autorités publiques et à toute personne qui apporte une modification substantielle au système. Le PPE et les Verts sont en désaccord avec une telle formulation, mais chacun de ces deux groupes pour des raisons opposées.

Cet article a déjà été discuté lors d’une réunion technique fin août. Les eurodéputés ne sont pas parvenus à aborder la nouvelle formulation lors de la réunion de mercredi, les deux autres sujets ayant monopolisé le débat.

Selon les informations d’EURACTIV, les sujets tels que la définition de l’IA, les règles relatives à l’IA à usage général et la liste des systèmes à haut risque de l’annexe III feront également l’objet de discussions au niveau politique.