Loi sur l’IA : la position de l’Allemagne proche de celle du Parlement européen

Des négociations interinstitutionnelles concernant le règlement sur l’intelligence artificielle (AI Act) sont attendues plus tard dans l’année. Alors que le Conseil de l’Union européenne a arrêté sa position, l’Allemagne a émis des réserves sur certains points et se rapproche davantage de la position du Parlement européen que de celle d’autres États membres.

Les ministres européens réunis au sein du Conseil « Télécommunications » ont confirmé le 6 décembre dernier leur soutien à l’approche générale du règlement sur l’intelligence artificielle (IA), une législation destinée à réglementer l’IA en fonction de son potentiel de nuisance.

Tout en saluant le compromis, le ministre fédéral allemand du Numérique, Volker Wissing, a constaté que « des améliorations sont encore possibles ». Il souhaite également que les commentaires de l’Allemagne soient pris en compte lors des négociations avec le Parlement européen et la Commission — une phase appelée « trilogue ».

Le choix des éléments que Berlin continuera à faire valoir lors de ces trilogues pourrait s’avérer décisif lors des négociations, dans la mesure où le plus grand pays d’Europe pourrait permettre aux eurodéputés de faire pencher la balance au sein du Conseil.

Biométrie

L’Allemagne est favorable à une interdiction totale de la technologie de reconnaissance biométrique, comme l’indique déjà l’accord de coalition signé en 2021 par les trois partis au pouvoir dans le pays. Il s’agit là également d’un élément fondamental pour les co-rapporteurs du Parlement.

Or, à en croire des commentaires écrits soumis en octobre et obtenus par EURACTIV, Berlin est uniquement favorable à l’interdiction de l’identification biométrique en temps réel dans les espaces publics. Elle souhaite cependant autoriser l’identification a posteriori.

Parallèlement, les Allemands se sont réservé le droit de fournir des commentaires plus approfondis sur la question à un stade ultérieur, à mesure que la discussion évolue.

Par ailleurs, l’Allemagne a souhaité que la définition des données biométriques recoupe celle figurant dans le Règlement général sur la protection des données (RGPD) de l’UE afin d’éviter toute divergence terminologique et de classer les systèmes de catégorisation biométrique comme étant à haut risque.

Police prédictive et reconnaissance des émotions

Autre sujet de controverse : l’application des systèmes d’IA dans les procédures pénales. Dans la même série de commentaires, Berlin a fait pression pour interdire toute application d’IA qui se substitue aux juges humains dans l’évaluation du risque qu’un individu a de commettre ou de répéter une infraction pénale.

Ces applications d’IA ont simplement été incluses dans les catégories à haut risque dans l’accord définitif du Conseil. Il semble toutefois qu’un fort soutien existe au Parlement européen en faveur de l’interdiction pure et simple de ces pratiques.

Les Allemands souhaitaient également ajouter à la liste des pratiques interdites les systèmes d’IA utilisés par les autorités publiques en tant que polygraphes — également appelés détecteurs de mensonges — ou tout autre outil de reconnaissance des émotions. Ils ont également demandé que tous les autres systèmes de reconnaissance des émotions soient classés comme étant à haut risque.

Mise en application de la loi

Le texte du Conseil de l’UE a introduit plusieurs exceptions importantes pour les services répressifs. L’approche de l’Allemagne consistait quant à elle globalement à mettre en place des garanties plus strictes pour l’IA utilisée par les services répressifs.

Berlin a également préconisé d’exclure ces applications du principe de la « règle des deux hommes », selon laquelle la surveillance humaine doit être assurée par au moins deux personnes. La raison avancée est que, dans de nombreux cas, un seul agent est nécessaire pour prendre la décision.

Cette incohérence vient probablement du fait que la liste des commentaires est issue de différents ministères dirigés par différents membres de la coalition. Il n’est pas toujours évident de déterminer quel est le point de vue du ministère qui a prévalu sur un certain sujet, rendant ainsi la position allemande difficile à interpréter pour les responsables politiques de l’UE.

Tout au long des négociations, le gouvernement allemand a demandé que les dispositions de l’IA relatives à la sécurité et à la migration soient regroupées dans une proposition distincte. Cette approche, qui nécessiterait une proposition législative distincte à vocation générale, n’a jusqu’à présent suscité que peu d’intérêt.

L’IA sur le lieu de travail

Le gouvernement allemand a également fait pression pour interdire tout système d’IA destiné à surveiller systématiquement les performances et le comportement des employés sans motif précis. Cette surveillance se traduit en effet par une pression psychologique les empêchant de se comporter librement.

« Ces systèmes d’IA permettent de suivre avec précision les performances et le comportement des employés, de générer des probabilités qu’un employé démissionne ou concernant sa productivité, d’indiquer quels employés pourraient véhiculer un climat négatif et, en définitive, de dresser des profils complets des employés », peut-on lire dans le commentaire.

Dans l’approche générale, l’Allemagne a réussi à obtenir une référence au fait que les États membres restent libres de prendre des mesures au niveau national dans la mise en place de règles plus spécifiques pour l’IA sur le lieu de travail. Un libellé similaire a été introduit sur la protection des mineurs.

Classification à haut risque

La présidence tchèque du Conseil est parvenue à introduire un niveau supplémentaire dans la classification à haut risque. Ainsi, l’IA serait considérée comme présentant un risque important non seulement en fonction de son domaine d’application, mais également lorsqu’elle contribue à influencer le processus décisionnel.

Les Allemands se sont opposés à cette approche, soulignant que les fournisseurs d’IA ne seraient pas en mesure d’anticiper les différentes utilisations. Ils soulignent également l’absence d’obligation pour les fournisseurs de systèmes ne présentant pas un risque élevé d’expliquer la manière dont ils sont parvenus à une telle classification.

Berlin a formulé d’autres propositions sur les applications de l’IA devant être considérées comme à haut risque. Parmi celles-ci figurent les industries à forte intensité d’émissions, l’élimination des eaux usées, les composants de sécurité pour les infrastructures numériques critiques et les systèmes d’alerte publique pour les phénomènes météorologiques extrêmes.

Parmi les propositions supplémentaires relatives à la liste des applications à haut risque figurent les systèmes d’IA utilisés pour attribuer des logements sociaux, recouvrer des dettes et fournir des prix personnalisés. Ces applications sont en effet susceptibles de défavoriser les catégories les plus vulnérables.

[Édité par Anne-Sophie Gayet]