AI Act : la Commission doit clarifier les interdictions en matière d’IA avant leur entrée en vigueur

Les parties prenantes se trouvent dans l’impossibilité de donner leur avis sur les interdictions en matière d’usage de l’intelligence artificielle, l’un des aspects les plus importants du règlement sur l’intelligence artificielle (AI Act), étant donné que la Commission n’a pas encore publié de projet de lignes directrices.

L’AI Act interdit l’intelligence artificielle (IA) présentant un « risque inacceptable », notamment la détection des émotions, l’identification biométrique en temps réel et les systèmes de notation sociale, dans l’Espace économique européen (EEE) à compter du 2 février.

Le texte réglementaire laisse cependant de nombreuses questions sans réponse, et la Commission prévoit de publier des lignes directrices afin de rendre les dispositions lisibles. À cette fin, elle a donc lancé une consultation publique mercredi 13 novembre.

Les parties prenantes peuvent ainsi soumettre leurs commentaires jusqu’au 11 décembre, ce qui signifie que la Commission aura ensuite moins de deux mois pour rédiger et approuver les lignes directrices.

« La consultation aurait dû être lancée bien plus tôt », confie à Euractiv Daniel Leufer, conseiller politique principal pour l’organisation AccessNow.

Selon la Commission, « les lignes directrices […] aideront les autorités nationales compétentes ainsi que les fournisseurs et les développeurs […] avant » le 2 février.

Mercredi 20 novembre, le porte-parole de la Commission Thomas Regnier a annoncé à Euractiv que les lignes directrices seraient « idéalement » prêtes avant le 2 février. Un projet long et détaillé de lignes directrices sur les interdictions circule déjà au sein de la Commission, mais n’a pas été partagé, ont confirmé à Euractiv cinq personnes proches du dossier.

Dans sa consultation publique, la Commission a demandé aux parties prenantes de spécifier des exemples de systèmes qui devraient ou ne devraient pas être interdits.

« Je n’ai jamais vu auparavant un niveau de détail aussi bas dans une consultation sur des lignes directrices à venir », confie à Euractiv Laura Lázaro Cabrera, conseillère et directrice de programme pour l’équité et les données au Centre pour la démocratie et la technologie.

Cela empêche les parties prenantes de fournir un retour d’information ciblé.

« Plus les lignes directrices seront détaillées, plus nous pourrons apporter notre contribution, car nous pourrons identifier les domaines qui nous semblent les plus préoccupants », explique-t-elle.

« La date limite approche et le processus doit permettre de prendre en compte les contributions significatives », a souligné l’eurodéputé italien Brando Benifei (S&D) lundi 18 novembre, informant les eurodéputés de la commission du Marché intérieur et de la Protection des consommateurs du Parlement (IMCO) au nom du groupe de suivi de la mise en œuvre de l’AI Act.

« La consultation sera une étape cruciale dans le processus », a-t-il affirmé.

Laura Lázaro Cabrera, du Centre pour la démocratie et la technologie, craint que les interdictions soient négligées au sein et en dehors de la Commission en faveur du Code de bonnes pratiques pour l’IA à usage général, qui pourrait établir la norme mondiale pour les systèmes d’IA tels que ChatGPT.

« Le Code de bonnes pratiques est ce que le monde entier regarde, parce que nous sommes les premiers à élaborer des règles pour les modèles [d’IA à usage général] les plus puissants », a déclaré l’eurodéputé Brando Benifei.

Si le Code des bonnes pratiques est l’une des parties les plus uniques et les plus complexes de la mise en œuvre du règlement européen sur l’IA, les interdictions nécessitent également un travail considérable afin d’être rendues plus lisibles.

« La Commission est libre de choisir comment consulter les parties prenantes » et « les concepts juridiques ont déjà été clairement déterminés par les co-législateurs, tels que définis dans le règlement sur l’intelligence artificielle », a indiqué le porte-parole de la Commission Thomas Regnier.

Un trilogue désordonné qui a laissé place aux lacunes et aux ambiguïtés

Dans l’AI Act, les interdictions sont énumérées comme suit : « un système d’IA qui a recours à des techniques subliminales », les « prédictions », « la notation sociale », l’exploitation des vulnérabilités d’un groupe spécifique, l’extraction d’images faciales, la détection des émotions, la catégorisation biométrique ou l’identification biométrique en temps réel.

Cependant, « le processus de négociation en trilogue, loin d’être idéal » a abouti à des « compromis ridicules faits par des gens qui n’ont pas dormi depuis 36 heures », déplore Daniel Leufer.

« Les interdictions sont pleines d’échappatoires, de formulations peu claires et d’exceptions problématiques », explique-t-il.

Par exemple, il explique que la reconnaissance des émotions ne s’applique qu’aux lieux de travail et aux établissements d’enseignement, alors que les autorités chargées de l’application de la loi et de l’immigration ont été exemptées de l’obligation de se conformer à cette disposition au cours des négociations.

Pour Daniel Leufer, la reconnaissance des émotions fait également l’objet d’une exemption « tout à fait ridicule » pour les utilisations médicales ou de sécurité. Alors que le règlement était censé exempter la détection de la fatigue, un considérant exclut explicitement la détection de la fatigue de la catégorie de la reconnaissance des émotions. Par conséquent, peu de systèmes, voire aucun, sont légitimement concernés par cette exemption.

Des problèmes similaires apparaissent dans le cas d’autres interdictions. Selon Daniel Leufer, les lignes directrices à venir pourront donc soit combler les lacunes et apporter de la clarté, soit rendre les interdictions encore moins claires et plus faciles à exploiter et contourner.

« Nous voulons une interprétation claire des interdictions, ainsi qu’une approche ciblée qui n’englobe pas involontairement les utilisations bénéfiques de l’IA », explique à Euractiv Marco Leto Barone, responsable politique senior au Conseil de l’industrie des technologies de l’information (ITI).

Du côté de la société civile, l’affaiblissement des interdictions ne serait pas de bon augure pour la mise en œuvre du reste du règlement européen sur l’intelligence artificielle, car cela pourrait fausser l’ensemble de l’échelle des risques du règlement.

[Édité par Anna Martino]