Les députés européens exigent des règles strictes sur l’utilisation de l’IA en matière pénale

En amont du règlement européen sur l’intelligence artificielle, les eurodéputés ont insisté à Strasbourg, lundi 4 octobre, pour que son utilisation par les forces de l’ordre et dans le système pénal soit soumise à des contrôles stricts.

« L’idée derrière ce rapport n’est pas seulement de rattraper le retard, mais de créer un encadrement », a déclaré l’eurodéputé Petar Vitanov du groupe de l’Alliance progressiste des socialistes et démocrates (S&D), chargé du rapport sur l’intelligence artificielle, à EURACTIV.

Bien que non contraignant, le nouveau rapport sur l’intelligence artificielle (IA) en matière pénale pourrait permettre au Parlement européen de soutenir une approche axée sur les risques, alors que les eurodéputés devront bientôt examiner l’Artificial Intelligence Act proposée par la Commission en avril.

Le texte énonce les « principes d’équité, de minimisation des données, de responsabilité, de transparence, de non-discrimination et d’explicabilité » afin de protéger les droits fondamentaux.

« L’IA peut être très utile », a déclaré Petar Vitanov, mais « nous essayons de séparer les domaines dans lesquels elle peut être utile de ceux qui apportent des résultats subjectifs ».

« La reconnaissance faciale dans les espaces publics peut facilement être transformée en surveillance de masse », a déclaré M. Vitanov. « Imaginez que vous ne soyez plus anonyme, ne réfléchirez-vous pas à deux fois avant d’aller à une manifestation ? », a-t-il demandé.

Le député européen a également souligné qu’il fallait éviter de trop se fier aux données fournies par l’IA et que l’humain devaient toujours avoir le dernier mot. « Vous ne pouvez pas vous fier à une machine », a-t-il souligné, appelant les autorités à renforcer la confiance et les connaissances lors de la remise en question des résultats algorithmiques.

Amendements du Parti populaire européen (PPE)

Alors que la plupart des groupes ont salué « l’équilibre » du rapport, le chrétien-démocrate Tom Vandenkendelaere a déploré que le « rapport ne réponde pas aux attentes des gens. »

« Nous ne devrions pas jeter le bébé avec l’eau du bain », a-t-il déclaré devant les députés réunis en plénière.

Le PPE a soumis trois amendements pour tenter de tempérer le texte sur l’utilisation de l’IA par les forces de l’ordre quand il s’agit de prédire les comportements.

De même, les députés du PPE ont proposé d’échanger un moratoire sur le déploiement de la reconnaissance faciale dans les espaces publics contre la promesse « d’assurer le respect des droits fondamentaux ».

« Ils sapent l’architecture du rapport », a déclaré M. Vitanov avant le vote, craignant que les amendements n’ouvrent la voie à une surveillance de masse et à la predictive policing, qu’il considère comme une violation de la présomption d’innocence.

« Le vote d’aujourd’hui représente un moment historique, car le Parlement européen a pris une position audacieuse contre les utilisations risquées inacceptables de l’IA comme la surveillance de masse biométrique et la prévision policière », a déclaré à EURACTIV Ella Jakubowska, conseillère pour l’European Digital Rights (EDRi).

Son association ainsi que 39 autres organisations de défense des droits de l’homme avaient appelé les législateurs à rejeter les amendements « afin de garantir le plein respect des droits fondamentaux et des valeurs de l’UE ».

« Si nous sommes sérieux, il ne faut pas craindre d’interdire certaines des applications de l’IA dont il est prouvé qu’elles ne sont pas fiables », a ajouté M. Vitanov.

Le potentiel de l’IA

« Cela ne signifie pas que nous voulons donner carte blanche » à la police, a fait valoir M. Vandenkendelaere, considérant que « l’IA est là pour rester » et que les députés devraient tirer le meilleur parti de son « plein potentiel » pour protéger les citoyens européens.

Son collègue du PPE, Jeroen Lenaers, a souligné que les eurodéputés doivent empêcher que « les criminels profitent de l’IA mais que les forces de l’ordre ne puissent pas l’utiliser ». Par ailleurs, Tomislav Sokol a exhorté ses collègues à « éviter la paranoïa dans [leur] approche ».

« Tout ce que nous avons, c’est du laxisme pour les délinquants et des leçons idéologiques pour les forces de l’ordre », a ajouté l’eurodéputé Jean-Lin Lacapelle (ID).

Par ailleurs, Brando Benifei (S&D) s’est réjoui que le rapport « délivre un message fort et clair : l’utilisation des technologies de reconnaissance biométrique dans les espaces accessibles au public en temps réel doit être interdite » et « les techniques de prédiction pour les activités de maintien de l’ordre présentent un risque très élevé de discrimination et remettent en question l’un des principes fondamentaux des cadres législatifs démocratiques, la présomption d’innocence », a-t-il déclaré à EURACTIV.

M. Benifei a promis d’adopter une position similaire sur l’Artificial Intelligence Act, une proposition législative clé qu’il dirige en tant que rapporteur de la Commission du marché intérieur et de la protection des consommateurs (IMCO). « Le travail sur l’Artificial Intelligence Act s’appuiera sur ces bases solides, pour une IA qui place véritablement l’humain au centre, en respectant les droits de l’homme et les valeurs qui font de l’Europe un grand continent », a-t-il conclu.