Jeux Olympiques de Paris 2024 : test grandeur nature pour l’identification par intelligence artificielle
Du 22 juillet au 12 août, la vidéosurveillance assistée par intelligence artificielle est autorisée à titre expérimental à Paris, et continue de susciter des craintes chez les organisations de défense des libertés individuelles.
Du 22 juillet jusqu’au 12 août, la vidéosurveillance assistée par intelligence artificielle est autorisée à titre expérimental à Paris. Elle continue pourtant de susciter des craintes chez les organisations de défense des libertés individuelles.
La préfecture de police de Paris a autorisé par arrêté vendredi (19 juillet) l’utilisation expérimentale d’outils de vidéosurveillance algorithmique (VSA) dans 46 stations de métros parisiennes, en cohérence avec la loi des Jeux Olympiques et Paralympiques du 19 mai 2023, qui fixe le cadre légal de l’expérimentation jusqu’à fin mars 2025.
« L’utilisation de la VSA dans 46 stations de métro parisiennes, même celles où ne se dérouleront aucun événement sportif, interroge quant à la finalité de leur emploi », explique Noémie Levain, chargée d’analyses juridiques et politiques au sein de l’association de défense des droits et libertés La Quadrature du Net.
« Est-ce que les caméras installées à la station de métro République vont par exemple surveiller les personnes qui vont manifester ? », s’interroge Noémie Levain.
Selon le ministère de l’Intérieur, seules certaines situations comme les « mouvements de foule », les moments où la « densité de personnes est trop importante », ou quand on note la « présence d’objets abandonnés » feront l’objet de détection par intelligence artificielle (IA) au sein des réseaux de transports en commun.
Pour Katia Roux, spécialiste des technologies et des droits humains à Amnesty International France, ces cas d’usages comportent cependant des risques et peuvent ou pourront à terme mener à des abus, leurs définitions étant parfois trop larges.
Les événements que les logiciels d’IA ont été entraînés à détecter vont de « la présence ou utilisation d’armes », aux « départs de feu », ce qui ne pose pas de problème a priori, mais inclus aussi le « non-respect du sens de circulation », qui interroge les experts sur l’interprétation large de ce type d’événement.
Respecter le cadre légal
L’expérimentation des solutions d’intelligence artificielle se fait « dans un cadre légal clair et préservateur des libertés fondamentales et individuelles », rassure le site du ministère.
Les outils déployés ne permettent pas la reconnaissance faciale et les algorithmes d’IA ont seulement été entraînés à détecter huit situations à risques, est-il expliqué.
Le cadre légal de l’utilisation de la VSA a par ailleurs été validée par le Conseil constitutionnel en mai 2023.
Le règlement européen sur l’intelligence artificielle (AI Act), qui entre en application le 1er août 2024, autorise les États membres, au titre de leur sécurité intérieure, à utiliser des logiciels d’intelligence artificielle d’identification biométrique, en temps réel et à distance.
Or, « la vidéosurveillance algorithmique peut analyser des données biométriques (données corporelles, comportementales, démarche), qui sont des données personnelles protégées », ajoute Katia Roux.
Pour cette dernière, la VSA est à ce titre une « technologie très intrusive qui, comme la reconnaissance faciale, représente une menace pour les droits fondamentaux ».
L’étape d’après
Le ministère assure que la VSA permet de « détecter des situations inhabituelles, sans jamais prendre le pas sur la décision [prise par des humains] ».
Cependant, « c‘est une décision politique de vouloir cette technologie », explique Noémie Levain. « Le but est de valider la croyance que l’outil peut servir, en éludant ses problèmes », continue-t-elle, en évoquant les questions de surveillance de masse, de biais des algorithmes d’intelligence artificielle ou de dangers de renforcement des discriminations.
En effet, les organisations de protection des libertés fondamentales en ligne alertent sur « l’étape d’après », et craignent que les parlementaires étendent l’expérimentation à de nouveaux cas d’usages, ou ne pérennisent l’utilisation de la VSA en France après mars 2025, une option ouvertement suggérée dans un rapport du Sénat.
Or, « les technologies qui permettent la surveillance de masse […] sont tout simplement incompatibles avec les droits humains », rappelle Katia Roux.
La loi sur l’IA interdit l’utilisation de la surveillance de masse en temps réel grâce à l’identification biométrique. Toutefois, la Commission n’a pas encore déterminé exactement les situations qui sont couvertes par cette disposition et celles qui en sont exemptées.
Une technologie qui n’est pas « mature »
Les solutions déployées lors des jeux olympiques ne sont pas matures, a confirmé la Sénatrice Agnès Canayer (Les Républicains, PPE) en avril 2024, lors d’une conférence de presse sur la mission d’information sur l’application de la loi Jeux Olympiques et Paralympiques (JOP).
« Les jeux olympiques ne seront pas la finalité de la vidéosurveillance algorithmique mais le moment de tester l’utilité de cette technologie », a-t-elle dit.
La loi JOP prévoyait à l’origine l’utilisation expérimentale d’IA d’analyses à distance et en temps réel d’images prises par des drones, cependant, les solutions déployées ne le seront que sur des caméras fixes.
[Édité par Laurent Geslin]
