Mise à jour des obligations de transparence dans le dernier compromis sur la législation relative à l’IA

La présidence française du Conseil de l’Union européenne (PFUE) a publié un nouveau texte de compromis sur la législation sur l’intelligence artificielle (IA), proposant, entre autres, des modifications des exigences de transparence sur les différents systèmes d’IA.

Le document, obtenu par EURACTIV, est daté du 13 mai et doit être examiné mardi (17 mai). Il constitue le dernier d’une série de textes de compromis émis par la France, qui assure la présidence tournante du Conseil de l’UE jusqu’à la fin du mois de juin.

La loi sur l’IA, proposée par la Commission européenne en avril 2021, adopte une approche horizontale de la réglementation fondée sur le risque, en instaurant des exigences en fonction du degré de risque que les différents systèmes d’IA sont censés présenter.

Les récents textes de compromis ont inclus des propositions visant à modifier la structure du Comité européen de l’intelligence artificielle, l’organe qui conseillera sur la mise en œuvre de la législation, les pouvoirs des autorités de surveillance du marché et la portée des codes de conduite de la législation.

Parmi les modifications apportées au dernier texte figure l’inclusion d’une définition d’un « système d’IA à usage général ».

Le texte précise qu’il s’agit d’un système prévu par son fournisseur pour « exécuter des fonctions d’application générale telles que la reconnaissance d’images et de la parole, la génération audio et vidéo, la détection de formes, la réponse à des questions, la traduction et autres » dans une variété de contextes et intégré dans une pluralité d’autres systèmes.

Le texte met également à jour les obligations de transparence prévues par le règlement afin, précise-t-il, de mieux équilibrer les obligations imposées aux vendeurs de ces systèmes à usage général et celles qui s’appliquent aux vendeurs de systèmes présentant un risque élevé.

En vertu du nouveau texte, les systèmes à usage général susceptibles d’être utilisés en tant que systèmes d’IA présentant un risque élevé, ou au sein de ces systèmes, devront se conformer aux obligations existantes couvrant des domaines tels que la mise en place de systèmes de gestion des risques, la gouvernance des données et les mesures visant à renforcer les taux de pertinence et la cybersécurité.

Toutefois, les micros, petites et moyennes entreprises ont été exemptées de ces exigences. Les microentreprises ont également été exemptées des obligations définies à l’article 17 de la loi, qui exige des fournisseurs qu’ils mettent en place et documentent des systèmes de gestion de la qualité pour garantir la conformité.