Loi sur l'IA : la présidence tchèque propose une définition plus étroite de l'IA

La présidence tchèque du Conseil de l’UE a proposé une définition plus étroite de l’intelligence artificielle (IA), une liste révisée et raccourcie des systèmes à haut risque, un rôle plus important pour le Comité de l’IA et une exemption de sécurité nationale reformulée.

Prague a partagé le premier compromis complet sur la loi sur l’IA vendredi (15 juillet), obtenu par EURACTIV. Le texte servira de base à la discussion au sein du groupe de travail sur les Télécommunications mercredi (20 juillet), la dernière réunion avant la pause estivale.

« La présidence tchèque a l’intention de présenter les changements apportés dans la deuxième proposition de compromis, couvrant les quatre sujets présentés dans le document sur les options politiques et résumés ci-dessous, et invite les délégations à fournir des avis et des commentaires à caractère général », peut-on lire dans le document.

Définition

La définition de l’IA a été considérablement réduite à un système conçu avec un certain niveau d’autonomie pour atteindre un ensemble donné d’objectifs définis par l’homme en utilisant l’apprentissage automatique et/ou des approches logiques ou basées sur la connaissance.

Les définitions des approches d’apprentissage automatique et des approches fondées sur la connaissance ont été ajoutées dans le préambule du texte, qui a également été modifié pour distinguer l’IA des logiciels traditionnels.

« Les concepts de base de la définition d’un système d’IA de l’OCDE [Organisation de coopération et de développement économiques] ont été conservés, et le concept d’autonomie a été inclus dans la définition, conformément à la demande spécifique d’un certain nombre de délégations », indique le document.

La présidence tchèque a inclus une définition et des obligations pour les systèmes d’IA à usage général. Les obligations du règlement s’appliqueraient largement à ce type de système, à moins que le fournisseur d’IA n’exclue toute obligation à haut risque.

Par ailleurs, l’annexe I sur les techniques et approches de l’IA a été supprimée, ainsi que le pouvoir de la Commission de procéder à une mise à jour par le biais d’actes délégués. La Commission serait habilitée à adopter des actes d’exécution visant à préciser ces techniques en fonction des évolutions technologiques.

Systèmes à haut risque

Plusieurs États membres avaient exprimé des craintes quant au fait que le règlement sur l’IA puisse englober des systèmes qui ne présentent pas un risque important de violation des droits fondamentaux. Par conséquent, la présidence tchèque a proposé d’ajouter une couche horizontale à la classification des systèmes à haut risque, en s’inspirant du groupe d’experts de haut niveau sur l’IA et du cadre de classification de l’OCDE.

Cette couche supplémentaire est basée sur l’importance et l’immédiateté des résultats du système dans le processus décisionnel. Cela signifie que l’IA ne peut être considérée comme à haut risque que si elle est immédiatement efficace sans examen humain ou si elle n’est pas un simple accessoire de la décision humaine.

La manière dont ce résultat sera considéré comme significatif dans la prise de décision sera précisée par la Commission via des actes d’exécution. Ces derniers devront également fournir des lignes directrices afin de garantir des conditions de mise en œuvre uniformes.

La liste des cas d’utilisation à haut risque de l’annexe III a été modifiée de manière significative. Les catégories relatives à la mise en place d’assurances, à la catégorisation biométrique, à la protection de l’environnement, au contrôle de la pollution et à la détection de deepfakes ont été supprimées.

En outre, la Commission ne pourra plus ajouter des cas d’utilisation à haut risque à la liste mais également les supprimer, pour autant qu’ils ne présentent plus de risques significatifs ou que leur suppression n’entraîne pas une diminution du niveau global de protection de la santé, de la sécurité et des droits fondamentaux.

Gouvernance et mise en application

Plusieurs États membres se sont inquiétés du fait que l’architecture de gouvernance de la loi sur l’IA était excessivement décentralisée, car « la mise en application au niveau national dans le cyberespace pourrait avoir des limites, notamment en raison de l’insuffisance des capacités et du savoir-faire au niveau des autorités nationales ».

La solution tchèque repose sur deux composantes. La première concerne le Comité européen de l’intelligence artificielle (EAIB), qui soutiendra les autorités nationales dans la mise en application. Il aidera notamment les autorités de surveillance du marché, formera le personnel national et conseillera la Commission sur les questions internationales liées à l’IA.

Dans la mesure où le comité participerait aux activités de mise en application, sa composition a été modifiée pour n’inclure que des représentants des États membres, tandis qu’une nouvelle exigence a été d’établir un sous-groupe permanent servant de plateforme pour un large éventail de parties prenantes, qui serait également consulté pour la rédaction des actes d’exécution.

Deuxièmement, les Tchèques ont proposé un nouvel article exigeant que la Commission désigne une ou plusieurs installations d’essai au niveau de l’UE qui fourniraient des conseils techniques et scientifiques à la Commission ou aux autorités de surveillance du marché.

La Commission pourrait en outre créer un vivier d’experts indépendants qui soutiendraient les activités visant à mettre en vigueur la législation, en apportant notamment leur soutien aux autorités nationales, en donnant des conseils sur les enquêtes transfrontalières et à la Commission en cas de non-respect des pratiques interdites.

Sécurité nationale

À la demande de certains pays de l’UE, l’exemption relative à la sécurité nationale a été clarifiée pour couvrir « les activités concernant la sécurité militaire, la défense ou la sécurité nationale, quel que soit le type d’entité exerçant ces activités ».