Les Pays-Bas prennent les devants en matière de supervision des algorithmes

Le gouvernement néerlandais devrait être l’un des premiers à mettre en œuvre plusieurs dispositions importantes de la future législation européenne visant à réglementer l’intelligence artificielle (IA) dans le cadre d’un ambitieux programme de travail pour la numérisation.

Ces dernières années, les Pays-Bas ont été au cœur d’un scandale de grande ampleur en raison d’un algorithme défectueux qui a conduit les autorités fiscales à accuser à tort des milliers de personnes de fraude aux allocations familiales.

La Haye tente aujourd’hui d’être le fer de lance du contrôle des algorithmes sous l’angle des droits de l’homme et de la création d’une base de données nationale pour assurer le suivi des systèmes d’IA utilisés par les organismes publics. Elle anticipe ainsi deux aspects du règlement européen sur l’IA (AI Act), une législation phare visant à réglementer les applications d’IA en fonction de leur potentiel de nuisance.

« Le règlement sur l’IA devrait conduire à des systèmes d’IA explicables, qui respectent les droits de l’homme et mènent à une transparence significative qui génère de la confiance, ce qui est, bien sûr, une composante essentielle d’un marché de l’IA florissant et est également important dans une démocratie », a confié à EURACTIV la secrétaire d’État néerlandaise à la Numérisation Alexandra van Huffelen.

Le programme de travail adopté par le gouvernement comprend également de nouvelles initiatives visant à favoriser les compétences numériques et un portefeuille numérique.

Registre public et supervision

À compter du 1er janvier 2023, un nouvel organe de surveillance appliquera un ensemble de nouvelles règles qui anticipent les futures règles de l’UE en matière d’obligations de transparence, de marquage de conformité (CE) et de droit de porter plainte.

De même, le mois prochain, le gouvernement néerlandais mettra en place un registre d’algorithmes obligatoire pour l’IA utilisée par les organismes publics, de l’administration centrale aux autorités locales. La logique derrière cette décision est que, pour bénéficier effectivement du droit de recours, les citoyens doivent savoir qu’une IA est utilisée.

Dans la version initiale du règlement sur l’IA, seuls les fournisseurs de systèmes d’IA à haut risque étaient tenus de s’enregistrer dans une base de données européenne. Toutefois, suite à la pression exercée par, entre autres, les Pays-Bas, cette obligation a été étendue aux autorités publiques qui utilisent un système d’IA.

L’un des modèles de registre de transparence des algorithmes est celui de la ville d’Amsterdam, qui a été mis en place sur base volontaire par trois groupes différents : la population générale, les fonctionnaires et les experts techniques.

« Nous devons travailler ensemble avec les entreprises. Sinon, nous ne pouvons pas rendre nos algorithmes transparents. Les services informatiques sont résolument intéressés par une ouverture et un dialogue », a déclaré un représentant de la municipalité d’Amsterdam lors d’un événement au Parlement européen la semaine dernière.

Évaluation de l’impact

En outre, les autorités publiques devront évaluer l’impact des algorithmes sur les droits de l’homme avant de les utiliser.

À cette fin, le gouvernement néerlandais a mis au point une étude d’impact de l’IA afin d’évaluer les risques du dispositif pour les droits de l’homme. En cas de résultat favorable, le système recevra un marquage de conformité.

« Évaluer l’IA consiste non seulement à examiner la technologie, mais aussi le contexte dans lequel cette technologie est utilisée. Nous ne voulons pas regarder aveuglément une boîte noire. Il est important de tenir compte de la manière dont cette boîte noire est utilisée », a déclaré Mirko Schafer, professeur associé à l’Université d’Utrecht et co-auteur de l’évaluation d’impact, dans le cadre du même événement.

M. Schafer a expliqué que l’évaluation se fonde sur le contexte et la valeur ajoutée de l’utilisation des algorithmes, la manière dont les modèles ont été entraînés, les mesures d’atténuation des risques en place, la fréquence à laquelle l’IA doit être révisée et les implications potentielles sur les droits de l’homme.

Le registre est rendu public pour que les organes de surveillance puissent juger du processus de délibération, auquel les organisations de la société civile et les journalistes peuvent également assister. Le registre deviendra obligatoire pour les entreprises privées une fois que le règlement sur l’IA sera adopté.

Mme van Huffelen estime que l’analyse d’impact néerlandaise ne va pas au-delà de la position du Conseil de l’UE sur le règlement sur l’IA, qui, selon elle, est suffisamment solide.

« Les Pays-Bas s’engagent à veiller à ce que cette position ne soit pas édulcorée lors des futures négociations », a-t-elle ajouté.

Compétences numériques

Les autorités néerlandaises estiment que 20 % de la population des Pays-Bas ne possède pas de compétences numériques de base. Ce phénomène ne se limite pas aux personnes non instruites puisqu’il touche également celles qui doivent suivre une nouvelle formation pour acquérir les compétences numériques nécessaires à l’exercice de professions actuelles.

L’agenda prévoit également de nouveaux programmes de formation aux compétences numériques pour enseigner le codage dès l’école primaire et le collège. De nouvelles offres de formation les accompagneront également au niveau régional, avec notamment pour objectif de former ou requalifier les personnes en décrochage scolaire à des compétences numériques avancées.

La Haye introduira également des points d’information numériques dans les bibliothèques publiques, où les citoyens pourront obtenir de l’aide pour accéder aux services publics essentiels en ligne. À cet égard, le gouvernement néerlandais travaille également à la création d’un portefeuille numérique qui anticipe la future règlementation européenne.

Ce portefeuille comprendra non seulement la carte d’identité nationale, mais aussi tous les documents publics tels que les permis de conduire, l’assurance maladie et les diplômes. Il respectera le principe de minimisation des données selon lequel les données doivent être limitées à ce qui est nécessaire au regard des finalités pour lesquelles elles sont traitées. Ainsi, si un magasin l’utilise pour vérifier l’âge d’une personne, il ne pourra pas accéder à d’autres informations telles que l’adresse personnelle, par exemple.

Une version bêta du portefeuille est attendue dans les semaines à venir, le lancement officiel étant prévu pour 2023.

[Édité par Anne-Sophie Gayet]