Règlement sur l’IA : le cadre de gouvernance des modèles de fondation commence à prendre forme
La présidence espagnole du Conseil de l’UE a proposé une architecture de gouvernance — comprenant notamment un panel scientifique — pour superviser les obligations relatives aux modèles de fondation et aux modèles de fondation à fort impact.
La présidence espagnole du Conseil de l’UE a proposé une architecture de gouvernance — comprenant notamment un panel scientifique — pour superviser les obligations relatives aux modèles de fondation et aux modèles de fondation à fort impact.
Des obligations spécifiques sur les modèles de fondation tels que GPT-4 d’OpenAI, sur lequel est basé ChatGPT, l’agent conversationnel le plus célèbre, sont actuellement discutées dans le contexte du règlement sur l’intelligence artificielle (AI Act). Cette proposition législative vise à règlementer l’IA sur base des risques que présente cette technologie.
Le règlement se trouve dans la dernière phase du processus législatif, les trilogues, qui réunissent le Conseil, le Parlement et la Commission. Ainsi, l’approche proposée par la présidence espagnole du Conseil en matière de gouvernance, présentée dimanche (5 novembre), pourrait avoir une grande influence sur les discussions en cours.
Supervision du modèle de fondation
Le texte indique que la Commission européenne aurait le pouvoir exclusif de superviser les obligations relatives aux modèles de fondation, y compris les modèles « à fort impact » soumis à un régime plus strict.
L’exécutif européen pourrait enquêter sur ces dispositions et les faire appliquer, soit de sa propre initiative, soit à la suite d’une plainte déposée par un fournisseur d’IA ayant conclu un contrat avec un fournisseur du modèle de fondation ou par le panel scientifique nouvellement établi.
La Commission doit définir, par le biais d’actes d’exécution, les procédures permettant de contrôler l’application des obligations imposées aux fournisseurs de modèles de fondation, y compris le rôle du Bureau de l’IA, la nomination du panel scientifique et les modalités de réalisation des audits.
L’exécutif européen aura le pouvoir de mener des audits sur les modèles de fondation « en prenant pleinement en compte l’avis du panel scientifique » afin d’évaluer la conformité du fournisseur avec la législation sur l’IA ou d’enquêter sur les risques pour la sécurité sur la base d’un rapport circonstancié réalisé par ce panel scientifique.
La Commission peut effectuer les audits elle-même ou déléguer la tâche à des auditeurs indépendants ou à des testeurs d’intrusion (red teamers) agréés. Les auditeurs pourraient demander l’accès au modèle par l’intermédiaire d’une interface de programmation d’application (API).
Pour les modèles de fondation à fort impact, la présidence espagnole a proposé des évaluations antagonistes par des testeurs d’intrusion. Elle est d’avis que ces derniers pourraient être rattachés au fournisseur. Toutefois, si la décision politique est de les externaliser, la présidence espagnole a rédigé un article habilitant la Commission à attribuer le statut de « testeur d’intrusion agréé ».
Ces « testeurs agréés » devront faire preuve de compétences particulières, d’indépendance par rapport aux fournisseurs de modèles de fondation, de vigilance, de précision et d’objectivité dans leur travail. La Commission doit établir un registre de « testeurs d’intrusion agréés » et définir la procédure de sélection par le biais d’actes délégués.
Le projet de texte habilite l’exécutif européen, à la suite d’un dialogue avec les fournisseurs de modèles de fondation, à demander à ces derniers de mettre en œuvre des mesures pour se conformer aux exigences de la législation sur l’IA et des mesures d’atténuation des risques si des préoccupations sérieuses sont émises lors des audits.
La Commission pourra également demander la documentation que les fournisseurs de modèles de fondation devront élaborer dans le cadre de leurs obligations, par exemple, sur les capacités et les limites de leur modèle. Cette documentation pourrait être demandée et mise à disposition par un opérateur économique en aval qui a construit une application d’IA sur le modèle de fondation.
Si la documentation fait craindre des risques, la Commission pourrait demander des informations supplémentaires, entamer un dialogue avec le fournisseur et exiger des mesures correctives.
Madrid a également proposé un régime de sanctions pour les fournisseurs de modèles de fondation qui enfreignent les obligations prévues par la législation sur l’IA ou qui ne se conforment pas aux demandes de documentation, d’audit ou de mesures correctives. Aucun pourcentage du chiffre d’affaires mondial total du fournisseur auquel s’élèverait la sanction financière n’a encore été fixé.
Cadre de gouvernance
La présidence espagnole a proposé la création d’un « cadre de gouvernance » pour les modèles de fondation, y compris les modèles « à fort impact », comprenant le Bureau de l’IA et un panel scientifique qui soutiendra les activités de la Commission.
Les activités envisagées consistent à consulter régulièrement la communauté scientifique, des organisations de la société civile et des développeurs sur l’état de la gestion des risques des modèles d’IA et à promouvoir la coopération internationale entre pairs.
Le panel scientifique envisagé aurait pour mission de contribuer à l’élaboration de méthodes d’évaluation des capacités des modèles de fondation, de donner des conseils sur la désignation et l’émergence de modèles de fondation à fort impact, et de surveiller les éventuels risques de sécurité matérielle liés à ces modèles.
Les membres du panel doivent être sélectionnés en fonction de leurs compétences scientifiques ou techniques reconnues dans le domaine de l’IA, ils doivent agir de manière objective et divulguer tout conflit d’intérêts potentiel. Ils peuvent également demander à faire partie de l’équipe de testeurs d’intrusion.
Systèmes dangereux et non conformes
Enfin, la présidence espagnole a proposé une procédure révisée pour traiter les systèmes d’IA non conformes qui présentent un risque important au niveau de l’UE.
Dans des circonstances exceptionnelles où le bon fonctionnement du marché intérieur pourrait être en jeu, la Commission pourrait procéder à une évaluation d’urgence et imposer des mesures correctives, y compris le retrait du produit concerné du marché.
[Édité par Anne-Sophie Gayet]
