AI Act : la Commission européenne tente de relancer l’approche par niveaux pour l’IA à usage général

La Commission européenne a diffusé dimanche (19 novembre) un projet de compromis sur la règlementation sur l’intelligence artificielle (AI Act) pour sortir de l’impasse sur les modèles de fondation. L’exécutif de l’UE propose d’appliquer la même approche par niveaux que celle des IA à usage général et d’introduire des codes de conduite pour les modèles présentant des risques systémiques.

Le AI Act de l’UE est la première loi à proposer de règlementer l’intelligence artificielle en fonction de ses risques. La proposition se trouve actuellement dans la dernière phase du processus législatif, les négociations interinstitutionnelles (ou trilogues) entre le Conseil de l’UE, le Parlement européen et la Commission.

Ces dernières semaines, les responsables politiques de l’UE ont eu beaucoup de mal à se mettre d’accord au sujet de la règlementation de puissants modèles de fondation tels que GPT-4. Ce modèle, qui alimente l’agent conversationnel le plus célèbre au monde, ChatGPT, un système polyvalent qualifié « d’IA à usage général ».

Le 10 novembre, Euractiv révélait que l’ensemble de la règlementation risquait de tomber à l’eau en raison d’une incompatibilité de points de vue. En effet, la France, l’Allemagne et l’Italie se sont opposées à l’approche par niveaux initialement envisagée pour la règlementation des modèles de fondation et se sont également opposées à toute règlementation autre que la mise en place de codes de conduite.

Cependant, ne pas prévoir d’obligations règlementaires pour les modèles de fondation n’est pas envisageable pour le Parlement européen. Les eurodéputés impliqués dans les discussions sur le dossier se réunissent ce mardi (21 novembre) pour discuter des modèles de fondation, de la gouvernance et de la mise en œuvre de la législation.

Dimanche (19 novembre), la Commission européenne a présenté un compromis avec les co-rapporteurs du dossier au Parlement européen, qui l’ont partagé avec leurs collègues le lendemain. Le texte maintient l’approche règlementaire par niveaux, mais se concentre sur les IA à usage général, allège les obligations et introduit des codes de conduite.

Modèles et systèmes d’IA à usage général

Le texte a été considérablement remanié par rapport à celui qui avait été diffusé par la présidence espagnole du Conseil de l’UE, et par rapport aux commentaires des eurodéputés en charge du dossier au début du mois. Le texte fait désormais la distinction entre les modèles et les systèmes d’IA à usage général.

« Un “modèle d’IA à usage général” désigne un modèle d’IA, y compris lorsqu’il est entraîné avec une grande quantité de données en utilisant l’apprentissage auto-supervisé à grande échelle, qui est capable d’effectuer un large éventail de tâches distinctes, indépendamment de la manière dont le modèle est mis sur le marché », peut-on lire dans la nouvelle définition.

En revanche, un « système d’IA à usage général » serait « basé sur un modèle d’IA qui a la capacité de remplir diverses fonctions, à la fois pour une utilisation directe comme pour une intégration à d’autres systèmes d’IA ».

L’idée est que les modèles d’IA à usage général peuvent comporter des risques systémiques liés à des « modèles de pointe » (frontier capabilities ou frontier AI), qui sont des modèles aux capacités les plus élevées et générales qui pourraient présenter des risques nouveaux. Dans leurs notes, les co-rapporteurs remettent en question la terminologie utilisée et l’imprécision du texte.

Outre ce critère, le document classifie également les modèles d’IA à usage général présentant des risques systémiques à l’aide d’un seuil quantitatif : la puissance de calcul utilisée pour leur apprentissage. Celle-ci est mesurée grâce à l’unité de mesure des opérations à virgule flottante par seconde (floating-point operation per seconds, FLOPS), qui  permet de mesurer la performance des ordinateurs. Le seuil a été fixé à toute opération plus grande qu’une capacité de calcul à 10 puissance 26, soit 100 yottaFLOPS.

Selon le texte de compromis, la Commission aurait le droit d’adopter des actes pour préciser davantage les éléments techniques des modèles d’IA à usage général et actualiser les critères de référence en fonction de l’évolution du marché et de la technologie.

Les co-rapporteurs du dossier ont demandé à ce que la Commission soit chargée de mettre à jour la définition des modèles d’IA à usage général et de proposer une clause supplémentaire exigeant que l’exécutif de l’UE développe une méthodologie d’évaluation de la puissance de calcul des modèles dans un délai de 18 mois à partir de la date d’entrée en vigueur de la législation.

Comme pour le règlement sur les services numériques (Digital Services Act, DSA), les fournisseurs de modèles d’IA à usage général qui atteignent le seuil fixé doivent le notifier à la Commission. Toutefois, le texte prévoit la possibilité pour les fournisseurs de demander une dérogation, sous couvert que leur modèle n’a pas de capacités de pointe — une disposition que les co-rapporteurs estiment superflue.

La Commission pourrait également désigner de sa propre initiative des modèles d’IA à usage général présentant des risques systémiques.

Obligations pour les modèles d’IA à usage général

Le texte prévoit des règles horizontales pour tous les modèles d’IA à usage général, qui exigeraient une documentation technique actualisée sous la forme de spécifications techniques — une proposition qui figure également dans le document non officiel diffusé par la France, l’Allemagne et l’Italie.

Ces spécifications techniques contiendraient des informations sur le processus d’entraînement, les stratégies d’évaluation et des informations suffisantes pour les opérateurs économiques en aval qui souhaitent développer à partir du modèle un nouveau système d’IA conforme à la législation. Un nombre minimum d’éléments qui doivent y figurer est détaillé dans une annexe du texte.

En ce qui concerne les droits d’auteur, le texte se contente d’indiquer que les fournisseurs de modèles doivent mettre en œuvre une politique visant à respecter la directive européenne sur le droit d’auteur, en particulier la réserve de droits. En outre, un « résumé suffisamment détaillé » du corpus utilisé pour entraîner le modèle devra être rendu public.

Les contenus de synthèse, tels que les textes et les images, devront être marqués sous un format lisible et détectable par une machine afin de signaler qu’ils ont été générés ou manipulés artificiellement.

Risques systémiques

Les modèles présentant des risques systémiques sont soumis à des exigences supplémentaires, notamment la mise en place de mesures internes et la collaboration avec la Commission pour identifier les risques et élaborer des mesures d’atténuation possibles, y compris au moyen d’un code de conduite conforme aux approches internationales.

Les fournisseurs devront également surveiller et signaler immédiatement à la Commission ou aux autorités nationales, le cas échéant, tout incident grave et les mesures correctives à prendre.

Codes de conduite

Dans le texte de compromis, un nouvel article est consacré aux codes de conduite que la Commission devrait aider à élaborer, ce qui semble être une réponse au document officieux rédigé par la France, dans lequel elle demandait des codes de conduite conformes aux principes établis dans le cadre du processus d’Hiroshima du G7.

Les codes de conduite devraient couvrir au moins les obligations de transparence pour tous les modèles d’IA à usage général, comme les spécifications techniques et les modèles de résumé, l’identification des risques systémiques au niveau de l’UE, l’évaluation des risques et les mesures visant à les atténuer, y compris pour éviter qu’ils ne se propagent le long de la chaîne de valeur.

Les fournisseurs de modèles d’IA à usage général et les autorités nationales concernées participeraient à l’élaboration des codes de conduite, avec le soutien de la société civile et d’autres parties prenantes. Les codes devraient comprendre des indicateurs clés de performance et des rapports réguliers sur la mise en pratique des engagements.

La Commission pourrait approuver un code de conduite considéré comme contribuant à la mise en œuvre de la législation sur l’IA, ce qui permettrait aux membres adhérents de bénéficier d’une présomption de conformité avec les obligations du règlement. Le texte ne mentionne pas de sanctions éventuelles.