AI Act : des experts alertent sur le fait que la technologie pourrait dépasser la règlementation

L’une des dispositions les plus importantes du règlement sur l’IA (AI Act) visant à évaluer les risques des modèles de fondation tels que le ChatGPT pourrait devenir obsolète d’ici un an au vu du rythme auquel les technologies évoluent, ont expliqué des experts à Euractiv.

Le AI Act, première législation aussi exhaustive au monde à règlementer l’intelligence artificielle, se base sur le potentiel de nuisance de l’IA. Après des années d’intenses négociations, la loi a été approuvée par le Parlement européen avec une large majorité mercredi (13 mars).

Le texte distingue les risques posés par les modèles de fondation en fonction de la puissance de calcul utilisée pour les former. Les modèles de fondation, également appelés « IA à usage général », sont particulièrement puissants en raison de leur multitude d’utilisations.

En vertu du AI Act, les modèles d’IA à usage général qui ont été entraînés avec une puissance de calcul totale supérieure à 10^25 opérations en virgule flottante par seconde (FLOPS) — soit 10 yottaFLOPS — sont considérés comme présentant des risques systémiques car plus puissants et sont soumis à des règles plus strictes.

Cependant, Dragoş Tudorache, corapporteur sur le dossier, a expliqué que les règles pourraient bientôt devenir obsolètes.

« D’ici à ce que les règles pour les modèles de fondation soient applicables [dans 12 mois], soit il y aura quatre ou cinq grands modèles qui passeront ce seuil […], soit un nouveau bond en avant dans la technologie [réduira la puissance de calcul nécessaire pour former des modèles de fondation puissants] », a-t-il confié à Euractiv.

À l’heure actuelle, seuls les modèles Gemini de Google et ChatGPT d’OpenAI dépassent le seuil fixé, a ajouté M. Tudorache.

Lors d’un autre entretien avec Euractiv, Sandra Wachter, professeure de technologie et de réglementation à l’Oxford Internet Institute, a expliqué être d’accord avec cette analyse.

Puisque les technologies de l’IA progressent à une vitesse vertigineuse, le AI Act est doté d’une certaine flexibilité, y compris en ce qui concerne les modèles de fondation, a déclaré M. Tudorache.

Le seuil de FLOPS « confond le calcul et le risque », qui sont deux choses distinctes, a indiqué Mme Wachter à Euractiv. Indépendamment de leur taille, ces modèles présentent toutes sortes de risques liés à la partialité, à la désinformation, à la protection des données et aux « hallucinations », a-t-elle ajouté.

Entre-temps, les ingénieurs du monde entier s’efforcent de réduire la lourdeur des calculs, encouragés non pas par la loi sur l’IA, mais par les coûts.

L’influente société américaine de capital-risque a16z a qualifié l’entraînement de ces modèles de « l’une des tâches les plus intensives en termes de calcul que l’humanité ait entreprises jusqu’à présent ». C’est pourquoi les entreprises tentent de réduire les coûts astronomiques associés à une telle puissance de calcul.

L’avenir du seuil

La classification de la puissance de calcul totale n’est considérée que comme une première étape et pourra être revue par la Commission au même titre que d’autres définitions et catégorisations de la loi sur l’IA. Il n’y a pas de calendrier préétabli pour la révision du critère des flops, c’est à la Commission de le faire par le biais d’un acte délégué.

Toutefois, le processus de révision ne sera pas évident.

L’inclusion des modèles de fondation dans la législation n’avait pas été envisagée au départ, mais elle est devenue impérative avec l’explosion du ChatGPT en 2022. La manière de les réglementer a fait l’objet de vives controverses, à tel point que les négociations ont failli être interrompues en novembre 2023 à cause de cette question.

La partie de la loi sur l’IA concernant les modèles de fondation « était le résultat d’un lobbying » et son impact est encore inconnu, a déclaré à Euractiv Merve Hickok, présidente et directrice de recherche du Center for AI and Digital Policy.

[Édité par Anne-Sophie Gayet]