EXCLUSIF : L'UE demande aux développeurs d'IA de détailler leurs pratiques de sécurité

La Commission européenne a fait usage pour la première fois cette semaine de ses nouveaux pouvoirs en matière d’application de la loi sur l’IA (AI Act), a déclaré la commissaire chargée des technologies, Henna Virkkunen, à Euractiv, en exigeant des informations de la part des principaux développeurs concernant la cybersécurité, la sécurité et le respect des droits d’auteur.

Il s’agit de la première mesure prise par l’UE pour faire respecter l’AI Act, et elle intervient quelques semaines seulement après une série d’incidents de cybersécurité très médiatisés survenus dans plusieurs grands laboratoires d’IA. La loi impose aux développeurs de modèles puissants d’évaluer et d’atténuer les risques potentiels.

Virkkunen n’a pas précisé auprès de quelles entreprises la Commission a sollicité ces informations, mais elle a confirmé que certains développeurs des modèles d’IA « les plus avancés » ont reçu des demandes.

« Cette demande d’informations ne concerne pas tous les fournisseurs, car nous avons déjà entretenu un dialogue très étroit avec certains d’entre eux au cours des derniers mois », a-t-elle indiqué lors d’un entretien.

Anthropic, OpenAI, Google, Meta et Mistral n’ont pas immédiatement répondu lorsque Euractiv leur a demandé si la Commission les avait contactés.

Virkkunen a indiqué que l’UE souhaite s’assurer que les laboratoires concernés ont mis en place de bonnes mesures de cybersécurité et de protection des infrastructures physiques pour leurs modèles.

« Il s’agit avant tout de savoir comment ils atténuent les risques, afin d’empêcher des humains ou l’IA de voler le modèle », a-t-elle ajouté.

Selon Virkkunen, la Commission s’intéresse également au niveau d’accès accordé par les développeurs aux évaluateurs de modèles externes, à la manière dont les recommandations de sécurité émanant de l’extérieur sont prises en compte, ainsi qu’à la façon dont les laboratoires surveillent l’utilisation des modèles une fois qu’une IA est mise à la disposition du public.

Par ailleurs, les autorités de contrôle de l’IA de l’UE ont également demandé à plus de 30 entreprises du secteur de l’IA de détailler la manière dont elles se conforment aux règles européennes en matière de droits d’auteur.

En vertu de l’AI Act, les modèles d’entraînement des laboratoires doivent fournir un résumé des données utilisées pour développer leur technologie. Jusqu’à présent, beaucoup n’ont fourni que des informations sommaires, voire aucune, comme l’a rapporté Euractiv précédemment.

Virkkunen a déclaré que la Commission a contacté les développeurs qui n’ont pas publié le formulaire relatif aux données d’entraînement ou qui n’ont pas répondu aux demandes informelles concernant le respect des droits d’auteur.

Les entreprises sont légalement tenues de fournir à la Commission les informations qu’elle demande officiellement afin de faciliter le contrôle de l’application de l’AI Act. Si une demande reste sans réponse, la Commission peut intensifier la procédure en émettant une nouvelle demande, à l’issue de laquelle les entreprises s’exposent à une amende pour défaut de réponse.

De plus, l’étendue des pouvoirs de la Commission en matière d’application de l’AI Act lui permet de procéder à des évaluations de modèles ou de demander aux entreprises de prendre des mesures spécifiques. En dernier recours, elle peut infliger des amendes pour non-conformité pouvant atteindre 3 % du chiffre d’affaires annuel d’une entreprise.

(nl)