IA : un projet de loi californien controversé pourrait améliorer l’AI Act de l’UE

Selon plusieurs experts, un projet de loi californien controversé sur les modèles d’intelligence artificielle (IA) les plus puissants pourrait inspirer et renforcer la règlementation de l’UE en matière d’IA. Toutefois, alors que le texte entre dans la phase finale du processus législatif, il se heurte à l’opposition du secteur et des démocrates au Congrès américain.

Le projet de loi du Sénat californien (SB) 1047 imposerait aux développeurs de modèles d’IA qui coûtent plus de 100 millions de dollars à entraîner de suivre et de publier un plan de sûreté et de sécurité (SSP) afin d’éviter que leurs modèles ne causent des « dommages critiques », à savoir des pertes massives ou des dommages matériels d’un montant supérieur à 500 millions de dollars.

« C’est un excellent projet de loi » dont l’UE devrait « s’inspirer » pour mettre en œuvre son règlement sur l’intelligence artificielle (AI Act), explique à Euractiv Yoshua Bengio, professeur lauréat du prix Turing et président du groupe consultatif international d’experts sur la sécurité de l’IA avancée, parrainé par le Royaume-Uni.

Yoshua Bengio salue le projet de loi, car il « ne prescrit pas une manière particulière d’évaluer la sécurité de l’IA et de la limiter », étant donné qu’il s’agit d’un domaine évolutif sur lequel les entreprises et les chercheurs travaillent encore.

Le Bureau de l’IA (AI Office) de la Commission a « suivi de près le projet de loi californien par l’intermédiaire du bureau de la Commission à San Francisco » et a rencontré des représentants du Sénat californien au début de l’été pour « échanger des points de vue et expliquer l’AI Act », a indiqué un fonctionnaire de la Commission à Euractiv.

« Renforcer » et « compléter » ce que fait Bruxelles

Ayant déjà inspiré d’autres États avec sa propre loi sur la protection de la vie privée face à un Congrès américain bloqué, ainsi qu’avec un projet de loi sur le marquage en filigrane (watermark) des IA soutenu par OpenAI, la Californie, haut lieu d’innovations technologiques, pourrait produire un effet similaire en prenant les devants en matière de règlementation de l’IA.

Si elle est adoptée, la loi SB 1047 « renforcerait la main de l’UE » en matière de règlementation de l’IA en contrant « l’argument selon lequel l’Europe ne fait que s’en prendre aux entreprises américaines », a indiqué à Euractiv Pierre Larouche, professeur de droit à l’Université de Tilburg et chercheur au Centre sur la règlementation en Europe (CERRE).

En outre, le projet de loi « réduirait les compromis du côté de l’UE », affirme Simeon Campos, expert en gestion des risques liés à l’IA et PDG de SaferAI. Si le projet de loi californien entraîne déjà des coûts de conformité pour les entreprises spécialisées dans l’IA qui opèrent au sein de cet État, « l’augmentation des coûts pour se conformer à l’AI Act serait moins importante », explique-t-il.

L’AI Act est entré en vigueur le 1er août, et le Bureau de l’IA dirige désormais un processus multipartite visant à élaborer un code de bonnes pratique des IA à usage général (GPAI), qui détaillera ce que les développeurs opérant au sein de l’UE devront faire pour se conformer à cette règlementation.

« Les exigences de transparence de la loi SB 1047 sont plus détaillées que celles de l’AI Act », et le développement de plans de sûreté et de sécurité (SSP) en Californie « permettra des dialogues plus productifs » lors de l’élaboration du code européen, ce qui permettra en retour d’améliorer les SSP californiens, souligne Simeon Campos.

Ce projet législatif pourrait également compléter l’AI Act d’autres manières. Pour Pierre Larouche, « l’UE ne peut pas se prononcer fermement sur la question [de la sécurité nationale] » comme le fait la loi SB 1047.

Mais il ajoute tout de même : « si j’étais à Paris ou à Berlin, je suis sûr que j’étudierais cela de près ».

Une opposition ferme

Dans des lettres adressées aux autorités régulatrices, Meta, OpenAI (créateur du ChatGPT) et Google se sont opposés au projet de loi, affirmant qu’il allait « mettre en péril le développement de l’IA en open source », « menacer la croissance » et « faire fuir l’innovation en matière d’IA hors de Californie ».

Le projet de loi SB 1047 est « bien intentionné, mais mal documenté », confie à Euractiv Khara Boender, directrice politique dans l’État de Californie à la Computer and Communications Industry Association (CCIA). Pour elle, le projet de loi « règlemente la technologie plutôt que son utilisation ». Elle compare notamment cette approche à celle qui consiste à rendre les compagnies de téléphone responsables des escroqueries téléphoniques.

Pourtant, tout le secteur de l’IA n’est pas en accord sur ce point. Après que le projet de loi a intégré un grand nombre de changements suggérés, le laboratoire de l’IA de l’entreprise américaine Anthropic a déclaré la semaine dernière que « les avantages du projet de loi semblaient l’emporter sur ses coûts », et Elon Musk, PDG de xAI, a écrit sur X mardi 27 août que la Californie devrait « probablement adopter le projet de loi ».

Bien qu’interrogés par Euractiv, Meta, Google, Anthropic et OpenAI n’ont pas répondu à temps pour la publication de cet article ou ont répondu par des déclarations antérieures.

Le dernier mot revient au gouverneur californien

Le projet de loi doit être adopté par l’Assemblée californienne d’ici samedi 31 août et, après amendements, devra être réapprouvé par le Sénat de l’État de Californie avant d’atteindre le bureau du gouverneur californien Gavin Newsom.

Préférant une législation fédérale, les démocrates du Congrès, dont l’ancienne présidente de la Chambre des représentants, Nancy Pelosi, et la Chambre de commerce des États-Unis, ont exhorté Gavin Newsom à apposer son veto au projet de loi.

Le projet de loi ayant déjà été adopté par le Sénat à une majorité de 32 contre 1, et ayant passé sans encombre les différents votes en commission avec un fort soutien de l’opinion publique — 77 % selon les partisans — Gavin Newsom pourrait bien se retrouver à être l’élément décisif.

Le veto du gouverneur peut être renversé par une majorité de deux contre un à l’assemblée et au Sénat californiens, mais cela ne s’est pas produit en Californie depuis 1979.

[Édité par Anne-Sophie Gayet]