Les eurodéputés appellent à mieux réguler l'intelligence artificielle face aux discriminations
« Nous nous sommes battus durant des décennies pour affirmer nos valeurs d’inclusion, de non-discrimination, de multilinguisme et de diversité culturelle. Ces valeurs doivent aussi être reflétées en ligne », selon la rapporteure Sabine Verheyen.
La Commission de la culture et de l’éducation du Parlement européen a voté la semaine dernière une résolution appelant à encadrer l’intelligence artificielle (IA) pour « réduire les préjugés de genre, sociaux ou culturels dans les technologies ».
Soucieuse de l’impact que peut avoir le recours aux technologies utilisant l’intelligence artificielle sur « la colonne vertébrale des valeurs et des droits fondamentaux de notre société », la Commission de la culture et de l’éducation du Parlement européen appelle à davantage de réglementation.
Dans sa résolution, adoptée par 25 voix pour et 4 abstentions, les eurodéputés soulignent que « pour être éthique, l’IA doit être développée, déployée et utilisée de manière durable et socialement responsable, en suivant une stratégie d’égalité des sexes, en respectant la diversité culturelle, en promouvant la culture numérique, en comblant la fracture numérique et en préservant les droits de propriété intellectuelle ».
Ils notent également « l’importance cruciale d’une vision et d’une stratégie cohérentes au niveau de l’Union afin de réaliser un véritable marché unique numérique au sein d’une société propulsée par l’IA qui profiterait pleinement aux utilisateurs ».
S’ils souhaitent lutter contre l’utilisation des données biaisées qui pourraient reproduire ou creuser les inégalités de genre ou les discriminations sociétales déjà existantes, les députés européens demandent également à ce qu’un « cadre éthique clair » permette de garantir la diversité culturelle et linguistique dans le milieu culturel et les médias – en encadrant les recommandations de contenu fondées sur des algorithmes, pour les services de streaming par exemple, pour préserver la diversité européenne.
« Nous nous sommes battus durant des décennies pour affirmer nos valeurs d’inclusion, de non-discrimination, de multilinguisme et de diversité culturelle que nos citoyens estiment essentielles à notre identité européenne. Ces valeurs doivent aussi être reflétées en ligne », a déclaré la rapporteure Sabine Verheyen (Parti populaire européen) à l’issue du vote.
La résolution, qui doit encore être adoptée en session plénière, fait suite au Livre blanc sur l’IA de l’UE qui appelait à une « approche européenne de l’excellence et de la confiance ».
La Commission devrait proposer un cadre législatif sur le sujet en avril 2021.
Un label pour une « IA inclusive »
« Au delà des aspects de discrimination, c’est un modèle de société qui est en jeu » explique Cristina Lunghi, présidente-fondatrice d’Arborus, un fonds de dotation qui œuvre pour l’égalité entre les hommes et les femmes, notamment dans l’entreprise, à travers la délivrance de plusieurs labels, à EURACTIV France.
« A l’échelle mondiale, [le manque de diversité] créé des déséquilibres économiques, sociétaux et climatiques », déplore-t-elle.
En septembre dernier, l’équipe d’Arborus a lancé un nouveau label, GEEIS IA, spécifiquement dédié à l’usage de l’intelligence artificielle dans le monde du travail. « On y réfléchissait déjà, sur la digitalisation, sur la numérisation des métiers, sur la transition numérique » avant la crise sanitaire, raconte Mme Lunghi, mais face à « l’accélération très forte de l’IA pendant la pandémie », « on s’est dit qu’il y avait un vrai sujet sur les outils informatiques ».
« On s’est rendu compte que l’algorithme n’est que le reflet des biais humains. Ces biais étant extrêmement masculins, sexistes et discriminants, finalement l’algorithme ne faisait qu’amplifier » ce phénomène, souligne-t-elle.
En amont du lancement de ce label, Arborus avait inauguré le 21 avril 2020 la « Charte internationale pour une I.A. inclusive ». Cette charte engage les entreprises signataires, dont Orange, Danone, EDF ou encore L’Oréal, à « promouvoir la mixité et la diversité dans les équipes qui travaillent sur des solutions à base d’IA », à « sensibiliser et responsabiliser les concepteurs, développeurs et tous les acteurs impliqués dans la fabrique de l’IA, aux stéréotypes, aux biais pouvant générer des discriminations » tout en s’assurant de « la qualité des données utilisées pour garantir des systèmes les plus équitables possible ».
S’il y a évidemment un travail à faire sur la technicité des outils propulsés par l’IA, Arborus mise sur la sensibilisation et la formation des acteurs, de la conception à l’utilisation mais également sur la diversité au sein même des équipes qui travaillent sur les produits. « On se rend compte en Europe qu’on est même pas à 20% de femmes dans les filières de l’IA, qui sont les métiers du futur », regrette Mme Lunghi.
Orange, membre fondateur de la fondation Arborus, sera le premier groupe à recevoir le label, le mois prochain. Les labels sont accordés pour une durée de 4 ans, avec un audit intermédiaire au bout de deux années conduit par Bureau Veritas.
