L'association de protection de la vie privée Noyb dépose une plainte après une histoire « diffamatoire » par ChatGPT

L’association autrichienne à but non lucratif, Noyb, spécialisée dans la protection de la vie privée, a déposé jeudi une plainte contre OpenAI pour avoir « permis » à son modèle d’inventer une histoire « diffamatoire » de meurtre d’enfant visant un utilisateur norvégien.

Noyb a déposé une plainte auprès de l’autorité norvégienne de protection des données, accusant OpenAI de ne pas respecter le règlement général de l’UE sur la protection des données (RGPD), en ne permettant pas aux utilisateurs de corriger les informations personnelles incorrectes les concernant dans le grand modèle linguistique de ChatGPT.

Il s’agit de la deuxième plainte de ce type déposée par Noyb. Dans une première affaire, le groupe de défense de la vie privée avait demandé à OpenAI de corriger ou d’effacer les données personnelles erronées concernant une personnalité publique. L’entreprise avait fait valoir qu’elle n’était pas en mesure de le faire et avait proposé à la place de bloquer les données pour certaines demandes. ChatGPT affiche également un avertissement à ses utilisateurs, précisant que certaines réponses peuvent être incorrectes.

Cette fois, un utilisateur norvégien, Arve Hjalmar Holmen, s’est plaint que ChatGPT avait inventé une histoire selon laquelle il aurait assassiné ses propres enfants et aurait été condamné à plusieurs années de prison. Cependant, certaines parties de l’histoire de l’utilisateur norvégien étaient basées sur des données personnelles réelles, notamment le nombre et le sexe de ses enfants, ainsi que le nom de sa ville natale.

Les chatbots génératifs d’IA fournissent des réponses en calculant le mot suivant le plus probable pour répondre aux invites, et risquent donc de partager de fausses informations ou de créer de fausses histoires. C’est ce qu’on appelle des « hallucinations ».

Le mélange d’informations vraies et erronées peut rendre les histoires particulièrement crédibles. Les hallucinations peuvent « avoir des conséquences catastrophiques sur la vie des gens », peut-on lire dans le communiqué de presse de Noyb.

Considérant que la réponse de ChatGPT implique des données personnelles, les utilisateurs peuvent demander que les informations soient corrigées, affirme Noyb. « Le RGPD est clair. Les données personnelles doivent être exactes. Et si elles ne le sont pas, les utilisateurs ont le droit de les faire modifier pour refléter la vérité », a déclaré Joakim Söderberg, avocat spécialisé dans la protection des données chez Noyb.

ChatGPT a été mis à jour depuis l’incident et a maintenant la capacité de faire des recherches sur Internet, ce qui limite le risque qu’il invente des faits. Cependant, de fausses informations existent toujours dans le système d’IA, et les données des utilisateurs sont réinjectées dans le système pour s’entraîner, selon Noyb.

« Le fait que quelqu’un puisse lire ce résultat et le croire vrai est ce qui me fait le plus peur », a ajouté Hjalmar Holmen.