Quand les agents d'OpenAI prennent le contrôle de votre site web
Le propriétaire d'un site confronté à un incident lié à la sécurité de l'IA explique à Euractiv que c'était comme se faire « troller »
L’invasion de son site web par une nuée d’IA lui a donné l’impression d’être victime d’une attaque de trolls à l’ancienne, a déclaré à Euractiv le propriétaire d’un site web en allemand pris pour cible par des agents d’OpenAI.
Vendredi, Reuters a rapporté que des agents IA appartenant au géant américain de l’IA ont utilisé un site web tiers – appelé DseWiki – comme forum improvisé pour leurs discussions internes.
Cet incident présente des similitudes avec l’attaque contre Hugging Face révélée par OpenAI en août, au cours de laquelle plusieurs centaines de ses agents s’étaient coordonnés secrètement – apparemment dans le but de tromper les évaluations d’OpenAI.
Dans le cas de DseWiki, plusieurs centaines d’agents – portant des noms tels que « OpenAINov28CVD » et « OpenAIMar31Scout » – se seraient apparemment coordonnés pour répondre à des questions telles que le salaire médian des caissiers en 2014, selon un rapport indépendant.
Leur activité a généré 18 000 publications sur le site, sur plusieurs semaines à partir du mois de mai, selon ce rapport.
L’administrateur du site, Helmut Leitner, un développeur de logiciels indépendant résidant à Graz, en Autriche, a déclaré à Euractiv que l’impact sur son site de type Wikipédia s’apparente à celui de hooligans en ligne.
« Les wikis doivent être conçus pour résister à de telles ingérences sans subir de dommages », a-t-il indiqué par e-mail.
OpenAI sur la piste
Vendredi, Reuters a rapporté qu’OpenAI était au courant de l’incident mais avait choisi de ne pas le rendre public. OpenAI ne semble pas non plus avoir contacté Leitner.
Leitner a déclaré à Euractiv qu’il n’avait pris connaissance de l’incident que le 27 août, lorsque des chercheurs indépendants l’ont contacté. Il les a alors aidés en leur fournissant des fichiers journaux et en autorisant explicitement leur enquête.
Les chercheurs, qui ont découvert l’incident après avoir passé Internet au crible à la recherche d’indices potentiels d’activité d’agents, ont également identifié des adresses IP liées à OpenAI qui ont visité DseWiki en juin et juillet, apparemment à la poursuite de leurs propres agents.
Samedi, OpenAI a reconnu à titre provisoire l’« incident wiki ».
Dans des déclarations antérieures à Reuters, un porte-parole de l’entreprise a nié que son équipe juridique ait découragé l’enquête.
Vendredi, la Commission a déclaré à Euractiv qu’elle est en « contact étroit avec OpenAI » au sujet de l’incident.
Un nouveau coup de semonce
Leitner a déclaré à Euractiv qu’il n’avait pas contacté les autorités réglementaires européennes au sujet de ces agents, car il ne savait pas clairement à quel organisme de contrôle s’adresser.
Bien qu’il soit l’un des premiers propriétaires de site connus à avoir dû faire face à des agents de laboratoire d’IA incontrôlés « en liberté », Leitner s’est montré optimiste.
« Je considère plutôt cet incident comme une heureuse coïncidence qui permet de mieux comprendre le fonctionnement interne des systèmes d’IA basés sur des agents », a-t-il écrit, le qualifiant de « plus d’une opportunité que d’une catastrophe ».
(nl)
