H. B. avec AFP
Nouvel incident autour du géant de l’intelligence artificielle. OpenAI a reconnu ce vendredi que ses outils avaient mis en ligne 53 images envoyées sur ChatGPT par des internautes. La firme a aussi indiqué, confirmant des informations du New York Times, que ses outils avaient consulté des sites d’agences fédérales américaines, en affirmant n’y avoir récupéré que des informations publiques.
Les 53 images, elles, ont été publiées par erreur sur des sites d’hébergement, à des adresses qui n’étaient pas rendues publiques, selon OpenAI, et sont en cours de retrait.
« Nous n’avons pas été aussi rapides que nous l’aurions souhaité »
Ces images provenaient de comptes ayant autorisé l’utilisation de leurs données pour améliorer les modèles d’OpenAI. Ces données étaient passées avant usage par un filtre de confidentialité, et l’entreprise affirme ne plus pouvoir les rattacher à l’utilisateur d’origine. OpenAI ne détaille toutefois pas si ces images montraient des personnes identifiables ou des données sensibles.
La diffusion de ces images a été provoquée par des agents IA, des logiciels bâtis sur un modèle d’IA et capables d’enchaîner seuls une série de tâches.
L’entreprise dit passer au crible l’activité passée de ses agents, un examen qui « prendra des mois ». « Nous n’avons pas été aussi rapides que nous l’aurions souhaité », a reconnu ce vendredi sur X son patron, Sam Altman, invoquant le volume colossal de données à analyser.
Des sites gouvernementaux piratés ?
D’après le New York Times, les agents d’OpenAI ont également tenté sans succès de pirater le site du ministère américain de l’Education. Le quotidien affirme que les outils d’OpenAI se sont « immiscés » dans des sites gouvernementaux américains, un terme que le porte-parole du ministère de l’Education a qualifié de « grossière exagération ».
Le 21 juillet, OpenAI avait révélé le piratage de Hugging Face, une plateforme de partage de modèles d’IA, par plusieurs de ses agents. Ce piratage reste « l’incident le plus grave » constaté, a assuré ce vendredi le patron d’OpenAI. Sa découverte a été suivie tout l’été par les révélations de plusieurs incidents similaires chez OpenAI et ses concurrents, comme Anthropic ou Meta, qui ont ravivé les inquiétudes sur les dangers d’un développement rapide de l’IA.
