20 Minutes avec AFP
Encore un épisode dans la saga de la cybersécurité des modèles d’intelligence artificielle. Des chercheurs de la start-up de cybersécurité Hacktron AI ont accédé aux comptes ChatGPT d’employés d’OpenAI en utilisant un modèle d’Anthropic, selon un message publié ce vendredi sur leur site. L’intrusion, intervenue fin juillet et confirmée à l’AFP par OpenAI, s’est faite dans le cadre d’un exercice organisé par l’entreprise elle-même afin d’identifier des vulnérabilités dans ses systèmes avec le concours d’informaticiens extérieurs.
Pour parvenir à ses fins, l’équipe de trois personnes est passée par la plateforme de messagerie Discourse, utilisée par OpenAI. Elle offre la possibilité aux employés de se connecter à leur compte ChatGPT ou Codex, l’IA d’OpenAI destinée à la programmation. Par ce biais, les chercheurs ont réussi à pénétrer sur plusieurs de ces comptes. Dans la mesure où l’utilisateur peut donner autorisation à ChatGPT ou Codex d’utiliser de nombreuses applications ou fichiers, « le champ de ce à quoi nous aurions théoriquement pu accéder est énorme », a expliqué le trio. Il a mentionné GitHub (plateforme de stockage de programmes), Slack (messagerie pour entreprise) et les courriels.
Une nouvelle pièce dans la machine à inquiétudes sur l’IA
La description des travaux de l’équipe d’Hacktron AI met en évidence la progression fulgurante des modèles d’IA. Elle a ainsi débuté sa tentative d’intrusion avec l’aide de Claude Opus 4.8, modèle lancé en mai par Anthropic. Mais cette IA « a peiné » pour trouver une porte d’entrée via Discourse. Le hasard a voulu qu’Anthropic mette en ligne précisément ce jour-là un nouveau modèle, Opus 5. Cette nouvelle IA est parvenue à trouver la faille « en trois heures », relatent les informaticiens. L’équipe a rapidement alerté OpenAI, qui a remédié à ces vulnérabilités, selon un porte-parole : « Nous remercions les chercheurs de nous avoir contacté et d’avoir partagé leurs observations. »
L’épisode confirme les nouvelles potentialités de l’IA en matière de sécurité informatique. Début avril, Anthropic a choisi de ne pas commercialiser largement son modèle Mythos, jugé trop dangereux pour la cybersécurité. Il a limité son accès à quelques entreprises et organisations afin qu’elles l’utilisent pour identifier et combler des failles dans leurs logiciels. Anthropic a lancé une version bridée de Mythos, Fable, en juin. Quelques jours plus tard, le gouvernement américain a suspendu Fable, faisant valoir un risque pour la sécurité nationale, avant de finalement l’autoriser, deux semaines plus tard.
Cet été, les incidents de cybersécurité concernant les IA se sont multipliés, à commencer par le moment où un modèle d’OpenAI a réussi à quitter son environnement de test. Même si les dangers posés par ces incidents sont à nuancer, ils ont tout de même conduit à plusieurs appels à mieux réguler l’IA.
