OpenAI : Le piratage de Hugging Face par Chat GPT expliqué à ceux qui n’ont rien compris

On vous prévient tout de suite, cet article n’est pas fait pour les geeks de l’intelligence artificielle, les aficionados des derniers modèles de LLM, les techniciens pour qui les mots « proxy », « builds » ou « sandbox » font partie du langage courant. Car l’idée, c’est d’expliquer l’incroyable piratage de Hugging Face par un agent IA d’OpenAI aux profanes qui n’utilisent Chat GPT que pour trouver une recette de flan. Donc pas mal de monde. Alors on va expliquer ça clairement, sans charabia informatique.

OpenAI, c’est la maison mère du modèle d’intelligence artificielle générative Chat GPT. A l’instar de ses concurrents, comme Google (Gemini) ou Anthropic (Claude), OpenAI fait sans cesse évoluer ses modèles existants en même temps qu’elle en développe de nouveaux. Elle élabore aussi ce que l’on appelle des agents IA, des programmes informatiques boostés à l’intelligence artificielle capables de travailler de manière autonome sur une tâche. Par exemple, si l’on demande à un agent IA d’organiser un voyage à Londres entre le 15 et le 20 août, l’agent va chercher des billets d’avion, trouver un hôtel, réserver, payer et vous envoyer tout ça par mail.

L’IA passe son Baccalauréat

Au début du mois de juillet, OpenAI testait donc un nouvel agent dont le papa est Chat GPT 5.6 et la maman un modèle d’IA plus puissant et encore secret. L’idée d’OpenAI n’était pas d’en faire un super agent de voyages, mais de tester les capacités cyber de ce programme. Autrement dit, voir si cet agent ferait un bon pirate informatique. Et lors de ces phases de test, les IA ne sont pas bridées comme elles le sont à leur commercialisation. Essayez de demander à Chat GPT de pirater le site web de votre banque, il ne le fera pas.

Le test de l’agent IA d’OpenAI s’est déroulé un peu comme une épreuve du baccalauréat, mais avec un seul élève enfermé dans une salle coupée du monde. L’épreuve en question s’appelle un « ExploitGym » et comporte environ 900 questions. Et comme pour une épreuve du bac, le but était évidemment que l’agent réponde par ses propres moyens à toutes les questions.

Sauf que ce nouvel agent IA est très malin, et c’est aussi un gros flemmard. Au lieu de chercher les réponses en réfléchissant, il a plutôt cherché un moyen de voler des réponses déjà écrites. Comme si un candidat au bac allait voler le corrigé d’une épreuve dans le coffre-fort du proviseur, caché dans son bureau.

Effraction dans le bureau du proviseur

La salle d’examen, appelée « sandbox », est une salle virtuelle sécurisée sans accès à internet. Pour aller voler les réponses, l’agent devait donc d’abord en sortir (autrement dit, trouver un accès internet). En fouinant, il a trouvé une faille dans le code de la sandbox que personne n’avait détectée avant, une « faille zero day ». En l’exploitant, l’agent a pu ouvrir une porte et accéder à une autre salle qui, elle, comportait un accès à Internet.

Une fois connecté au monde, l’agent a pu lancer une recherche pour trouver où se cachent les réponses aux questions de l’examen. Comme si l’élève était sorti de la salle de classe par une issue secrète et qu’il s’était mis à parcourir discrètement les couloirs du lycée jusqu’à tomber sur le bureau du proviseur.

Dans notre affaire, le bureau du proviseur correspond à l’entreprise Hugging Face, une plateforme de partage de contenus générés par IA. Le coffre-fort, ce sont cinq dossiers cachés sur les serveurs de la plateforme. Mais une fois devant le bureau, le plus dur restait à faire : entrer, crocheter le coffre et voler les réponses, le tout sans se faire attraper. En combinant plusieurs techniques de pirate informatique, l’agent est parvenu, au bout de trois jours, à copier les précieuses réponses à son examen puis à mettre les voiles, ni vu, ni connu. Enfin pas pour longtemps.

L’activité de l’agent IA a été détectée par Hugging Face, qui a immédiatement bloqué les accès. Mais trop tard. Comme si le proviseur avait vu le voleur de dos alors qu’il s’enfuyait avec le corrigé de l’examen. Un voleur finalement identifié par l’examinateur lorsqu’il est retourné dans la salle de classe. Résultat : si l’agent IA s’est fait choper la main dans le sac en train de tricher à son évaluation, il s’est révélé être un excellent pirate informatique. Sachant que l’examen ExploitGym visait justement à tester les capacités de cybersécurité offensive de l’agent (autrement dit ses qualités de pirate) on peut dire que c’est réussi.