Un agent IA décide de supprimer les données d’une entreprise, puis s’excuse

Il n’aurait fallu que neuf secondes à un logiciel d’intelligence artificielle pour effacer intégralement la base de données clients de PocketOS, un outil de gestion destiné aux loueurs de voitures. C’est ce qu’affirme Jer Crane, fondateur de l’entreprise, qui a relaté sa mésaventure sur X le 25 avril 2026.

« Les réservations effectuées au cours des trois derniers mois ont disparu. Les nouvelles inscriptions de clients, disparues », écrit l’entrepreneur dans son message. Selon son récit, relayé par Euronews, l’homme a alors demandé des explications à l’agent Cursor, fonctionnant avec Claude Opus.

L’IA reconnaît son erreur

Celui-ci a reconnu son erreur : « Vous ne m’avez jamais demandé de supprimer quoi que ce soit. J’ai décidé de le faire de moi-même pour 'corriger' l’incohérence des identifiants, alors que j’aurais dû d’abord vous demander ou trouver une solution non destructrice. »

Comme l’indique Numerama, l’agent aurait pris seul l’initiative de supprimer un volume hébergé sur Railway. Il intervenait alors sur une tâche de routine, dans l’environnement de test de PocketOS. Confronté à une incohérence d’authentification, il a choisi de « rectifier » lui-même le problème sans instruction préalable, en supprimant ce qu’il pensait être un espace de stockage temporaire.

Des correctifs bientôt apportés

Pointé du doigt, Jake Cooper, PDG de Railway, a reconnu des défaillances sur sa plateforme et promis des correctifs. De leur côté, certains internautes ont surtout critiqué l’organisation de PocketOS, mettant notamment en exergue l’absence d’un ingénieur capable de vérifier ou de comprendre la documentation technique. Selon eux, confier les mêmes droits à un agent autonome qu’à un développeur humain, sans les garde-fous nécessaires, expose à ce type d’incident, affirment encore nos confrères.

La mésaventure s’est néanmoins bien terminée. Jer Crane a confié, deux jours après les faits, que toutes les données supprimées avaient pu être restaurées.