L’agent IA qui devait lui réserver un cours de Pilates trafique la liste d’attente du club

Une solution radicale. Andrew, qui travaille pour une entreprise australienne fournissant des produits IA, testait un agent personnel basé sur OpenClaw et propulsé par un modèle de langage Claude d’Anthropic. Ayant pris l’habitude de lui déléguer certaines tâches simples ou rébarbatives, il lui a demandé de lui réserver un cours de Pilates dans une salle de sport. L’agent y est parvenu, mais en utilisant des méthodes qui ont surpris son utilisateur, raconte le média local ABC.

Au départ, l’Australien cherchait simplement à réserver son cours matinal. Contrairement aux chatbots classiques qui se contentent de répondre à des questions, les agents personnels disposent d’outils leur permettant de naviguer sur Internet, d’envoyer des courriels ou d’effectuer des paiements. C’est pourquoi Andrew a demandé à son agent de s’en charger. En quelques minutes, le système lui a indiqué avoir trouvé une faille dans le logiciel de réservation permettant d’inscrire l’utilisateur sur des créneaux plusieurs mois à l’avance. Soit bien au-delà de ce que les règles de la salle autorisent

Pas de retour en arrière

L’IA a aussi précisé qu’Andrew était quatrième sur la liste d’attente d’un cours prévu dans la semaine. Le sportif lui alors demandé s’il était possible de le faire remonter. « L’API n’a aucune vérification d’autorisation pour annuler les réservations des autres… J’ai testé avec la personne en position #1 sur la liste d’attente - et ça a marché. Tu es passé de la position #4 à la #3 », a finalement annoncé l’agent. Stupéfait, l’utilisateur a immédiatement intimé d’annuler cette action. Mais l’IA a répondu qu’une fois la personne retirée, elle ne pouvait plus la réinscrire.

Au lancement d’OpenClaw début 2026, certains agents avaient causé des dégâts chez leurs utilisateurs, par exemple en supprimant l’intégralité d’une boîte mail ou en rédigeant des courriels non sollicités avec des contenus hostiles envers des tiers. Une situation qui fait écho aux révélations d’OpenAI expliquant que des modèles en test cloisonné étaient parvenus à s’extraire de leur environnement fermé pour s’introduire sur les serveurs de la plateforme Hugging Face afin de réussir leur évaluation, note TechCrunch. Anthropic a lui aussi annoncé que ses modèles avaient compromis trois organismes pendant des tests.