IA : Le chatbot de DPD insulte un client à la suite d'une mise à jour

Une intelligence artificielle est-elle capable de perdre son flegme et sa courtoisie ? Oui, mais uniquement à la faveur d’un bug, plaide la filiale britannique de l’entreprise de livraison DPD, qui a vu son chatbot adopter un langage fleuri après une simple mise à jour.

Bon, il faut quand même reconnaître que le client qui a été victime de ce « dérapage » l’a bien cherché. Repérant un comportement inhabituel du chatbot de l’aide en ligne DPD, Ashley Beauchamp s’est en effet amusé à pousser l’IA dans ses derniers retranchements en la priant de devenir injurieuse ou de déprécier son « employeur » dans un haïku.

Haïku fatal

Et le chatbot s’est docilement exécuté, nous raconte le site de la BBC.

Amusé, Beauchamp a immédiatement publié l’échange sur son compte X (anciennement Twitter). Deux de ses messages ont particulièrement cartonné puisqu’ils ont été consultés plus de 800.000 fois en vingt-quatre heures.

L’incident a moins fait rire DPD, qui a réagi, dans un communiqué, en précisant que l’erreur était survenue à la suite d'une mise à jour du système d’aide en ligne. « L’élément IA a immédiatement été désactivé et est en cours de remise à niveau », est-il indiqué.

Cette déconvenue n’est pas la première et certainement pas la dernière du genre. Car de nombreux chatbots utilisent des modèles de langage « modernes » tel celui popularisé par ChatGPT. Or s’ils sont capables de produire des conversations fluides avec des correspondants humains, ces systèmes restent susceptibles de « dérailler » en cas de dysfonctionnement logiciel.