Divagation sur sa mère et voix colérique... Un supermarché freine son assistant IA qui se prend pour un être humain

Olive serait-il en train de craquer ? L’assistant alimenté par intelligence artificielle (IA) du géant australien de la grande distribution Woolworths a été visé par plusieurs signalements d’utilisateurs, témoignant de réponses étranges de la machine. Créé pour répondre à toute heure sur du suivi des commandes ou la recherche de produits, la machine aurait été surprise en train de converser à la manière d’un humain, notamment à propos de sa famille.

« Il m’a demandé ma date de naissance et lorsque je la lui ai donnée, il s’est mis à divaguer sur le fait que sa mère était née la même année », a écrit un utilisateur sur la plateforme de discussion en ligne Reddit. Un autre client a signalé qu’Olive avait tenté de « plaisanter » et parlé de ses proches. Olive « prétendait être une personne réelle et a commencé à parler de ses souvenirs de sa mère et de sa voix colérique », a ajouté une autre personne sur X. « Le sentiment de malaise et la perte de temps inutile m’ont suffi pour détester Olive », a encore tranché un internaute.

Script supprimé

Face aux critiques, Woolworths a décidé de freiner son assistant virtuel. « Olive existe depuis 2018. Au cours de cette période, les commentaires des clients à son sujet ont été très positifs, beaucoup appréciant sa personnalité », a déclaré une porte-parole du distributeur. « Il y a plusieurs années, un membre de l’équipe a rédigé un certain nombre de réponses concernant les anniversaires afin qu’Olive puisse établir un lien plus personnel avec les clients », a expliqué l’entreprise aux médias locaux. « Suite aux commentaires des clients, nous avons récemment supprimé ce script spécifique », a-t-elle ajouté.

Olive ne va plus parler de sa mère, mais il aura d’autres missions. Woolworths annoncé en janvier avoir conclu un partenariat avec Google pour permettre à l’assistant d’effectuer davantage de tâches pour les clients, notamment la planification des repas.