Espionnage d’Alexa: Pourquoi prend-on plaisir à voir les machines se planter lamentablement?

COMPLEXE La semaine dernière, Alexa a enregistré une conversation à l’insu de son utilisateur et l’a envoyée à une personne du répertoire…

Laure Beaudonnet

— 

Le robot Sophia de  Hanson Robotics le 21 mars 2018.
Le robot Sophia de Hanson Robotics le 21 mars 2018. — Niranjan Shrestha/AP/SIPA
  • Après avoir été moquée pour son rire, Alexa est critiquée pour avoir enregistré une discussion et l’avoir envoyée à un contact du répertoire de son utilisateur.
  • Les acteurs de la Silicon Valley sont observés à la loupe et les machines sont attendues.
  • Selon un philosophe, l’homme éprouve une « honte prométhéenne » envers les machines.

Observer une machine se débrouiller comme un manche a tendance à faire naître la même satisfaction que quand le premier de la classe se prenait une tôle au contrôle de mathématiques en seconde. On sourit. Au moindre faux pas, ça ne loupe pas, les médias parient déjà sur la fin des nouvelles technologies et le crash des géants de la Silicon Valley.

Quand Alexa a le malheur d’enregistrer une conversation privée et de l’envoyer de manière aléatoire à un contact du répertoire de son propriétaire, comme la semaine dernière, on parle d’« espionnage ». Tout de suite les grands mots… A croire que nous autres les humains prenons un malin plaisir à recenser toutes les failles des machines, comme pour nous convaincre qu’on est encore dans le game. Qu’on a (encore) un peu le dessus sur l’intelligence artificielle.

La voiture autonome est « plus fiable qu’un humain »

Il n’y a qu’à voir la rapidité avec laquelle la vidéo du robot de Boston Dynamic qui se casse la figure sur des peaux de bananes devient virale. La firme américaine de robotique nous a habitués aux exploits de ses inventions, le robot chien capable d’ouvrir une porte tout seul, par exemple. Alors quand un robot galère, forcément ça étonne.

Au mois de mai, Elon Musk a jugé « disproportionnée » l’attention des médias pour ses voitures électriques, notamment en cas d’accident. Quand une voiture autonome de Tesla est impliquée dans une collision mortelle en 2016, l’information fait les gros titres. Même emportement de la presse lorsqu’un  véhicule autonome d’Uber tue une piétonne qui traversait en dehors des clous dans une zone non éclairée. La technologie est montrée du doigt. Et pourtant, c’est unanime : la voiture autonome est « plus fiable qu’un humain ». « Ce n’est pas parce qu’il y a eu un accident que ce sera la fin de la voiture autonome », martelait Laurent Meillaud, expert des technologies automobiles au moment du drame, au mois de mars.

Dans un autre registre, aujourd’hui, ce sont les défaillances d’Alexa qui attirent l’attention. En mars dernier, les utilisateurs avaient fait des cauchemars à cause du rire diabolique de l’assistant vocal d’ Amazon. Alexa entendait par erreur « Alexa, ris » [«Alexa, laugh » en VO] », ce qui déclenchait son hilarité sans prévenir. Vendredi dernier, de nouveaux problèmes de surdité ont été relevés chez l’enceinte intelligente. La conversation privée d’une famille de Portland, dans l’Oregon, a été enregistrée à son insu, et envoyé à quelqu’un pioché dans le carnet d’adresses, a révélé le média américain Kiro7. Selon The Verge, qui a pu recueillir une réaction de la firme de Jeff Bezos, « Echo s’est enclenché parce qu’un mot dans la conversation en arrière-plan a sonné comme "Alexa" ». La discussion a été comprise comme un message à envoyer et, de fail en fail, Alexa a entendu un nom dans le carnet d’adresse et la confirmation de l’envoi. Vive la reconnaissance vocale… Encore une fois, les médias s’en donnent à cœur joie.

La « honte prométhéenne » devant les machines

L’homme ne rate pas une occasion de taper sur les machines et Sophia de Hanson Robotics illustre bien cet amour-haine. Le robot humanoïde, qui peut imiter 63 expressions faciales, fascine pour sa ressemblance avec les humaines et son éloquence et, en même temps, met très mal à l’aise. « Les technologies créent des sentiments ambivalents », confirme le philosophe Jean-Michel Besnier, professeur émérite à la Sorbonne, qui évoque la « honte prométhéenne » que l’homme éprouve envers les machines. Le concept, élaboré par Günther Anders dans L’Obsolescence de l’homme (1956), désigne la « honte (…) devant l’humiliante qualité des choses qu’il a lui-même fabriquées. » Du coup, quand elles font n’importe quoi, il se sent pousser des ailes.

« Les machines nous renvoient à une image d’êtres impuissants. Et quand elles révèlent leurs limites, on reprend du poil de la bête. Ca veut dire que nous avons encore de l’avenir », poursuit le philosophe. Dans un monde de machines qui va créer de plus en plus d’automatismes, la faille est la condition pour que des évolutions soient encore possibles. L’intelligence artificielle montre qu’elle n’est pas encore à la hauteur. Mais ne nous habituons pas à cette « satisfaction narcissique ». Même si on relève des faiblesses, les machines sont de plus en plus sophistiquées et, avec le deep learning, elles sont désormais capables d’apprendre. Elles finiront peut-être, comme certains l’imaginent, par développer une conscience… Profitez bien du plaisir coupable que les robots maladroits vous procurent. Ce sentiment est provisoire.

>> A lire aussi : Gender fluid: Alexa, Cortana, Siri… Et si les assistants vocaux intelligents n’avaient pas de genre?