Intelligence artificielle: L’assistant vocal de Google peut prendre RDV chez votre coiffeur, faut-il s’inquiéter?

HIGH-TECH Dans la démo diffusée par Google, l'employée au bout du fil ne savait pas qu'elle avait affaire à un robot...

M.C.

— 

Un coiffeur au téléphone (illustration).
Un coiffeur au téléphone (illustration). — STR / AFP

« Bonjour, je voudrais prendre rendez-vous pour une coupe de cheveux pour femmes… » La conversation entre l’ordinateur et l’employée du salon de coiffure est bluffante. A l’autre bout du fil, l’humaine ne soupçonne pas qu’elle parle à un robot.

Avec la dernière version de son assistant vocal, présentée lors de sa conférence annuelle des développeurs en Californie (I/O 2018), Google démontre comment un humain peut interagir avec une machine en parlant normalement. Et laisse entrevoir un futur où les logiciels (les siens, de préférence) passeront des coups de fil à notre place. Les possibilités semblent immenses : gagner du temps, réserver à l’étranger quand on ne parle pas la langue ou quand on est malentendant…, mais cette nouveauté pose des questions notamment éthiques. On fait le point.

Qu’est-ce que c’est ?

Cette technologie baptisée Duplex, une intelligence artificielle basée sur les réseaux neuronaux artificiels, permet au logiciel de converser de « façon naturelle ». L’assistant virtuel, qui équipe de nombreux appareils électroniques, est capable d’appeler un commerce à votre place pour demander un renseignement ou faire une réservation. « Le but de notre assistant, c’est de vous aider à accomplir vos tâches », a expliqué sur scène Sundar Pichai, le patron de Google. Ces nouvelles fonctionnalités doivent être testées dans les mois qui viennent.

Quelles sont les applications possibles ?

Les débats sur la marche du monde, ou même sur la météo du jour, ce n’est pas pour demain. Duplex ne peut pas avoir de « conversation générale », précise Google sur son blog. Ces échanges en apparence simple nécessitant un entraînement considérable de la machine, les ingénieurs ont choisi de se cantonner aux appels à un commerce ou un service, pour prendre rendez-vous, effectuer une réservation ou demander les heures d’ouverture.

Comment la machine peut-elle avoir une conversation naturelle ?

Pour rendre la parole de la machine plus naturelle, les concepteurs ont ajouté des changements de rythme et d’intonation, des hésitations, des réponses gutturales (le « hmmmm-hmmm » un rien irritant utilisé à plusieurs reprises pour acquiescer dans les démos). La rapidité de réaction de l’intelligence artificielle varie également, d’un temps court pour répondre à un « bonjour » à un délai plus long dans d’autres cas. « Nous avons constaté qu’il était parfois utile d’avoir davantage de latence pour rendre la conversation plus naturelle, explique Google, par exemple pour répondre à une phrase très complexe. »

Que fait Duplex quand il ne comprend pas ?

Autre écueil à contourner : l’humain est faillible. Quand deux personnes échangent, elles se répètent, se trompent, s’interrompent parfois au milieu d’un mot ou font répéter lorsqu’elles n’ont pas compris. Dans la démo de la réservation du restaurant, Duplex s’en sort en répétant les questions qu’on lui pose ou en reformulant lorsqu’il y a un malentendu, par exemple pour savoir si le chiffre « 7 » désigne la date ou le nombre de personnes (en anglais). Si la machine est vraiment dépassée, un humain prend le relais : Google explique avoir mis en place une fonction d’auto-contrôle qui peut alerter un employé en cas de besoin.

Se faire passer pour un humain, est-ce tromper ?

Ce n’est pas évident en écoutant les démonstrations, et d’ailleurs rien n’a été dit sur ce sujet lors de la conférence, mais Google l’écrit noir sur blanc : « La transparence est un élément clé ». Autrement dit, il faut que l’humain au bout du fil sache qu’il a affaire à un robot, même si on ne sait pas encore comment il en sera averti.

Le risque est que l’interlocuteur adopte alors un phrasé moins naturel, ce qui va à l’encontre des efforts de l’intelligence artificielle (qui veut permettre d'avoir une conversation naturelle), ou qu’il raccroche tout simplement. Mais cette transparence est une nécessité, estime Joanna Bryson, maîtresse de conférences à l’Université de Bath, auprès du site The Verge : « Si les robots peuvent se faire passer pour des humains, l’étendue des dérives possibles est impressionnante. » Démarchage de masse, canulars… Google affirme au site qu’il va limiter le nombre d’appels émis pour éviter le spam et les appels vers le même numéro pour éviter de rendre les gens fous, mais la scientifique estime qu’il faut même modifier la loi : « Si ce n’est pas régulé, d’autres entreprises moins exposées que Google vont en profiter. »