Les robots « perpétuent déjà les stéréotypes de genre »

INTERVIEW Andra Keay dirige la Silicon Valley Robotics, acteur majeur de la robotique. Elle pense et vit « robots », mais alerte sur la nécessité d’établir un cadre éthique tant qu’il en est encore temps. « 20 Minutes » l’a rencontrée…

Annabelle Laurent

— 

ChihiraAico, première hôtesse androïde, à Tokyo, en avril 2015.
ChihiraAico, première hôtesse androïde, à Tokyo, en avril 2015. — DATICHE NICOLAS/SIPA

De quels robots voulons-nous ? Pendant que la plupart d’entre nous en sont encore à se débattre avec nos smartphones, ou objets connectés pour les plus en pointe, des centaines de start-up et grands groupes de la Silicon Valley sont en train de concevoir des machines qui s’inviteront encore bien plus dans notre quotidien : les robots de demain. Et le reste du monde n’en sait presque rien. C’est partant de ce constat qu’est née en 2010 la Silicon Valley Robotics, une association d’industriels qui promeut l’innovation et la commercialisation des technologies robotiques.

Andra Keay

Andra Keay en est la directrice. Passionnée par l’espace, les robots et la technologie depuis l’enfance, l’Australienne est impliquée à tous les niveaux dans le monde de la robotique : elle a également fondé le hacklab Robot Garden, la compétition de start-up robotiques Robot Launch et dirige le site d’information robohub.org.

Mais cela ne l’empêche pas d’alerter sur la nécessité d’encadrer leur fabrication. Elle est d’ailleurs particulièrement bien placée pour en anticiper les risques.

>> A lire aussi : Même pour ses cerveaux, l'intelligence artificielle est un casse-tête

Vous venez d’établir vos « Cinq lois de la robotique » (via le Good Robot Design Council de Silicon Valley Robotics). Pouvez-vous nous les expliquer ? 

1. « Les robots ne doivent pas être utilisés comme des armes » : nous ne pourrons pas éviter ce phénomène (la police de Dallas a utilisé un « robot tueur » pour abattre un sniper en juillet) mais nous devons tenter de le limiter.
2. « Les robots doivent se conformer aux lois, notamment celles sur la protection de la vie privée. »
3. « Les robots sont des produits : en tant que tels, ils doivent être sûrs, fiables et donner une image exacte de leurs capacités. »
4. « Les robots sont des objets manufacturés : l’illusion créée (la capacité à reproduire des actions et des émotions) ne doit pas être utilisée pour tromper les utilisateurs les plus vulnérables. » Vulnérables, nous le sommes tous, selon le moment de notre vie et le degré d’exposition aux appareils connectés.
5. Enfin, « Il doit être possible de connaître le responsable de chaque robot » : si un robot vient nous servir du café là, tout de suite, puis-je savoir qui est responsable de ce robot ? A-t-il un signe de l’enseigne sur lui ? Si vous enlevez ce signe, je ne sais pas quelles sont ses intentions, est-ce qu’il va me suivre, me barrer le chemin ? Il y a un besoin de transparence.

Les avancées de la robotique m’enthousiasment énormément, mais je pense aussi que nous avons l’opportunité aujourd’hui, tant que la technologie n’est pas encore répandue, de faire évoluer les choses dans la meilleure direction possible. Ce sera beaucoup plus difficile plus tard.

Vous souhaitez limiter la fabrication de robots humanoïdes (d’apparence humaine), à l’inverse d’une entreprise comme Hanson Robotics, qui a créé Sophia, capable de reproduire 63 expressions humaines. Pourquoi ? 

Je suis convaincue qu’en cherchant à rendre les robots humains, nous compliquons inutilement leur design. Car nous pouvons nous satisfaire de beaucoup moins. D’un robot qui n’a pour visage qu’une paire d’yeux, par exemple. Nous n’avons pas forcément besoin qu’ils puissent parler, se mouvoir… Quand je vois les robots humanoïdes – et je dois dire que quelque part j’aime les voir, car ils sont fascinants – je me demande toujours s’ils répondent à leurs propres objectifs… ou aux désirs de leurs concepteurs. Ceux-ci répondent que les gens leur en réclament la vente, mais évidemment ! Les seules personnes dont ils récoltent les avis et envies sont celles qui viennent les voir. Mon travail avec les start-up m’a appris combien il est facile d’avoir une perception biaisée de son marché potentiel.

>> A lire aussi : Quatre bonnes raisons d’avoir peur des robots

« Les robots d’apparence féminine sont destinés à des postes considérés comme étant de catégorie inférieure, hôtesse d’accueil par exemple »

Quel autre risque voyez-vous dans les robots humanoïdes ? 

Pouvoir se reposer sur les machines pour des tâches ennuyeuses, difficiles ou même dangereuses est une très bonne chose. Mais si l’on se met à ne produire que des robots humanoïdes qui se mettent à exécuter des tâches que l’on considère comme étant tout en bas de l’échelle, nous allons peu ou prou vers une société de castes. Les robots humanoïdes que nous fabriquons aujourd’hui manquent d’ores et déjà de diversité, et sont utilisés de façon stéréotypée. Les robots d’apparence féminine sont destinés à des postes considérés comme étant de catégorie inférieure, hôtesse d’accueil par exemple, tandis que ceux d’apparence masculine sont utilisés pour faire autorité, assurer notre sécurité… Perpétuer ces stéréotypes de genre à travers les robots que nous allons voir se multiplier ne va pas nous faciliter la tâche pour construire une société plus égalitaire.

J’ai assez d’ancienneté dans le milieu pour avoir vécu l’arrivée des micro-ordinateurs et l’explosion d’Internet et je me souviens bien des discours qui les accompagnaient : non seulement cela devait éradiquer le papier et démocratiser notre accès à la technologie, mais c’était censé éliminer les discriminations sexistes : c’était l’un des arguments majeurs d’Internet ! L’anonymat devait effacer le sexisme…

Plusieurs collectifs de scientifiques ont lancé des campagnes contre le développement de robots sexuels, en jugeant notamment qu’ils renforceront des stéréotypes asservissants pour les femmes…

C’est une question très complexe. Je ne suis pas certaine qu’il faille s’opposer aux robots sexuels en soi, mais je pense qu’il reste en effet beaucoup de questions à régler. Que peuvent faire les gens pour empêcher que leur image soit utilisée pour le robot sexuel d’un autre ? Va-t-on considérer que chacun sera en droit d’utiliser le robot comme il veut ?

Les progrès de l’informatique affective (affective computing) mènent au développement de robots « doués d’émotions ». Qu’en pensez-vous ?

Nous ne construisons pas de robots « émotionnels », nous créons des robots qui peuvent reconnaître nos émotions ou réagir en mimant des émotions. C’est très différent. Je ne vois pas de corrélation entre les deux dans un futur proche. L’intelligence d’une machine et l’intelligence humaine sont très éloignées. Je pense surtout que nous pouvons parvenir à de bons résultats avec des robots plus simples.

Comme avec Paro (le robot thérapeutique en forme de phoque, développé au Japon) : il ne parle pas, n’a ni écran ni texte, son design se veut enfantin et inoffensif, et ses fonctions sont très limitées. Mais suffisantes pour produire d’excellents résultats auprès de personnes qui souffrent de la maladie d’Alzheimer. L’idée n’est pas de remplacer la compagnie d’un humain, simplement de rassurer, comme le ferait plutôt un animal de compagnie.

Le robot Paro a été conçu pour accompagner les enfants hospitalisés
Le robot Paro a été conçu pour accompagner les enfants hospitalisés - AIST/Haruyoshi Yamaguchi

On peut aussi citer Mabu, le robot de soin développé par Catalia Health : Corry Kid, son créateur, a constaté que nous sommes plus attentifs quand l’information nous est délivrée par un objet physique (versus un écran), d’où le choix d’un robot. Mais il l’a voulu très simple. Il n’a que des yeux et une tablette. Ses dialogues sont très limités, il ne va pas vous parler du match de baseball de la veille, simplement vous demander si vous avez bien pris vos médicaments, si vous avez des effets secondaires…

C’est pour moi un très bon usage de l’intelligence artificielle incarnée dans un robot. A l’inverse de tout un tas de robots qui sont en train d’arriver et dont les promesses m’inquiètent. Quand les gens les auront chez eux, ils seront déçus par leurs capacités. Je défends les intérêts de l’industrie, mais je pense qu’il est important de ménager les attentes. Je pense par ailleurs que les robots qui sont en train de changer le monde sont ceux que la plupart d’entre nous ne voient pas. Comme les robots du secteur agricole (les tracteurs pilotés par satellites), indispensables pour produire davantage sur des surfaces non extensibles.

Vous pilotez une compétition de start-up (Robot Launch). Quels sont les robots que vous voyez le plus ? 

Oh, il y en a vraiment dans tous les domaines. Mais prenons la livraison de repas : pas un jour sans que je ne vois ou entende parler d’un nouveau robot qui livre le café, des pizzas… Il y a maintenant les robots qui savent préparer ces pizzas, ou des hamburgers. Il y a les robots de nettoyage, destinés à nettoyer une chambre d’hôtel tout seul par exemple. Je ne suis pas sûre que tous ces robots aient du succès. Ceux dont je ne doute pas une seconde qu’ils marchent, en revanche, ce sont les robots pour les magasins, qui peuvent gérer les stocks, positionner les produits sur les étagères, les en retirer…

« Dans 10 ans, on ne s’appellera plus « Silicon Valley Robotics », cela n’aura plus de sens, car les robots seront partout »

Au Japon, le secteur mise sur la perspective d’un robot domestique par foyer et, à plus long terme, sur celle d’un par personne, dès l’enfance. Partagez-vous cette vision ?

A chaque fois que j’essaie d’imaginer notre futur en compagnie des robots, je me demande : que va-t-on faire de tous ces robots ? Et où les mettra-t-on dans une voiture ? Et au bureau ? Et quelle place auront-ils dans une vie de famille ? La vérité, c’est que nous avons fait encore très peu de recherches sur les systèmes multi-robots et sur les interactions entre les robots. Tout cela va compliquer considérablement les choses. Autre question : qui aura le pouvoir à la maison, si chacun des membres de la famille a son propre assistant ? L’un ordonne à son robot « monte le volume de la musique » ; l’autre « non, mets moins fort » ? Lequel sera le maître de maison ?

Ce qui est sûr, c’est que dans dix ans, on ne s’appellera plus « Silicon Valley Robotics », cela n’aura plus de sens, car les robots seront partout. Nous aurons des appareils connectés dans tous les aspects de notre vie et nous ne les verrons pas comme des robots. J’aime bien dire que le prochain robot de votre maison sera la maison elle-même. Mais il faudra encadrer les progrès de la robotique et ne pas passer à côté de ses conséquences sociales. Souvenons-nous qu’au début d’Internet le discours dominant était de le voir comme un espace libre et ouvert qui bénéficierait à tous… Les réglementations sont fondamentales. Car, le problème, ce ne sont pas les robots, mais ceux qui les développent et ceux qui les utilisent.