Dilemmes moraux: La voiture autonome doit-elle écraser une petite vieille plutôt qu'un enfant?

ETHIQUE Une enquête, intitulée «the Moral Machine», menée auprès de 2,3 millions de personnes dans le monde, montre qu'il n'y a pas de règles éthiques universelles sur la route...

L.B.

— 

Un modèle de voiture autonome d'Uber. Illustration
Un modèle de voiture autonome d'Uber. Illustration — Angelo Merendino / AFP
  • Selon une enquête menée auprès de 2,3 millions de personnes, relayée par la revue Nature, les conducteurs du monde ne réagissent pas tous de la même manière devant des dilemmes moraux. 
  • Comment dire à une voiture d'épargner une vieille dame plutôt qu'un groupe de jeunes si les humains ne suivent pas les mêmes règles?
  • L'étude a été menée par Edmond Awad et Iyad Rahwan du Massachusetts Institute of Technology (MIT), Azim Shariff de l’université de Vancouver (Colombie-Britannique, Canada) et Jean-François Bonnefon, de l’Ecole d’économie de Toulouse.

Quand un conducteur freine violemment pour éviter un piéton qui traverse n’importe comment, le danger se répercute sur les passagers à l’intérieur de la voiture. Il prend une décision morale en épargnant le passant étourdi. Alors que les automobiles autonomes s’apprêtent à envahir nos villes, l’enquête « the Moral Machine » [la machine morale] relayée par la revue Nature mercredi, s’est penchée sur l’éthique de ces voitures dopées à l’intelligence artificielle. Et il s’avère que derrière le volant, il est très difficile de dégager des règles morales universelles.

Edmond Awad et Iyad Rahwan du Massachusetts Institute of Technology (MIT), Azim Shariff de l’université de Vancouver (Colombie-Britannique, Canada) et Jean-François Bonnefon, de l’Ecole d’économie de Toulouse, ont lancé un site Internet pour récupérer les réponses de 2,3 millions de personnes dans le monde, précise Le Monde.

Il n’existe pas de loi éthique universelle

Comment dire à une voiture d’épargner tel ou tel groupe de personnes si les humains, eux-mêmes, ne sont pas d’accord les uns avec les autres ? Selon cette enquête, la plus grande réalisée sur l’éthique des machines, les principes qui influencent les décisions d’un conducteur diffèrent d’un pays à un autre. « Ceux qui réfléchissent à l’éthique des machines laissent penser qu’on peut arriver à un ensemble parfait de règles pour les robots, et ce que nous montrons grâce à ces données, c’est qu’il n’existe pas de loi universelle », insiste Iyad Rahwan. L’enquête présente 13 scénarios où, à chaque fois, la mort est inévitable. Les personnes interrogées décident d’épargner des vies selon certaines variables : jeune ou vieux, riche ou pauvre, groupe ou individu.

Il est très rare qu’un conducteur se trouve face à ces dilemmes moraux, admet l’article de Nature. La question de la pertinence de ces scénarios pour réfléchir à l’éthique des voitures se pose. Mais, selon les auteurs de l’enquête, les résultats mettent au jour des décisions morales que les conducteurs prennent chaque jour. Les résultats révèlent des nuances culturelles que les gouvernements et les fabricants de voitures autonomes doivent prendre en compte. C’est là que les résultats deviennent intéressants. Comment programmer des voitures éthiquement -faut-il épargner un piéton qui traverse la rue en ne respectant pas le Code de la route ou un groupe de petites vieilles ?- si les régions du monde ne réagissent pas de la même façon devant ces cas de figure.

Quel que soit le pays, le genre ou l’âge, les sondés préfèrent épargner un humain plutôt qu’un animal et ils feront le choix de tuer le moins de gens possible. Mais le consensus s’arrête là. En s’intéressant aux réponses des habitants de 130 pays (avec au moins 100 personnes interrogées), les auteurs de l’enquête se sont rendu compte qu’ils pouvaient former trois grands groupes. Une sorte de boussole morale. L’Ouest rassemble l’essentiel des pays occidentaux -sauf la France- et tout le Commonwealth. L’Est compte l’Asie et une partie des nations de culture islamique. Et le Sud réunit l’Amérique latine, certains pays d’Europe centrale, la France, le Maroc, l’Algérie, la Polynésie.

La France épargne les jeunes, les riches et les femmes

En regardant les schémas présentés par l’article de Nature, on observe que le premier groupe (l’Ouest) préfère sacrifier les plus vieux aux plus jeunes. Les pays du Sud ont tendance à choisir d’épargner les femmes et les plus riches alors que les pays de l’Est vont garder les piétons en vie. Bryant Walker, professeur de droit à l’Université de Caroline du Sud à Columbia, juge l’enquête irréaliste car il existe peu d’exemples dans la vraie vie où un conducteur est confronté à de tels dilemmes moraux. « Je pourrais aussi bien m’inquiéter de la manière dont les voitures autonomes vont gérer les collisions d’astéroïdes », ironise-t-il dans l’article.

Pourtant, selon les auteurs, ces exemples sont représentatifs de jugements moraux réalisés quotidiennement par les conducteurs : lorsqu’ils s’éloignent des cyclistes sur une route sinueuse de montagne, ils augmentent leurs chances de croiser une voiture en sens inverse sur leur route. En tout cas, le sujet de discussion est sur la table.