Des taxis autonomes se sont-ils un jour subitement arrêtés au même endroit à San Francisco, bloquant un carrefour pendant plusieurs heures de façon inexpliquée ?

C’est la question que se pose un lecteur, qui a interrogé 20 Minutes à propos d’un article publié le 4 décembre 2023 dans l’édition numérique de La Libre Belgique. La chronique en question relate l’histoire d’une « manifestation » par des taxis automatisés, qui auraient bloqué le trafic sans raison apparente dans la ville américaine.

Au-delà de l’image humoristique de la manifestation, ce lecteur s’interroge : « Les faits relatés, s’ils sont vrais, sont inquiétants ! ».

L’article en question (réservé aux abonnés), intitulé « Le paradoxe de la super intelligence artificielle », contient un passage au sujet de taxis autonomes, en circulation depuis l’été 2022 à San Francisco. Dans le paragraphe en question, le chroniqueur Fabrizio Bucella, auteur de l’article et docteur en physique, relate une « manifestation silencieuse » inexpliquée organisée par des taxis autonomes de la société Cruise. Ces derniers auraient « totalement » bloqué la circulation, ne voulant « plus bouger » malgré les efforts des ingénieurs.

Plusieurs cas de taxis autonomes qui bloquent la circulation

Comme le confirme son auteur auprès de 20 Minutes, le passage de cette chronique doit se comprendre sur un ton humoristique : « Les taxis n’ont bien entendu pas manifesté de la même manière qu’un humain l’aurait fait, mais le fait est qu’ils étaient arrêtés à un endroit où ils n’auraient pas dû être ».

Si le terme de « manifestation » est à prendre au second degré dans l’article en question, le problème des blocages provoqués par des taxis autonomes aux Etats-Unis est bien réel. La presse américaine ainsi que des internautes ont en effet relaté plusieurs blocages provoqués par des regroupements des taxis automatisés de la société Cruise, survenus simultanément à San Francisco le 28 juin 2022. La société Cruise, qui appartient au groupe General Motors, avait été autorisée début juin 2022 à commercialiser ses courses en taxi autonomes.

Comme le rapporte le journal local San Francisco Examiner, ces taxis ont provoqué un blocage pendant environ deux heures, « au coin des rues Gough et Fulton ». Le journal précise également : « L’incident n’a été résolu que lorsque les robots voitures ont été manuellement écartés par le personnel de Cruise. ». Après plusieurs épisodes de blocages ainsi que des accidents, la société a finalement retiré tous ses véhicules de la circulation en octobre 2023, après avoir été bannie des routes californiennes, comme le rapporte l’agence de presse Reuters.

De simples pannes ou le signe d’une intelligence artificielle incontrôlable ?

Interrogée par le média spécialisé Tech Crunch à propos du blocage du 28 juin, la société Cruise avait communiqué : « Nous avons eu un problème plus tôt cette semaine qui a provoqué le regroupement de certains de nos véhicules ». « Bien que le problème ait été résolu et qu’aucun passager n’ait été touché, nous nous excusons auprès de tous ceux qui ont été gênés ». Toutefois, l’entreprise ne s’était pas exprimée sur les causes de ce dysfonctionnement.

Dans sa chronique pour La Libre Belgique, le scientifique Fabrizio Bucella utilise cet exemple parmi d’autres pour illustrer le problème des limites de l’autonomisation de l’intelligence artificielle. « A ce stade on ne sait pas exactement ce qui a causé cet arrêt des véhicules, ça peut être une panne de réseau et quelque chose de circonscrit », développe le professeur à l’Université Libre de Bruxelles.

« Une étape de l’apprentissage »

« Je ne peux pas dire que c’est bien le cas ici, mais à un moment donné on arrive à un stade où ce type de programme n’est plus maîtrisé, on rentre un peu dans cette zone où les réseaux neuronaux produisent des résultats qu’on est en difficulté d’expliquer. C’est par exemple le cas des algorithmes des réseaux sociaux comme Facebook, dont personne ne peut vraiment expliquer dans le détail le code tellement il est complexe ».

Pour le spécialiste des voitures autonomes Michel Parent, ex-directeur de recherche à l’Inria (Institut national de recherche en sciences et technologies du numérique), ce type de problème est effectivement à attribuer au développement de l’intelligence artificielle, plutôt qu’à une panne.

« Ces véhicules ne fonctionnent pas encore avec une intelligence artificielle tout à fait développée qui serait égale à celle d’un humain, et ne peuvent donc pas prédire toutes les situations. Ce type de problème est une étape de l’apprentissage ». Le spécialiste rassure toutefois concernant l’autonomisation de ce type de véhicule, et affirme qu’il sera toujours possible de reprendre la main après coup pour corriger les problèmes dans le système.

Le spécialiste met aussi en perspective le nombre d’accidents produits par les voitures autonomes en comparaison avec ceux provoqués par des humains, qui reste statistiquement moins élevé.