Google : Une « constitution du robot » empêchant les machines de faire du mal aux humains

Se faire agresser par un robot, certains n’y pensent même pas. Pourtant, Google a décidé de prendre les devants pour éviter tout risque. C’est Google DeepMind, la division du géant américain dédiée à l’intelligence artificielle (IA), qui s’en est chargé grâce à une « constitution du robot ». Elle a pour cela créé AutoRT, un nouveau système de collecte de données qui sert à mieux former les robots dotés de l’IA, explique The Verge.

Sur son blog, Google DeepMind a indiqué ce jeudi que plus de 77.000 essais ont été réalisés, notamment via 53 robots AutoRT en service dans quatre immeubles de bureaux. L’objectif est de permettre aux machines de mieux comprendre leur environnement et d’avoir les comportements appropriés en prenant des décisions rapides et efficaces. Cette constitution est inspirée des trois lois de la robotique pensées par l’écrivain de science-fiction Isaac Asimov.

Des dispositifs pour stopper toute action dangereuse

D’après ce dernier, parmi les règles auxquelles tous les robots devraient se soumettre figure celle selon laquelle « un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ». Voilà pourquoi, entre autres, les machines programmées par DeepMind arrêtent leur action en cours si la puissance exercée sur leurs articulations d’un humain est supérieure à un niveau prédéfini. Il est également possible, via un interrupteur, de désactiver le robot en cas de comportement dangereux.

Un modèle de langage visuel (VLM) ainsi qu’un modèle de langage étendu (LLM) sont utilisés par AutoRT. Ils doivent permettre au robot de mieux appréhender et analyser les éléments qui l’entourent mais aussi lui présenter les actions possibles et l’assister pour sélectionner celle qui est la mieux adaptée à la situation et qui présentent le moins de risque.