Non, les robots de Facebook qui ont inventé leur propre langage ne vont pas prendre le pouvoir

DESINTOX Une expérience dont les résultats ont été publiés mi-juin affolent la Toile...

P.B.

— 

Des robots du film «I, robot»
Des robots du film «I, robot» — 20TH CENTURY FOX

On ne sait pas trop pourquoi cette histoire de mi-juin refait surface aujourd’hui. « Une intelligence artificielle de Facebook invente un langage que les humains ne peuvent pas comprendre : le système a été déconnecté avant qu’il ne devienne Skynet. » Ce titre racoleur du site TechTimes a été repris par de nombreux tabloïds, lundi, surfant sur la bataille récente entre Elon Musk et Mark Zuckerberg sur les risques posés par l’intelligence artificielle. Mais dans les faits, il s’agit simplement d’une expérience qui a prouvé qu’une fois de plus, la machine a tendance à dévier de l’anglais quand elle ne converse pas avec un humain, comme l’ont déjà montré des expériences de Google et d’Open AI.

Un petit oubli…

Des chercheurs du laboratoire de recherche sur l’intelligence artificielle de Facebook (Fair) ont publié le mois dernier les résultats d’une étude sur l’affrontement entre deux systèmes d’intelligence artificielle (pdf). Ces derniers devaient converser et négocier pour se partager des objets (des ballons, des chapeaux et des livres) en cherchant à obtenir le meilleur deal possible. Sauf que les chercheurs ont oublié d’activer une option récompensant l’algorithme pour l’inciter à utiliser un langage compréhensible par les humains, et les machines ont rapidement dévié de la grammaire anglaise :

Bob : Je peux je je tout le reste

Alice : les ballons ont zéro pour moi pour moi pour moi pour moi pour moi

Des « raccourcis »

Certes, ces répétitions ressemblent à un cauchemar classique de robot buggé. Mais « si je dis ''le'' cinq fois, vous interprétez que je veux dire cinq copies de cet objet. C’est assez semblable aux communautés d’humains qui créent des raccourcis via la sténographie », expliquait le chercheur Dhruv Batra au site FastCoDesign.

Contacté par 20 Minutes, Facebook précise qu’il s’agissait simplement d’une expérience de recherche et pas d’un système de production. Surtout, les scientifiques ont choisi de demander à la machine de repasser à l’anglais car le but était de créer un système de négociation conversationnelle qui soit compréhensible par les humains. Bref, les robots ne sont pas – pour l’instant – en train de comploter dans leur langage secret pour prendre le pouvoir.