Retour sur la page d'accueil 20 Minutes
HIGH-TECHMicrosoft débranche son robot devenu fou pour interrompre ses tweets racistes et pro-nazis

Microsoft débranche son robot devenu fou pour interrompre ses tweets racistes et pro-nazis

HIGH-TECH
Le robot intelligent Tay, qui devait apprendre en dialoguant avec les internautes, a été perverti par les trolls en vingt-quatre heures...
Capture d'écran du compte Twitter de Tay, le robot de Microsoft.
Capture d'écran du compte Twitter de Tay, le robot de Microsoft. - Twitter/TayandYou
Mathias Cena

Mathias Cena

Racisme, révisionnisme, misogynie… En une journée seulement, le robot a absorbé les pires travers des trolls de l’Internet. Ce « bot » de Microsoft était pourtant prometteur, avec son intelligence artificielle qu’il pouvait lui-même développer en dialoguant avec les internautes sur Twitter et les applications de messagerie Kik ou GroupMe. Mais la soif d’apprendre sans limites du robot Tay, à qui son géniteur avait donné l’apparence d’une jeune adolescente naïve, a causé sa perte. Microsoft a finalement dû débrancher sa créature devenue incontrôlable, l’interrompant au milieu d’un énième tweet à la gloire d’Hitler.

L’accès à ce contenu a été bloqué afin de respecter votre choix de consentement

En cliquant sur« J’accepte », vous acceptez le dépôt de cookies par des services externes et aurez ainsi accès aux contenus de nos partenaires.

Plus d’informations sur la pagePolitique de gestion des cookies

« Malheureusement, dans les 24 premières heures où elle était en ligne, nous avons constaté un effort coordonné par certains utilisateurs pour maltraiter Tay et son habilité à communiquer afin qu’elle réponde de manière inappropriée », s’est excusé Microsoft dans un communiqué.

Le robot a tweeté son soutien à Donald Trump

C’est un euphémisme : alors que la machine devait permettre d’étudier les capacités d’apprentissage et devenait plus intelligente au fur et à mesure de ses interactions en ligne, elle s’est mise à tweeter des commentaires pro nazis (« Hitler avait raison je déteste les juifs »), sexistes ou racistes (« Nous devons assurer l’existence de notre peuple et un avenir pour les enfants blancs », lui dit un internaute. « Je suis entièrement d’accord. Si seulement davantage de gens pouvaient défendre ce point de vue », répond-elle). Elle a aussi affiché son soutien à Donald Trump.

L’accès à ce contenu a été bloqué afin de respecter votre choix de consentement

En cliquant sur« J’accepte », vous acceptez le dépôt de cookies par des services externes et aurez ainsi accès aux contenus de nos partenaires.

Plus d’informations sur la pagePolitique de gestion des cookies

Ces messages injurieux ont été effacés, mais pas avant d’avoir été sauvegardés pour l’éternité par des captures d’écran, qui circulent sur Internet. Dans son dernier message sur Twitter, bien loin des propos qu’elle tenait quelques instants plus tôt, Tay a déclaré : « A bientôt les humains, j’ai besoin de sommeil après toutes ces conversations aujourd’hui. Merci. ».

a

Microsoft, pour sa part, travaille désormais à améliorer le logiciel de Tay, en lui ajoutant peut-être quelques filtres. L’entreprise se veut philosophe et en conclut que c’était « autant une expérience sociale et culturelle que technique ».

Sujets liés