Intelligence artificielle: Google préparerait un bouton d'urgence pour stopper les machines incontrôlables

TECHNOLOGIES Cette fonctionnalité n’est toutefois pas si simple à mettre en place…

20 Minutes avec agence

— 

Le siège de Google en Californie
Le siège de Google en Californie — PAUL SAKUM

Très impliqué dans la recherche sur l’intelligence artificielle, Google a pourtant décidé de prendre au sérieux la menace que cette technologie peut représenter. Le géant américain a en effet indiqué travailler à la conception d’un bouton d’urgence pour stopper une machine devenue incontrôlable.

Une option qui pourrait ravir Stephen Hawking et Elon Musk, le premier estimant que l’intelligence artificielle pourrait être la dernière invention de l’espèce humaine, le second la jugeant plus néfaste que les armes nucléaires, rappelle Begeek.

Pas si simple à mettre en place

Toutefois, cette nouvelle fonctionnalité n’est pas si simple à mettre en place. « Si la machine à un but à atteindre et peut prédire qu’elle va être arrêtée, elle va essayer de résister afin de réussir ce pour quoi elle a été conçue », résume Laurent Loiseau, de l’université d’Oxford et collaborateur de DeepMind, l’entreprise spécialisée dans l’intelligence artificielle rachetée par Google.

Mais le spécialiste, cité par Begeek, se veut rassurant : « Notre système permet à un humain de prendre temporairement le contrôle de la machine tout en lui faisant croire qu’elle choisit elle-même d’interrompre son activité. »

>> A lire aussi : Intelligence artificielle: Quand les machines battent l’Homme

Pour rappel, en mars, Microsoft avait dû débrancher son robot rendu fou par des trolls, pour interrompre ses tweets racistes et pro-nazi.