Robots-tueurs, chômage de masse... L'intelligence artificielle vous fait peur? Mounir Mahjoubi veut instaurer «la confiance»

INTERVIEW Mounir Mahjoubi a passé en revue les questions éthiques que pose l'intelligence artificielle, les espoirs et les craintes qu'elle a fait naître...

Propos recueillis par Benjamin Chapon et Laure Beaudonnnet

— 

Mounir Mahjoubi a testé des dispositifs de réalité virtuelle à Bordeaux le 12 décembre 2017
Mounir Mahjoubi a testé des dispositifs de réalité virtuelle à Bordeaux le 12 décembre 2017 — UGO AMEZ/SIPA
  • Le mathématicien Cédric Villani prépare son rapport sur l’intelligence artificielle. 
  • Le secrétaire d'Etat au Numérique Mounir Mahjoubi arrêtera à la fin du 1er trimestre 2018 sa stratégie.
  • Le rapport final sera dévoilé dans les prochaines semaines.

« L’intelligence artificielle (IA) est une opportunité dans nos vies ». Alors que le mathématicien et député Cédric Villani doit dévoiler « dans les prochaines semaines » son rapport final sur l’IA, le secrétaire d’Etat au numérique Mounir Mahjoubi a accepté de nous ouvrir les portes de son bureau aux moulures dorées de la rue Saint-Dominique (7e arrondissement) pour passer en revue les questions éthiques que posent ces technologies de « simulation de l’intelligence », les espoirs et les craintes que leurs progrès récents ont fait naître.

Décontracté et volubile, Mounir Mahjoubi n’a rien voulu nous lâcher sur le rapport qui doit tracer une ligne directrice à la France et à l’Europe. Il a toutefois répondu aux mythes qui circulent depuis l’explosion des algorithmes.

>> A lire aussi : Qui est Mounir Mahjoubi, le nouveau secrétaire d'Etat au Numérique?

La Chine et Google vont dominer le monde, on est foutus

En 2016, la Chine a annoncé qu’elle investirait 100 milliards de yuans (environ 13,5 milliards d’euros) dans le développement de son marché de l’intelligence artificielle au cours des trois prochaines années. La France fait vraiment petit bras à côté, non ?

« Il faut faire attention avec tous les chiffres. Si on fait la somme de tout ce que la France a investi dans la recherche publique et numérique, dans l’Inria, au CNRS, et l’accompagnement d’investissement dans les entreprises innovantes, on a déjà fait pas mal. La question est de savoir comment faire beaucoup plus, pas forcément en capitaux propres, mais en stratégie pour créer les conditions de l’accélération. Comment on favorise l’investissement dans certains sujets prioritaires ? On attend du rapport de savoir où on met les curseurs. »

Les Gafa nous piquent tous nos nerds de génie

Le Breton Yann LeCun dirige le département de l’IA de Facebook, Emmanuel Mogenet est responsable de la recherche chez Google Research Europe à Zurich. Laurent Lorseau collabore sur le projet DeepMind de Google. Mais Mounir Mahjoubi a un plan machiavélique pour faire rester, ou revenir, en France nos cerveaux.

>> A lire aussi : Google, Facebook, Microsoft... Pourquoi les géants de la Silicon Valley misent sur les intelligences artificielles

« Premier constat : on forme parmi les meilleurs chercheurs au monde. D’ailleurs, on les retrouve ensuite parmi les meilleurs laboratoires du monde. On les forme, mais ils partent ailleurs. Comment fait-on pour qu’ils reviennent et pour qu’ils restent ? Le sujet n’est pas seulement financier. Avec tout ce qu’on met en place dans l’année à venir, il sera encore plus intéressant pour un chercheur de rester en France. Aujourd’hui, on est en train de dire que l’intelligence artificielle est un secteur prioritaire où on va former les meilleurs et où les meilleurs vont rester entre eux. Ça attire les chercheurs. Un très bon chercheur a besoin de bien vivre, mais il a surtout besoin de bien chercher et d’être bien entouré. »

On ne peut pas faire confiance à un algorithme

De nombreux scientifiques mettent en garde contre la complexité des algorithmes que personne ne sait contrôler. La solution à cela est… un algorithme.

>> A lire aussi : Même pour ses cerveaux, l'intelligence artificielle est un casse-tête

« Il faut créer les conditions de la confiance pour réaliser les objectifs que sont la croissance économique et l’accélération dans la recherche. Si on observe le code de certains algorithmes d’IA, surtout si c’est un dispositif apprenant, on ne peut effectivement pas les comprendre. Mais on peut analyser son impact. Le projet Transalgo d’Inria vise à créer des dispositifs technologiques d’évaluation de transparence et de loyauté des technologies. Elle injecte des informations au démarrage de ces algorithmes et analyse ce qui en sort. On en conclut les facteurs d’influence et les éventuels biais. On ne va pas forcément comprendre pourquoi mais on pourra mesurer les déviations par rapport aux objectifs qu’on avait donnés à la plateforme. »

Les robots vont tous nous tuer #JeSuisSarahConnor

En août dernier, une centaine de responsables d’entreprises de robotique ou spécialisées dans l’IA ont écrit une lettre ouverte aux Nations Unies pour mettre en garde contre les dangers des armes autonomes, surnommées « robots tueurs ». Mounir Majhoubi se veut rassurant.

>> A lire aussi : Des scientifiques lancent une pétition contre les « robots tueurs »

« J’ai peur de ceux qui présentent l’IA par le prisme de ce qu’il faut empêcher et de ce contre quoi il faut se protéger, et des peurs qu’elle engendre. La confiance arrivera avec l’établissement de limites. Il y a des usages possibles de l’IA qui ne sont pas souhaitables pour la société, pas viables pour l’humain et le vivre ensemble. Bien sûr, il y a tout ce qui est robot tueurs autonomes. Sur ce sujet par exemple, la ministre de la Défense a dit que ce n’était pas un sujet sur lequel nous allons chercher. L’un des objets du rapport sera de fixer des lignes rouges. Mais au-delà de ces lignes rouges, il faudra aussi établir, sur certains sujets, des points d’équilibre. On ne va pas interdire l’IA dans l’économie, la santé ou le transport mais on va se demander comment permettre cette transparence. »

En plus d’être obèses et stupides à cause des écrans, nos enfants n’ont pas d’avenir s’ils n’apprennent pas à coder

Depuis 2016, le code informatique fait partie des programmes de l’école primaire et du collège. Faut-il aller plus loin dans l’enseignement numérique des enfants ?

« Très tôt les enfants doivent comprendre ce qu’est une donnée, comment elle est stockée, comment elle se transfère, se modifie, se supprime. Il ne s’agit pas d’en faire des codeurs à la fin. Il s’agit plutôt d’une introduction au code qui leur permette de comprendre comment ça marche. Le deuxième sujet est de savoir quel niveau d’expertise on veut donner aux enfants à la fin du cycle scolaire général. Veut-on qu’à la sortie du lycée les bacheliers soient des experts du numérique ? Si oui, on met un niveau d’informatique très élevé tout au long du parcours scolaire. Veut-on uniquement qu’ils soient bien informés. On peut se contenter d’options de très haut niveau. C’est la différence entre la science de l’ingénieur et la culture générale informatique. Je suis ouvert à tout, mais je pense qu’il faut offrir à tous les bacheliers un niveau de base assez important. »

Les robots vont tous nous mettre au chômage

L’automatisation pourrait être le prochain grand bouleversement du marché du travail et selon certaines études, les robots vont mettre une grande partie de la population au chômage.

« Aujourd’hui, vous avez une première thèse qui dit : à un horizon moins proche, 90 % des jobs disparaissent et tout le monde est à la rue, il faudra faire une taxe sur les robots. Vous avez l’autre scénario extrême qui dit : ce sera un jeu à somme nulle, il y aura autant de jobs qui vont disparaître que de jobs qui vont être créés. Quel que soit le scénario, certainement au milieu de ces deux-là, qu’est-ce que je dois faire aujourd’hui pour être sûr qu’on puisse prendre les bonnes décisions dans un an, cinq ans, dix ans. Un des paris du gouvernement, c’est les transitions professionnelles des personnes, c’est pour ça qu’on met 15 milliards d’euros dans le Plan Investissement Compétences (PIC). D’autres disent : « On est déjà dans le cas extrême où les robots vont nous piquer nos jobs et la seule solution c’est le revenu universel ». Le revenu universel ne prend pas en compte les compétences, il dit, de toute façon, c’est fini. Les robots vont prendre toute la valeur ajoutée, donc taxons-les et redistribuons les revenus. Cette thèse-là ne permet pas d’affronter un scénario à somme nulle. Qu’est-ce qu’on fait ? Dans ce cas, j’ai quand même 50 à 60 % des salariés de France qui ont été obligés de se reformer. Si dix ans après, on est dans l’hypothèse des robots et que ça a été plus rapidement que prévu, évidemment que la question du revenu universel se poserait à nouveau. On doit pouvoir s’adapter aux différentes éventualités. »