«Aucune machine ne sait à la fois jouer au poker et débarrasser la table»

INTERVIEW L'intelligence artificielle va-t-elle dépasser celles des humains et faire entrer l'humanité dans une nouvelle ère? Jean-Gabriel Ganascia en doute et publie «Le mythe de la Singularité» aux éditions du Seuil…

Annabelle Laurent

— 

World Robot Conference, à Pékin, octobre 2016.
World Robot Conference, à Pékin, octobre 2016. — Ng Han Guan/AP/SIPA
Couv

Les uns imaginent que nous téléchargerons nos consciences sur des machines, et deviendrons ainsi immortels. Les autres prévoient que l’humanité sera condamnée, pour survivre, à s’hybrider à la technologie. Leurs conceptions sont diverses mais tous se préparent à l’arrivée imminente de la « Singularité technologique », qui inscrira une rupture d’échelle (en mathématique et en physique, la singularité est synonyme de transition) dans l’évolution du progrès technologique, le jour où l’ intelligence artificielle aura dépassé celle des humains.

Des auteurs de science-fiction ? Des futurologues fantaisistes ? Pas du tout. Ces projections sont celles de quantité d’ingénieurs et chercheurs reconnus. « L’intelligence artificielle pourrait conduire à l’extinction de la race humaine ». En décembre 2014, le cri d’alarme de Stephen Hawking faisait le tour de la planète. L’astrophysicien n’est pas seul à s’inquiéter.  Bill Gates ou Elon Musk ont aussi fait part de leurs craintes quant aux progrès de l’IA.

La thèse de la Singularité en elle-même est défendue depuis des années par Ray Kurzweil, chef de projet chez Google, qui annonce le « choc » pour 2045 environ. On peut aussi citer Nick Bostrom, philosophe et physicien suédois, directeur de l’Institut pour l’avenir de l’humanité à l’université d’Oxford et auteur de Superintelligence (chaudement recommandé par Bill Gates).

Les travaux de scientifiques se multiplient tandis que naissent des instituts de recherche comme l’Université de la Singularité qui compte parmi ses fondateurs Google, Cisco ou Nokia… Pour les adeptes, pas de doute : les machines seront bientôt incontrôlables puisque leur comportement ne résultera plus du programme que les hommes auront écrit mais des connaissances qu’elles construiront elles-mêmes.

Pour l’expert en intelligence artificielle Jean-Gabriel Ganascia, professeur à l’université Pierre-et-Marie-Curie, il y a là un « buzzword » sans fondement scientifique. Il publie Le mythe de la Singularité, paru le 2 février aux éditions du Seuil, et y analyse ces allégations une à une.

Les défenseurs de la Singularité n’ont rien de gourous farfelus. Ils sont chercheurs, roboticiens, ingénieurs, dans les plus grandes entreprises de la Silicon Valley. Pourquoi auraient-ils tort ?

La thèse de la Singularité est surtout portée par des ingénieurs. Tous sont dans des grandes sociétés où ils sont arrivés très jeunes à des positions dominantes. Ils ont eu le sentiment de transformer le monde. Google, Facebook, etc. ont tellement rapidement infusé dans toute la société qu’ils ont été pris par un sentiment de vertige : il y a chez eux d’une part un sentiment de puissance considérable, mais aussi celui que tout bascule extrêmement rapidement… Surtout, ils ont l’impression que c’est au gré de l’opinion que la technologie évolue, et non pas leur volonté propre. Les produits ne sont jamais définitifs et sont adaptés en fonction des retours d’usage et des données récoltées : par exemple pour Facebook avec ses politiques de confidentialité, le réseau s’ajuste selon l’impopularité de ce qu’il propose… Tout cela les conduit en tout cas à un sentiment d’autodétermination de la technologie, qui à mon sens les prédispose à accepter les théories de la Singularité.

(Elon Musk, Ray Kurzweil, Nick Bostrom et d’autres ingénieurs discutent « Superintelligence » au séminaire Beneficial AI organisé par le Future of Life Institute (FLI, institut pour le futur de la vie) à Asilomar, en Californie, début janvier. Ils y ont défini les « 23 principes d’Asilomar ».)

Ils se fondent pourtant sur des éléments tangibles : beaucoup citent la loi de Moore [émise en 1965 par Gordon Moore], selon laquelle les performances des machines s’accroissent de façon exponentielle, car la puissance des ordinateurs double environ tous les deux ans. Jusqu’ici, la loi se vérifie !

Il faut examiner la loi de Moore pour voir ce qu’elle dit vraiment. Elle dit que la densité des composants [le nombre de transistors par microprocesseurs] va doubler. Si on imagine que la loi se poursuit indéfiniment, cela veut dire que les composants vont devenir de plus en plus petits – s’ils devaient être plus grands, il y aurait des problèmes de perte énergétique très forte - et à un moment donné les composants deviendraient plus petits qu’un atome… Donc on sent bien qu’à un moment donné ce n’est plus tenable, même si une piste peut être de mettre des microprocesseurs en parallèle. D’ailleurs la loi de Moore commence à ralentir. Certains disent que c’est une loi universelle, donc qu’elle va de toute façon se poursuivre et qu’une autre technologie comme le calcul quantique va prendre le relai. Or on n’en sait rien !

Quid du bond en avant réalisé par l’intelligence artificielle, qui n’a jamais été aussi performante pour analyser une telle quantité de données ? Dernier exploit en date après la victoire culte d’AlphaGo en mars 2016 : une IA du nom de Libratus a fait mordre la poussière à des grands champions de poker

On peut aujourd’hui modaliser certaines fonctions cognitives, et la machine peut être meilleure que nous au Go, au Poker (où, au passage, elle ne sait pas qu’elle « bluffe » !)… Mais cela fait extrêmement longtemps que les machines sont meilleures que nous pour faire du calcul numérique. Et même ces progrès impressionnants ne relèvent pas de la création d’une conscience qui serait rivale avec nous. Les machines qui jouent au poker ne jouent qu’au poker, elles ne savent pas débarrasser la table ! La machine ne va pas complètement remplacer l’homme, elle peut mieux faire mieux que lui dans certains cas, mais elle sera un partenaire.

Jason Les, champion de poker, affronte le programme informatique Libratus, le 11 janvier 2017.
Jason Les, champion de poker, affronte le programme informatique Libratus, le 11 janvier 2017. - Andrew Rush/AP/SIPA

>> A lire aussi : En 2016, l’intelligence artificielle aurait voulu être une artiste

On dit pourtant qu’avec le «deep learning » [un mécanisme d’apprentissage non supervisé] la machine « apprend à apprendre » ?

Non, elle apprend juste. Elle est capable, entraînée à partir d’exemples, de construire des connaissances. Comme quand on lui donne 200 millions d’exemples et qu’elle obtient de très bonnes performances en reconnaissance faciale. Mais elle ne fait qu’apprendre.

Vous sous-entendez dans votre livre qu’un « goût de la catastrophe » peut encourager l’adhésion à la Singularité…

Certains s’inquiètent en effet avec cette espèce de fatalisme et le sentiment de dépossession, mais certains rêvent. Puisque tout est possible, on va réparer le monde avec la technologie. Peut-être que les machines auront une conscience, peut-être pourra-t-on même télécharger son esprit. La science nous apprend que l’esprit est produit par la matière mais eux prétendent que l’esprit peut se détacher de la matière et être mis ailleurs. On pourrait donc devenir immortels. Allez voir 2045.Com. Un milliardaire russe a repris les ambitions de Google : on va pouvoir télécharger votre esprit sur une machine, mais vous allez être une âme errante, alors comment allez-vous vous réincarner ? On va vous donner un robot. Ils s’y sont mis dès à présent. Vous appuyez sur un bouton d’immortalité et vous commencez à fabriquer votre avatar…

2045.com
2045.com - 2045.com

>> A lire aussi : «"Parler aux morts" sera, dans le futur, aussi naturel qu’ouvrir Facebook»

Les théories de la Singularité rencontrent finalement – pour l’instant ?- peu d’écho auprès du grand public. 

Quand je demande aux gens s’ils savent ce qu’est la Singularité, la réponse est souvent non, mais dès que je parle d’intelligence artificielle il y a quelqu’un pour me demander quand les machines deviendront plus puissantes que nous… Le terme n’est pas très connu du grand public mais la crainte qu’il puisse y avoir une perte de contrôle est un sentiment très ancien et très répandu. Il existait avant les ordinateurs. Pensez à Fantasia (1940 !), avec la scène des balais qui s’animent et se mettent à prendre les seaux pour remplacer le travail de Mickey… C’est exactement la même chose. Cette inquiétude-là, d’être dépassé un jour, me semble ancrée dans le cœur de l’homme. C’est pour cela que l’idée de Singularité est assez populaire.

Une peur plus répandue chez le grand public est celle de perdre son emploi. La robotisation et l’IA menacent ceux peu qualifiés comme ceux très qualifiés…

Toutes les technologies conduisent à une mutation du travail, ce n’est pas une affaire nouvelle. La nature du travail change, et la formation va devoir changer en même temps.

>> A lire aussi : Les robots vont-ils vraiment voler nos emplois?

Quelles sont alors vos craintes quant aux progrès de l’intelligence artificielle ?

Il y a d’autres inquiétudes à avoir liées à l’emprise que prennent ces sociétés [les GAFAs ou géants du Web] sur la population, en essayant de se substituer à nous dans un nombre croissant de domaines, en nous demandant en permanence notre opinion… mais en décidant seuls. L’importance que va prendre l’IA dans la société pose un certain nombre de questions. Prenons l’exemple de l’IA prédictive pour le déploiement des forces de police [des algorithmes sont capables de prévoir où et quand devraient avoir lieu les prochains crimes]. Si on prédit qu’il y aura moins de crimes là où on aura déployé les forces de police [en jugeant le risque élevé], on ne pourra pas vérifier qu’on aura raison de les avoir mobilisés davantage, à moins d’arrêter plus de gens… Ou de mettre en place plus de forces de police. Ça devient un système auto confirmé. La prédiction peut avoir un impact destructeur dans la justice, l’éducation, l’accès à l’emploi ou au crédit comme le montre la mathématicienne américaine Cathy O’Neil quand elle parle de « Weapons of Math Destruction », donc d’armes de destruction mathématique. Il est pour moi problématique que la Singularité, qui est un mythe, détourne l’attention des dangers de ce développement de l’informatique.

>> A lire aussi : «Les algorithmes ne limitent pas notre liberté de choix, ils l'augmentent»