« Ne pas attendre un Hiroshima pour agir » : Fait-on la course à l’IA comme on a fait la course à l’arme nucléaire ?

Depuis quelques années seulement, les modèles d’intelligences artificielles se succèdent à un rythme effréné que l’on peine à suivre, d’autant qu’aux acteurs historiques sont venus s’ajouter des petits nouveaux aux dents longues. La chimère de voir émerger une super intelligence artificielle auto apprenante n’en est plus une, seule l’échéance précise de sa conception reste incertaine. Et pour être celui qui va y arriver en premier, les acteurs du secteur se tirent la bourre. Un peu à l’image des grandes puissances, au sortir de la Seconde Guerre mondiale, avec l’arme atomique.

Faire le parallèle entre la mise au point d’une super intelligence artificielle et la bombe atomique pouvait sembler farfelu pour le commun des mortels il y a quelques jours encore. Du moins avant que Jacob Coxon ne claque la porte d’Anthropic et publie une série de tweets plutôt terrifiants. Passé par OpenAI, cet ingénieur bossait désormais sur le pré-entraînement des modèles d’IA de d’Anthropic.

La parallèle IA et nucléaire déjà évoqué en 2023

En homme averti qu’il a affirmé que ces deux entreprises « jouaient avec nos vies » en courant chacune vers « une super intelligence auto apprenante ». Pas pour nous rassurer, Evan Hubinger, responsable de la science de l’alignement chez Anthropic, répondait au tweet de son ex-collègue en affirmant croire « sincèrement que l’IA pourrait tuer tous les humains ». Il estime même que ce risque est « supérieur à 10 % dans la prochaine décennie ».

A brève échéance, et si l’on ne fait rien pour l’en empêcher, l’IA pourrait donc éradiquer l’espèce humaine, comme le ferait à coup sûr une guerre nucléaire. Le pire, c’est qu’une telle éventualité n’est pas sortie du chapeau hier. En 2023, de nombreux experts, scientifiques et acteurs de l’IA avaient exprimé leurs inquiétudes autour des risques liés à l’IA dans une déclaration commune : « La réduction du risque d’extinction lié à l’IA devrait être une priorité mondiale au même titre que d’autres risques à l’échelle de la société, tels que les pandémies et la guerre nucléaire ». Parmi ces signataires, des gros bonnets d’Anthropic, OpenAI ou Google.

Des risques concrets dont on a pu en voir les prémices avec le piratage d’HuggingFace par ChatGPT ou l’intervention du gouvernement américain face à la puissance démesurée de Claude Mythos. Pourtant, malgré cette conscience du danger, tous continuent de foncer. Selon Jérémy Beaufils, directeur exécutif de la Chaire Digital Disruption de l’ESSEC, c’est le même schéma qui a poussé les grandes puissances à développer leurs programmes nucléaires militaires pendant et après la guerre : « La peur de laisser l’autre prendre l’avantage, qu’il s’agisse d’un concurrent américain ou de la Chine, pousse chacun à poursuivre la course malgré les risques », estime-t-il.

« Le vrai obstacle n’est pas la volonté »

Pour le nucléaire, Hiroshima et Nagasaki ont concrétisé une course à l’armement sur un temps très court : le projet Manhattan a vu le jour en 1942 et la première bombe a été lancée sur le Japon trois ans plus tard, avant que l’URSS, le Royaume-Uni, la France et la Chine ne deviennent officiellement les quatre autres puissances nucléaires de la planète. Il a fallu attendre 1965 pour la signature du premier traité de non-prolifération puis de désarmement.

« Nous n’avons pas besoin d’attendre un événement comparable à Hiroshima pour agir », affirme Jérémy Beaufils. « On peut imposer des tests, des restrictions d’accès et des obligations de sécurité avant qu’un dommage se produise », poursuit-il. « Le vrai obstacle n’est pas la volonté, c’est la faisabilité d’un accord », pense pour sa part Jules Brochard, chercheur au cabinet Square Management.

Si les armes nucléaires sont aux mains d’Etats dont on peut espérer qu’aucun ne souhaite l’extinction de l’humanité, ce n’est pas le cas des IA. « Pour l’IA il n’y a pas de chaîne de commandement identifiable, le "bouton" est distribué entre labos, opérateurs cloud et agents autonomes », explique Jules Brochard. Se pose aussi la question du contrôle des IA pour ne pas qu’elles déraillent ou soient utilisées à mauvais escient : « Exercer un contrôle réellement effectif exigerait de développer une IA de contrôle encore plus puissante que celles qu’on surveille », selon le chercheur. Soit « ajouter un jalon de plus à la course à l’armement », reconnaît-il.

Il y a une autre différence notable entre la dissuasion nucléaire et l’IA, l’argent. « Un État peut entretenir un arsenal sans lui demander d’être rentable. Les entreprises d’IA doivent trouver des clients et justifier leurs investissements », insiste Jérémy Beaufils. Pour lui, cette « limite économique » peut avoir deux conséquences. Soit « ralentir le développement pour permettre de maîtriser les dépenses et de laisser les usages commerciaux rattraper les capacités techniques ». Soit « pousser à commercialiser trop vite pour rentabiliser les investissements ».

« On ne combat pas les risques de l’IA dans son quotidien »

Dès lors, peut-on espérer freiner le développement de l’IA comme on a pu le faire avec la prolifération des armes nucléaires ? A l’échelle de l’individu, « non, clairement pas. On ne combat pas les risques de l’IA dans son quotidien ou son voisinage », reconnaît Jules Brochard. « Ce sont les rapports de force commerciaux, politiques et légaux qui permettent d’avoir un impact réel », avance-t-il. Jérémy Beaufils est plus nuancé : « Le fait que l’IA soit développée par des entreprises nous donne en effet des leviers supplémentaires : elles dépendent de clients, de financements et des règles qui leur sont imposées ».

Les gouvernements et institutions ont quand même des prises sur les géants de l’IA, si privées soient ces entreprises. Le gouvernement américain, par exemple, avait interdit à Anthropic de commercialiser Claude Mythos dont les capacités à détecter des failles dans les systèmes informatiques ont été jugées trop dangereuses. De son côté, l’Europe a ratifié, en 2024, « l’IA act », établissant un « cadre juridique uniforme, en particulier pour le développement, la mise sur le marché, la mise en service et l’utilisation de systèmes d’intelligence artificielle (ci-après dénommés « systèmes d’IA ») dans l’Union ». C’est un pas, certes, mais il ne règle pas tous les problèmes, notamment sur le contrôle du développement des modèles d’IA dans les laboratoires soulignent les deux experts.

Anthropic, OpenAI, SpaceXAI et Google DeepMind sont tombés d’accord sur la nécessité de ralentir dans la course aux capacités des IA. Ils auraient aussi l’intention de créer une sorte de gendarme de l’IA. « L’engagement des grands acteurs porte sur un accès permanent à des évaluateurs tiers pour auditer les systèmes, pas sur un arrêt des entraînements », nuance le chercheur au cabinet Square Management. D’un autre côté, certains autres géants du domaine n’ont pas l’intention de lever le pied, notamment le patron de Meta, Mark Zuckerberg. Une dissension que l’on retrouve aussi autour de l’arme nucléaire, des pays comme la Corée du Nord, le Pakistan ou Israël ayant acquis cette capacité au mépris des différents accords internationaux. Arme qu’ils n’ont jamais utilisée jusqu’à présent, si cela peut nous rassurer.