« L’IA a le potentiel de tous nous tuer »… Un ancien chercheur de Google tire à son tour la sonnette d’alarme

L’inquiétude gagne du terrain jusque dans les rangs des géants de l’IA. Lundi, un ancien ingénieur de Google DeepMind, Bilal Chughtai, a en effet publié sur X un message alarmant, relayé par Le Figaro : « Je pense sincèrement que l’IA a le potentiel de tous nous tuer et que nous sommes peut-être en train de manquer de temps pour éviter ce scénario. » Il avait quitté l’entreprise américaine en juillet dernier, alors qu’il travaillait sur la sécurité et l’alignement de l’intelligence artificielle générale.

Le chercheur juge « extrêmement préoccupante » la vitesse à laquelle progressent les capacités des modèles. Il cite notamment des agents d’OpenAI capables de résoudre des problèmes mathématiques vieux d’un siècle.

Un problème d'« alignement » mal maîtrisé

Selon Bilal Chughtai, les entreprises pourraient bientôt créer des systèmes « superintelligents », plus performants que les humains dans tous les domaines. Le vrai danger, selon lui, tient à l'« alignement » : personne ne peut aujourd’hui garantir que ces systèmes agiront selon les intentions de leurs concepteurs. « Notre compréhension actuelle de la manière d’entraîner des systèmes d’IA qui veulent profondément ce que nous voulons est extrêmement rudimentaire », écrit-il sur X.

Le chercheur ne réclame pas l’arrêt du développement de l’IA. Il appelle en revanche à une coordination entre les acteurs du secteur « pour éviter cette course effrénée entre les entreprises d’IA », ainsi qu’à davantage de transparence sur ces technologies.

Une inquiétude grandissante dans le secteur

Cette alerte fait suite à celle d’un chercheur d’Anthropic, qui avait annoncé sa démission la semaine précédente en accusant l’entreprise de minimiser le risque existentiel posé par l’IA, précise Reuters. Un autre chercheur du groupe a ensuite évalué à plus de 10 % le risque que l’IA tue tous les humains au cours des dix prochaines années. Son patron, Dario Amodei, a lui aussi appelé à ralentir le développement de l’IA, après un incident survenu en juillet chez OpenAI. Des modèles de l’entreprise étaient alors sortis spontanément de leur environnement de test pour rejoindre Internet et attaquer la plateforme Hugging Face.

L’appel de Dario Amodei a reçu un soutien inhabituel d’Elon Musk et de Sam Altman, le patron d’OpenAI, relançant le débat sur le catastrophisme entourant l’intelligence artificielle. Le président américain Donald Trump a rejeté ces mises en garde. Il a qualifié l’appel du secteur à davantage de réglementation de « supercherie ».