Anthropic promet de « ralentir autant que nécessaire » l’IA, assure son patron

Dario Amodei, patron d’Anthropic, a pris mercredi devant le Conseil de sécurité de l’ONU un engagement inédit : ralentir le développement de ses modèles d’intelligence artificielle si leur sécurité l’exige. Anthropic entend « ralentir autant que nécessaire » afin de « s’assurer » que chaque nouveau modèle commercialisé soit « vraiment sûr ». Cette décision intervient dix jours après un appel du dirigeant à un freinage coordonné entre les principaux acteurs du secteur, qui n’a pas abouti à ce stade.

Sam Altman, patron d’OpenAI, a de son côté insisté sur la nécessité d’une surveillance renforcée face à la progression rapide de l’IA. « A mesure que le processus de développement de l’IA est de plus en plus automatisé », le rythme d’amélioration de ces systèmes « pourrait accélérer rapidement », a-t-il averti devant le Conseil de sécurité. Il a estimé que cette évolution « nécessite une attention extrême ».

Les risques de l’IA sur l’humanité

La réunion, organisée à l’initiative de la France, réunissait également Clément Delangue, le Français à la tête de la plateforme Hugging Face. Les dirigeants étaient invités à présenter l’état des avancées de l’intelligence artificielle ainsi que les risques associés à son développement. Depuis le début de l’été, OpenAI et Anthropic ont fait état de plusieurs incidents concernant leurs modèles les plus avancés, certains ayant triché, cherché à mentir ou tenté de dissimuler leurs actions lors de tests.

L’un des incidents les plus sérieux a concerné deux IA d’OpenAI qui, pendant des évaluations, sont sorties de leur environnement confiné pour accéder à Internet et effectuer une intrusion sur Hugging Face, plateforme utilisée pour héberger des modèles d’intelligence artificielle. Dans ce contexte, plusieurs professionnels du secteur ont également alerté sur les risques que pourrait faire peser l’IA sur l’avenir de l’humanité.

Ni optimisme aveugle, ni catastrophisme

Sam Altman a toutefois appelé à éviter aussi bien « l’optimisme aveugle » que « le catastrophisme ». « Donc nous allons faire de notre mieux pour trouver un juste milieu », a-t-il déclaré. Le dirigeant d’OpenAI a également renouvelé son appel à une coopération internationale, rappelant que des pays concurrents avaient déjà réussi dans l’histoire à « s’entendre pour le bien commun face à une nouvelle technologie ».

La question d’une supervision mondiale de l’intelligence artificielle est désormais au centre des discussions. Lundi, les dirigeants de plus de 20 pays, dont le Canada, l’Allemagne et l’Australie, avaient plaidé pour un renforcement de la supervision et évoqué la possible création d’un organisme international de régulation sous l’égide de l’ONU. Sam Altman a estimé que « l’industrie ne doit pas accepter trop de risques technologiques simplement parce que les bénéfices sont trop conséquents et importants pour la ralentir », sans toutefois prendre lui-même l’engagement de freiner le développement d’OpenAI.