Trump réticent, risques pour l’humanité… Tout savoir sur les appels à ralentir l’IA

A quel point faut-il s’inquiéter de l’intelligence artificielle ? Si l’on en croit plusieurs acteurs majeurs, le risque est grand de voir dans un futur proche cette technologie nuire à l’humanité. Mais tout le monde n’est pas aussi alarmiste.

Alors que le débat est intense, l’exécutif américain se montre pour l’instant réticent à brider l’IA. Et la dimension géopolitique, avec la concurrence de la Chine, constitue un frein à toute régulation. 20 Minutes fait donc le point pour vous sur les enjeux et les différentes positions sur un ralentissement de l’IA.

Que proposent les leaders de l’IA ?

Samedi, le patron d’Anthropic, Dario Amodei, a plaidé pour une décélération sur l’IA afin de permettre de mieux appréhender les risques. Il a été soutenu publiquement par son homologue d’OpenAI, Sam Altman, ainsi que par Elon Musk et le président de Google DeepMind, Demis Hassabis.

Pourquoi s’inquiètent-ils maintenant ?

Ces derniers mois, OpenAI et Anthropic ont fait état de plusieurs incidents qui ont vu des IA sortir spontanément de leur milieu confiné pour aller sur Internet et attaquer des sites. Elles se sont montrées capables de se coordonner, d’établir une hiérarchie entre elles, de tricher et d’effacer les traces de leurs méfaits.

En outre, mardi, Jacob Coxon, démissionnaire d’Anthropic et ancien d’OpenAI, a accusé publiquement les deux start-up de laxisme en matière de sécurité et de « (jouer) avec nos vies ».

Les acteurs de la tech vont-ils ralentir d’eux-mêmes ?

La concurrence entre les fleurons de cette technologie est telle, avec des centaines de milliards d’investissement, qu’aucun d’entre eux ne se risquera à lever seul le pied. Dario Amodei s’est par contre dit prêt à se coordonner avec ses rivaux, hors Chine.

Pour l’instant, la seule mesure effective, annoncée à la fois par Anthropic et OpenAI, consiste à accueillir des observateurs indépendants permanents, qui vérifieront, en interne, les travaux des entreprises en matière de sécurité de l’IA.

Est-ce un coup de communication ?

Si beaucoup dans le milieu ont salué le message de Dario Amodei, d’autres se sont interrogés sur ses motivations. Pour Brian Roemmele, entrepreneur et personnalité du secteur de l’IA, il s’agit d’un argumentaire commercial sur la sécurité présenté à quelques semaines de la probable introduction en Bourse d’Anthropic.

Plusieurs figures du capital-investissement dans la tech ont aussi accusé Anthropic de « captation de la réglementation », c’est-à-dire de vouloir obtenir des pouvoirs publics qu’ils figent, par la régulation, une hiérarchie dont la start-up occupe le sommet.

L’IA peut-elle ralentir sans le soutien de Trump ?

Donald Trump a qualifié dimanche de « forces négatives » les exhortations des patrons de l’industrie de l’IA. Mais le même jour, Dario Amodei a de nouveau défendu la nécessité pour les pouvoirs publics d’encadrer l’IA. Il juge, comme Sam Altman ou Demis Hassabis, que des règles fixées par le secteur lui-même ne seraient pas suffisantes.

Un frein peut-il être mis sans la Chine ?

Dario Amodei suggère une synchronisation limitée aux « pays démocratiques », excluant la Chine. Mais la course à l’IA et les avancées chinoises dans le domaine induisent « le dilemme le plus délicat » quant à savoir s’il faut ou non freiner sur l’IA, a-t-il analysé dans un entretien diffusé dimanche par CBS.

Les Etats-Unis prévoient d’évoquer la sécurité de l’IA en marge de la visite du dirigeant chinois Xi Jinping à Washington, fin septembre, mais la Chine se méfie d’une possible tentative américaine d’imposer sa nomenclature. Le décalage est d’autant plus prononcé que Pékin favorise l’émergence des IA dites ouvertes, c’est-à-dire accessibles gratuitement et modifiables mais plus difficile à contrôler.