Une enquête ouverte visant l’IA Grok accusée de fausses vidéos sexuelles

Grok est au cœur d’une vive polémique. Et la justice a décidé de s’en mêler. Le parquet de Paris a étendu vendredi son enquête visant X (anciennement Twitter) à cette intelligence artificielle, accusée par trois ministres et deux députés d’avoir généré et diffusé de fausses vidéos à caractère sexuel, « mettant notamment en scène des mineurs », a appris l’AFP auprès du ministère public.

Ces parlementaires et ministres français dénoncent la diffusion de « deepfakes », c’est-à-dire de fausses vidéos, à caractère sexuel et diffusées sur la plateforme X par Grok, sans le consentement des personnes représentées sur ces vidéos.

« Contenus manifestement illicites »

Cette enquête visant X est ouverte depuis juillet, à la suite de signalements contre le réseau social et ses dirigeants, accusés d’avoir biaisé l’algorithme de la plateforme à des fins d’ingérence étrangère. « Le délit de montage à caractère sexuel d’une personne sans son consentement est puni de deux ans d’emprisonnement et de 60.000 euros », a rappelé le parquet qui confirmait une information du site Politico.

Vendredi, les députés macroniste Eric Bothorel et socialiste Arthur Delaporte ont saisi la justice, aboutissant à l’élargissement des investigations. Les ministres Roland Lescure, Anne Le Hénanff et Aurore Bergé ont également annoncé vendredi avoir signalé au procureur des « contenus manifestement illicites », demandant « leur retrait immédiat. »

Les internautes incités à signaler ces publications

« Ces derniers jours, l’intelligence artificielle Grok a permis la génération et la diffusion de contenus à caractère sexiste et sexuel, notamment sous forme de fausses vidéos (deepfakes), visant des personnes sans leur consentement », ont-ils détaillé. Un signalement a également été effectué auprès de la plateforme Pharos par le gouvernement, ont-ils indiqué.

L’Arcom, l’autorité de régulation de la communication audiovisuelle et du numérique, a aussi été saisie, « au titre de possibles manquements de X à ses obligations découlant du Digital Services Act », le règlement européen sur les services numériques. Sur X, la haute-commissaire à l’Enfance Sarah El-Haïry s’est déclarée « scandalisée par les requêtes adressées à Grok de dénuder des filles et femmes » et a incité les internautes à signaler les publications à Pharos.