Michel Cymes ou Didier Raoult vantant des médicaments… Gare aux arnaques aux « deepfakes » de médecins connus

Des médecins connus faisant la promotion de cures « miracle » contre le diabète ou l’hypertension ? Des publicités mensongères utilisant l’image de figures d’autorité dans le domaine de la santé, manipulée par l’intelligence artificielle, inondent depuis quelques semaines les réseaux sociaux. Sur Facebook et Instagram, certains promettent notamment de guérir du diabète sans médicament, incitant les patients à abandonner leur traitement qui « va les tuer » au profit d’obscurs sirops « naturels »…

Ces arnaques frisent la mise en danger de la vie d’autrui et sont d’autant plus pernicieuses qu’elles reposent sur l’image de médecins stars, comme le Dr Michel Cymes en France ou le Dr Michael Mosley au Royaume-Uni, victimes de ces « deepfakes », contenus en ligne générés ou modifiés grâce à l’intelligence artificielle.

Des fausses pubs qui visent un public « un peu âgé »

« Les gens ont confiance en ces vidéos car ces médecins ont passé du temps à se construire une image de crédibilité, donc on les croit, même quand ils formulent des allégations totalement farfelues », déplore le Dr John Cormack, un généraliste britannique qui collabore avec le British Medical Journal (BMJ) sur ce sujet.

Ces « deepfakes » ont « vraiment décollé cette année », observe Henry Adjer, spécialiste de l’intelligence artificielle, notant que les publicités visent surtout un public « un peu âgé », en détournant l’image de « médecins de télévision ».

Meta assigné en justice par Michel Cymes

Michel Cymes avait dit avoir déjà assigné en justice Meta pour dénoncer ces « arnaques ». Le Britannique Hilary Jones, qui apparaît sur des vidéos générées par IA en train de vendre un faux remède contre l’hypertension, mais aussi des gommes au chanvre, a employé un expert pour traquer ces publicités. « Mais même quand elles sont enlevées, elles réapparaissent le lendemain sous un autre nom », se désespère-t-il dans le BMJ.

Plus récemment, ce sont des figures controversées, comme le Pr Didier Raoult en France, qui ont été victimes de « deepfake ». Barbara O’Neill, une naturopathe australienne considérée comme « présentant un danger pour la santé » après avoir notamment promu le bicarbonate de soude contre le cancer, est ainsi devenue une star de TikTok sur la base de « deepfakes » lui faisant vendre des pilules pour « nettoyer les vaisseaux sanguins ».

Pas d’outils efficaces de détection

Ces arnaques « ont pris de l’ampleur en raison des progrès du deep learning » (technologie destinée à permettre à une machine d’apprendre par elle-même), explique Frédéric Jurie, enseignant-chercheur en informatique de l’Université de Caen. La qualité des deepfakes en images, audio et vidéo a fait des progrès énormes. « Aujourd’hui, on accède à des dizaines de milliards d’images et on est capable de construire des algorithmes qui peuvent modéliser tout ce qui peut apparaître dans les images et régénérer les images. C’est ce qu’on appelle l’IA générative », note le spécialiste.

Face à ces « deepfakes », les experts ne sont pas très optimistes quant au succès des outils de détection. « C’est le jeu du chat et de la souris », explique Frédéric Jurie. « Par principe, la détection ne peut pas trop s’améliorer, parce que si quelqu’un trouvait quelque chose pour améliorer la détection, à ce moment-là, celui qui veut fabriquer des fausses images utiliserait ce moyen pour le contourner. »