Les « deepfakes » (fausses images) sont de plus en plus aboutis ? Les moyens de les détecter aussi ! Le géant américain Meta annonce ainsi de nouveaux moyens permettant d’identifier, « dans les prochains mois », toute image générée par une intelligence artificielle (IA) et qui sera publiée sur ses réseaux sociaux.

« Dans les prochains mois, nous étiquetterons les images que les utilisateurs publient sur Facebook, Instagram et Threads lorsque nous pourrons détecter des signaux conformes aux normes de l’industrie montrant qu’elles sont générées par l’IA », a annoncé, dans une note de blog datée du mardi 6 février 2024, Nick Clegg, responsable des affaires internationales de Meta.

Des watermarks pour identifier les « deepfakes »

Si Meta a d’ores et déjà mis en place ces « étiquettes » – des watermarks – sur les images créées à partir de son propre outil, Meta AI, l’entreprise souhaite « aussi pouvoir le faire avec des contenus créés avec les outils d’autres entreprises comme Google, OpenAI, Microsoft, Adobe, Midjourney, ou encore Shutterstock ».

Cette annonce intervient alors que l’essor de l’IA générative fait craindre que des personnes n’utilisent ces outils pour semer le chaos politique, par le biais de la désinformation ou de la mésinformation, à l’approche de plusieurs élections majeures (parmi lesquelles la présidentielle américaine qui se tiendra le mardi 5 novembre 2024).

Un combat loin d’être gagné

Elle fait aussi écho à la récente recrudescence de deepfake pornos de femmes célèbres ou anonymes, comme celui qui a visé la chanteuse américaine Taylor Swift et a été vu 47 millions de fois sur le réseau social X (ex-Twitter) avant d’être supprimé au bout de 17 heures.

Si Nick Clegg admet que cet étiquetage à grande échelle « n’éliminera pas » totalement le risque de production de fausses images, « cela minimisera certainement » sa prolifération « dans les limites de ce que la technologie permet actuellement ».

Avant Meta, la société californienne OpenAI, créatrice de ChatGPT, avait également assuré, mi-janvier, de sa volonté d’interdire l’utilisation de ses technologies à des fins politiques. Elle avait aussi souligné que son générateur d’images DALL-E 3 contenait des « garde-fous » pour empêcher la génération d’images de personnes réelles, notamment de candidats aux élections.