Comment YouTube va protéger ses utilisateurs contre les vidéos générées par IA

YouTube a dévoilé son nouvel outil permettant de détecter les usurpations de visages et de voix sur la plateforme de vidéos en ligne. L’objectif est d’offrir aux créateurs de contenus une meilleure protection de leur image face à la multiplication des deepfakes. Le dispositif de « détection de ressemblance » a été imaginé pour repérer les images dans lesquelles le visage ou la voix d’une personne apparaissent sans son consentement, a expliqué le portail sur sa page d’aide.

L’outil fonctionne en prévenant immédiatement un vidéaste qui serait détecté dans un clip contenant du deepfake ou étant totalement généré par intelligence artificielle (IA). YouTube précise que le dispositif fonctionne comme le ContentID, qui signale automatiquement les contenus placés sous droit d’auteur ayant pu être réutilisés sans autorisation sur YouTube. Dans le cas de ce nouvel outil de détection, ce sont le visage et la voix qui seront analysés en utilisant l’IA de Google.

Une preuve d’identité pour commencer

Pour pouvoir bénéficier de cette nouvelle fonctionnalité, disponible dans certains pays et pour certains utilisateurs seulement, il faudra fournir une pièce d’identité afin que le système ait une base sur laquelle s’appuyer. Le créateur de contenus pourra ensuite se rendre dans l’onglet de gestion dédié et retrouvera toutes les vidéos concernées. Dans le cas où une vidéo contiendrait l’image du youtubeur utilisée sans son autorisation, ce dernier pourra en demander le retrait.

L’opération ne sera toutefois ni automatique ni immédiate. La personne ayant mis en ligne les images aura la possibilité de les modifier ou les supprimer de lui-même. S’il ne s’exécute pas, les modérateurs de YouTube auront alors la responsabilité de déterminer si la demande de retrait est justifiée. BFM Tech & Co précise que l’outil est encore en cours de perfectionnement et que les vidéastes qui y ont d’ores et déjà accès ont été informés.