Fini la « bouillie d’IA » ? TikTok s’attaque aux comptes postant du contenu généré par l’intelligence artificielle

TikTok fait le ménage. Le réseau social annonce ce vendredi le renforcement de ses mécanismes de détection de l’intelligence artificielle afin de s’attaquer aux comptes postant uniquement des vidéos générées avec cette technologie.

Il précise dans un communiqué que les thématiques liées à la politique et l’actualité, la santé et les conseils financiers sont concernées, et relève que ces contenus nuisaient « à la visibilité des créateurs originaux ».

Garder la confiance du public

« Dans les prochaines semaines, TikTok testera des améliorations des systèmes de détection afin de cibler les comptes dédiés à la publication de spam généré par l’IA sur des sujets susceptibles d’avoir un impact sur la confiance du public ou le bien-être des utilisateurs », fait savoir TikTok.

Selon des éléments partagés avec l’AFP, la plateforme considère que ces comptes dit « spam » sont notamment ceux qui produisent des contenus IA « de faible qualité et très standardisés », révèlent une « concentration » de sujets à haut risque susceptibles de nuire à la confiance du public, et achètent ou vendent des abonnés.

Forte audience à moindre coût

Elle n’a pas donné davantage de détails sur les mesures techniques mises en place pour améliorer la détection de ces comptes.

TikTok, comme d’autres réseaux sociaux, est touché par une prolifération de contenus générés par IA, parfois utilisés par des comptes comme un moyen de générer une forte audience à faible coût.

Ce phénomène a été baptisé « AI slop », ou « bouillie d’IA », pour décrire des contenus de piètre qualité, parfois absurdes.

Les outils d’IA générative sont aussi utilisés par des comptes avec des objectifs plus politiques ou militants, voire à des fins de désinformation.