Facebook : Les « memes haineux » dans le viseur de l’intelligence artificielle

CONTENUS Elle « détecte désormais, de façon proactive, 89 % des contenus haineux que nous retirons », a expliqué le géant du Web

20 Minutes avec agences

— 

Le logo de Facebook.
Le logo de Facebook. — AFP

Alors que la pandémie a restreint ses capacités humaines à assurer la modération des contenus sur ses plateformes, Facebook a de plus en plus recours à l’intelligence artificielle (IA), y compris pour détecter les « memes » porteurs de messages de haine. Si l’algorithme comprend uniquement les mots, les messages ont plus de mal à être perçus.

« L’IA détecte désormais, de façon proactive, 89 % des contenus haineux que nous retirons, contre 80 % au trimestre précédent », note le groupe américain, ce mardi. « Rien qu’au premier trimestre 2020, nous avons agi sur 9,6 millions de contenus qui enfreignaient nos règles en la matière, soit 3,9 millions de plus ».

La tâche est plus dure sur Instagram

Signe que la tâche est plus ardue sur Instagram, ce taux de détection proactive tombe à 44 % sur l’application de photos et vidéos, d’après Guy Rosen, vice-président du groupe Facebook. Les équipes du réseau social planétaire ont mis une base de données de 10.000 memes à disposition de chercheurs, pour qu’ils développent des algorithmes capables de repérer les messages problématiques.

Facebook a aussi fait part de ses propres progrès : son outil d’IA SimSearchNet est censé être capable de reconnaître les copies d’une image originale, malgré d’éventuelles modifications pour la détourner de son sens initial et échapper à la détection automatique. Côté linguistique, les algorithmes de la plateforme peuvent désormais « comprendre » de mêmes messages dans différentes langues.

Les contre-attaques, qui reprennent parfois les termes du message insultant, « sont particulièrement difficiles à identifier correctement parce qu’elles peuvent sembler très similaires au discours de haine ». Heather Woods, professeure à la Kansas State University et spécialiste des memes et contenus extrémistes, a salué l’initiative de Facebook d’inclure des chercheurs extérieurs pour s’attaquer à ce problème complexe. « Les nuances des memes et les spécificités contextuelles vont rester un défi pour les plateformes qui cherchent à se débarrasser des contenus haineux », commente-t-elle.