Les chercheuses Elena Cabrio (à g.) et Serena Villata travaillent à Sophia sur une application qui lutte contre le harcèlement.
Les chercheuses Elena Cabrio (à g.) et Serena Villata travaillent à Sophia sur une application qui lutte contre le harcèlement. — E. Cabrio

TECHNOLOGIE

Nice: Des chercheuses utilisent l'intelligence artificielle contre le harcèlement

Elles développent une application qui scrutera les messages sur les réseaux sociaux...

  • Leur technologie, basée sur l’intelligence artificielle, surveille les réseaux sociaux et alerte au moindre doute.
  • « La combinaison de mots dans les messages et leur répétition permet de caractériser le cyberharcèlement », précisent les deux chercheuses.

Le portable qui sonne régulièrement, des messages de haine et une victime qui n’ose pas parler. Pour lutter contre ce cyberharcèlement, deux chercheuses azuréennes mettent au point une application. Leur technologie, basée sur l’intelligence artificielle, surveille les réseaux sociaux et alerte au moindre doute.

« Nous travaillons sur la détection de cyberharcèlement dans les textes, explique Elena Cabrio, maître de conférences. L’outil que l’on développe nous permet de le détecter dans les échanges sur les réseaux sociaux. »

Ainsi, les deux chercheuses à l'université Côte d’Azur, à Sophia Antipolis scrutent Facebook, Instagram, Snapchat… « La combinaison de mots dans les messages et leur répétition permet de caractériser le cyberharcèlement », précisent-elles.

Bientôt les images

Encore sous la forme d’un prototype, l’application envoie une notification à la personne harcelée, au responsable et à l’école. « On a des algorithmes d’apprentissage, précise Serena Villata, chargée de recherche. A chaque fois qu’un gros mot est prononcé, il n’y a pas forcément harcèlement. On regarde surtout la thématique de la phrase, l’agressivité… »

Les deux chercheuses azuréennes travaillent en partenariat avec l’université de Trento et Expert System en Italie, et avec NeuroNation en Allemagne. En parallèle, eux planchent sur un chatbot qui mettra en contact la victime, le harceleur et un psychologue.

A Sophia-Antipolis, Elena Cabrio et Serena Villata poursuivent la deuxième partie de ce projet européen nommé CREEP. Après les mots, elles s’attaquent désormais aux images. « Le message d’insulte et le cyberharcèlement arrivent aussi dans l’image, pointe Serena Villata. On veut que l’intelligence artificielle comprenne ce qu’il y a à l’intérieur. » Dans le même temps, les chercheuses travaillent sur les versions italienne, anglaise… et bientôt française.