Haine en ligne : Twitter contraint de dévoiler à la justice qu’il n’emploie que « 1.867 modérateurs » dans le monde

SANS MODERATION Le réseau social fait l’objet d’une procédure initiée par plusieurs associations antiracistes, qui lui reprochent « un manquement à ses obligations en matière de modération des contenus haineux »

H. B.
— 
 Twitter a été contraint par la justice française de dévoiler le nombre de personnes affectées à la modération de ses contenus dans le monde.
Twitter a été contraint par la justice française de dévoiler le nombre de personnes affectées à la modération de ses contenus dans le monde. — Paulo Amorim/Sipa USA/SIPA
  • Six associations ont assigné le réseau social devant le tribunal judiciaire de Paris en mai 2020, estimant que l’entreprise manquait de façon « ancienne et persistante » à ses obligations en matière de modération.
  • Dans une décision rendue début juillet, le juge des référés avait ordonné à Twitter de communiquer, dans un délai de deux mois, des documents détaillant ses moyens pour lutter contre la haine en ligne.
  • Lors de l’audience en appel qui s’est tenue ce jeudi devant la Cour d’appel de Paris, le réseau social a pour la première fois indiqué qu’il employait « 1.867 modérateurs » dans le monde, mais a refusé de détailler ses moyens de modération en France.

C’est un chiffre que le réseau social refusait jusqu’à maintenant de révéler. Twitter a été contraint par la justice française de dévoiler le nombre de personnes affectées à la modération de ses contenus.  Assignée en référé par plusieurs associations antiracistes pour des manquements à ses obligations de modération en matière de messages haineux, la plateforme a officiellement indiqué ce jeudi qu’elle employait « 1.867 modérateurs dans le monde », pour environ 400 millions d’utilisateurs mensuels, soit un modérateur pour 200.000 internautes.

« Malgré une décision du tribunal de Paris lui ordonnant de communiquer tous les documents détaillant ses moyens de lutte de modération contre la haine en ligne en France, Twitter s’est une nouvelle fois défilé. Le réseau social a refusé de dire combien il employait de modérateurs en France, quelles étaient leurs formations, comment fonctionnaient ses algorithmes… se contentant juste de dire qu’il avait recours à moins de 2.000 modérateurs dans le monde », explique à 20 Minutes Samuel Lejoyeux, président de  l’UEJF (Union des étudiants juifs de France), qui avec SOS Racisme, la Licra, SOS Homophobie, J’accuse et le Mrap ont porté plainte en mai 2020 contre la plateforme.

Twitter privilégie la modération « par les algorithmes »

Le réseau social a défendu, lors de son audience qui s’est tenue ce jeudi à la cour d’appel de Paris, son système de modération des contenus haineux. « Nous avons récemment doublé le nombre de personnes chargées de faire respecter nos règles. Chez Twitter, 1.867 personnes se consacrent exclusivement à l’application de nos politiques et à la modération des contenus. Ce chiffre représente plus d’un tiers de l’ensemble de nos effectifs mondiaux », peut-on ainsi lire dans les conclusions de Twitter International Company. Des chiffres qui étaient également mentionnés dans un rapport transmis  au CSA (Conseil supérieur de l’audiovisuel) en septembre 2021, mais qui n’avait jamais été publiquement dévoilés jusqu’à aujourd’hui.

Twitter justifie son faible nombre de modérateurs humains par un recours à l’intelligence artificielle jugée plus efficace. « Nous ne résoudrons pas le défi de la modération à grande échelle avec uniquement plus de moyens humains. Nous avons constaté que nous sommes beaucoup plus efficaces dans la lutte contre les contenus préjudiciables en utilisant davantage  la technologie et en augmentant proportionnellement nos équipes », expliquait ainsi Twitter dans ce rapport sur la lutte contre la désinformation publié par le CSA.

Seulement 12 % des contenus haineux supprimés lors du premier confinement

L’UEJF, SOS Racisme ou encore SOS Homophobie avaient décidé de porter plainte après avoir constaté en 2020 une augmentation de 43 % des contenus haineux sur Twitter pendant la période du premier confinement. Selon une étude menée du 17 mars au 5 mai 2020 par ces associations, « le nombre de contenus racistes avait augmenté de 40,5 % (sur la période), celui des contenus antisémites de 20 % et celui des contenus LGBTphobes de 48 % ». Les associations avaient par ailleurs signalé au réseau social 1.110 tweets haineux, principalement des insultes homophobes, racistes ou antisémites sans équivoque, et constaté que seuls 12 % d’entre eux avaient été supprimés dans « une période raisonnable allant de 3 à 5 jours ».

« Twitter ne démontre aucune volonté réelle de lutter contre la haine sur sa plateforme (racisme, antisémitisme, homophobie). Tout le monde peut le constater, chaque jour en allant sur la plateforme. Nous souhaitons que le réseau social se soumette à la loi française. Nous réclamons de la transparence, et des informations précises sur leur modération au quotidien », précise le président de l’UEJF, très confiant sur le jugement qui sera rendu le 20 janvier prochain.

Régulièrement accusées d’héberger ou de contribuer à la diffusion de contenus haineux ou violents, les grandes plateformes de contenus ont été incitées à mettre en place des algorithmes de filtrage, des procédures de signalement et des équipes de modérateurs. Mais Twitter refuse depuis des années de communiquer sur les moyens mis en œuvre concernant sa modération. Le réseau social a toutefois assuré investir dans des technologies de modération « pour réduire la charge qui pèse sur les utilisateurs de devoir effectuer un signalement », précisant que « plus d’un tweet sur deux sur lequel nous agissons pour abus » vient désormais d’une détection automatique plutôt que d’un signalement.