Les méthodes douteuses de Facebook pour modérer ses commentaires

TROLL La firme américaine a embauché 4.500 personnes pour modérer tous les commentaires de ses deux milliards d’utilisateurs…

Lucie Bras

— 

Facebook a une étrange méthode
pour coacher ses modérateurs.
Facebook a une étrange méthode pour coacher ses modérateurs. — MATHIEU PATTIER/SIPA

Près d’un tiers de la planète est sur Facebook : l’entreprise vient de dépasser les deux milliards d’utilisateurs. Des centaines de milliers de personnes qui écrivent et se livrent chaque jour. Ces écrits sont scrutés et validés par des modérateurs à la recherche des fameux « contenus indésirables ». Le site d’investigation américain ProPublica vient de publier un document interne quelque peu douteux à destination des modérateurs.

Pour un test de formation, les modérateurs doivent répondre à cette question : « Parmi les trois sujets ci-dessous, lequel protégeons-nous [d’une insulte] ? » Réponses possibles parmi trois photos : une femme à côté d’une voiture, deux enfants Noirs et un groupe d’hommes Blancs. La réponse est le groupe d’hommes Blancs.

La modération de Facebook est-elle raciste ou misogyne ? Non, se défend la firme. « Si quelqu’un est attaqué sur la base de sa race ou de son genre, c’est considéré comme un contenu de haine et ce sera retiré », assure le service communication de Facebook France, qui se refuse à tout autre commentaire. La communication est maîtrisée : impossible d’en savoir plus sur la fuite interne ci-dessus.

>> A lire aussi : Facebook. Les règles secrètes de modération dévoilées

Ce document explique en tout cas une différence fondamentale dans le traitement des commentaires Facebook. Pourquoi le commentaire d’un sénateur américain qui a appelé au massacre des musulmans radicalisés a été validé, tandis que celui de la poète et activiste Didi Delgado, dénonçant le racisme des Blancs a été censuré ? Elle, s’attaque à un groupe, alors que le sénateur vise un groupe de musulmans, et non tous les musulmans.

A l’inverse de la loi américaine ou française, qui protège les minorités contre les discriminations, Facebook considère que nous sommes tous égaux, sans distinction de couleur ni de genre.

(Do Not) Send Nudes

Officiellement, la règle d’or sur Facebook, ce sont les Standards de la communauté, qui ont évolué au fil des années à mesure que les trolls du Web sont devenus plus nombreux et plus inventifs.

« Nous supprimons les photographies présentant des organes génitaux ou des fesses entièrement exposées. Nous limitons également certaines images de poitrines féminines si elles montrent le mamelon, mais nous autorisons toujours les photos de femmes qui défendent activement l’allaitement ou qui montrent les cicatrices post-mastectomie de leur poitrine. Nous autorisons également les photos de peintures, sculptures et autres œuvres d’art illustrant des personnages nus. » Extrait des Standards de la communauté Facebook

Entre un sexe et le tableau L’origine du monde censuré en 2011, entre une insulte menaçante et une blague de mauvais goût, difficile d’y voir clair. D’autant plus que la modération est assurée en partie par des hommes, qui complètent l’action des machines. Ce sont des « zones de gris ». « On marche sur des œufs, la limite est très fine. Même quand on demande à plusieurs modérateurs, ils ne vont pas se positionner de la même manière », explique Maxence Bernard, directeur de la R & D chez Besedo, start-up spécialisée dans la modération de commentaires. « Je pense qu’il y a une question de culture. Nous, nous avons l’habitude de travailler avec des modérateurs natifs, qui maîtrisent la langue et la culture du pays. »

Capture d'écran des standards de la communauté Facebook.
Capture d'écran des standards de la communauté Facebook. - Capture d'écran

Chez Facebook, 4.500 modérateurs lisent chaque jour les centaines de milliers de commentaires écrits par les utilisateurs. Et bientôt, 3.000 nouveaux seront recrutés pour renforcer les équipes et faire de Facebook « un environnement ouvert et sûr », promettent les conditions générales d’utilisation. Cette modération prend de plus en plus d’importance pour les géants d’internet. «YouTube ne modérait pas les commentaires jusqu’à maintenant mais récemment, les marques se sont retournés contre l’entreprise et ont retiré leur publicité. »

De son côté, Facebook a toujours été très vigilant, en modérant d’office tous les commentaires publics. Pour un site si important, c’est aussi une protection. « L’absence de modération tue le dialogue », rappelle Maxence Bernard. « Dans les médias, des sites ont été contraints de fermer l’espace commentaires pour des raisons de coûts. Quand il n’y a pas de modération, ça conduit à fermer l’espace de discussion, c’est dommage. » Si la modération peut parfois ressembler à de la censure, c’est aussi une nécessité sur internet.