Meta va installer un « contrôleur de nudité » sur Instagram pour protéger les mineurs

Des messages de sensibilisation, des mesures de protection, une ligne d’écoute… Meta semble décidé à prendre à bras-le-corps la lutte contre les sextorsions, ces chantages aux photos de nu qui touchent de nombreux jeunes.

Le géant du numérique a annoncé ce jeudi de nouvelles mesures qui seront testées à partir de mai dans quelques pays d’Amérique latine avant un déploiement mondial dans les prochains mois.

Détection automatique de nudité

Parmi ces nouveautés, on trouve un « contrôleur de nudité » sur Instagram, qui sera paramétré par défaut sur les comptes des mineurs. Il détectera automatiquement les images avec de la nudité reçues sur la messagerie de l’application et les rendra floues.

« De cette façon, le destinataire n’est pas exposé de manière non désirée à un contenu intime et a le choix de voir cette image ou non », explique Capucine Tuffier, en charge de la protection de l’enfance chez Meta France.

Objectif : réduire le partage de nudes

Des messages de sensibilisation envoyés à l’émetteur et au récepteur des images, leur rappelant que ces contenus sensibles peuvent aboutir à des captures d’écran et des transferts par des personnes malintentionnées. « Il s’agit de réduire la création et le partage de ce type d’images », résume Mme Tuffier.

Par ailleurs, lorsqu’un compte aura été identifié par les outils d’intelligence artificielle de Meta comme étant potentiellement à l’origine de ce type de chantage ses interactions avec des utilisateurs mineurs seront fortement limitées.

Agir sur les comptes des maîtres chanteurs

Un compte de potentiel « malfaiteur » ne pourra ainsi pas envoyer de messages privés à un compte de mineur, n’aura pas accès à sa liste complète d’abonnés et les comptes de mineurs n’apparaîtront plus dans sa barre de recherche, détaille Capucine Tuffier.

Meta préviendra aussi un jeune utilisateur s’il est entré en contact avec un potentiel maître chanteur. Le mineur sera alors dirigé vers un site dédié « Stop Sextorsion » et aura accès à une ligne d’écoute téléphonique en partenariat avec des associations.

Des premières mesures en janvier

Meta avait déjà annoncé en janvier une première salve de mesures pour mieux protéger les jeunes utilisateurs, notamment l’obligation pour un utilisateur mineur d’obtenir la permission explicite de ses parents pour faire passer son compte de privé à public, accéder à plus de contenus dits « sensibles » ou avoir la possibilité de recevoir des messages de personnes qu’il ne suit pas déjà sur la plateforme.

La Commission européenne a lancé des enquêtes séparées sur Meta, Snap (Snapchat), TikTok, YouTube sur les mesures mises en œuvre pour protéger la « santé physique et mentale » des mineurs.