Une mère distribue des photos de sa fille dans la rue à tous les passants. Moment de malaise supplémentaire : elle les assaille aussi de toutes sortes d’informations concernant son enfant (nom, âge, école, passions), sans qu’ils n’aient rien demandé. C’est une caméra cachée, mais c’est aussi la nouvelle campagne de l’association de protection des enfants Caméléon. Baptisé « Merci », elle veut faire comprendre que montrer ses enfants sur les réseaux sociaux peut les exposer à des prédateurs. Et que ces derniers savent très bien se servir des nouvelles technologies pour arriver à leurs fins.

En plus de ce court film, la communication comporte aussi quatre affiches dans les transports en commun. « Cette campagne aborde la question du « sharenting » [contraction de « share », partager, et « parenting », parentalité], cette tendance et poster des photos et des vidéos de son enfant sur les réseaux sociaux, présente Eglantine Cami, chargée de sensibilisation et du plaidoyer au sein de l’association Caméléon. La pratique semble anodine, mais elle présente en fait des risques de détournement à des usages criminels et pédocriminels. »

Informations personnelles, extorsion et IA

D’abord, ces photos publiques qui paraissent innocentes peuvent être repartagées et directement être sexualisées. « Sur les forums, des images qui paraissent neutres font l’objet de discussions entre pédocriminels pour élire qui est la fille la plus sexy par exemple », relate Eglantine Cami. Par ailleurs, ces images sont riches en informations sur la localisation, les habitudes ou les goûts des enfants. Les métadonnées peuvent même révéler où et quand la photo a été prise. Autant d’informations qui peuvent être utilisées par des criminels.

Avec l’essor des nouvelles technologies d’intelligence artificielle, ces photos peuvent être encore plus détournées, en servant à des deepfakes, où des images d’enfants vont être apposées à des vidéos pornographiques. Mais aussi, alerte Caméléon, des IA spécialisées dans la génération d’images pédopornographiques peuvent être entraînées sur des photos publiques d’enfant. Ce mercredi, le média américain 404 rapportait que le piratage d’une plateforme de chat avec IA montrait des centaines de requêtes d’utilisateurs pour générer du contenu sexuel avec des mineurs

Dans une interview donnée sur France Inter, Gabrielle Hazan, cheffe de l’Office mineurs, service de police judiciaire, estimait que « dans quelques années, 95 % des images pédocriminelles qui seront diffusées sur Internet seront issues de l’intelligence artificielle ». Les contenus générés par l’IA peuvent aussi donner des armes aux criminels qui font chanter ou extorquent des mineurs, en menaçant de diffuser des photos dénudées qui ne sont même pas réelles.

« L’idée n’est pas de culpabiliser les parents »

La responsable de l’association Caméléon note enfin l’essor des applications de messagerie cryptées, comme Telegram, parmi les facteurs qui font croître les risques de cyberpédocriminalité. Le phénomène est en augmentation : en 2013, l’Office mineurs recevait 3.200 signalements par an ; en 2023, c’était 870 par jour.

Le « sharenting », lui aussi, comme toute pratique numérique, augmente. Selon les chiffres partagés par l’association Caméléon, 53 % des parents ont déjà publié une photo de leurs enfants, dont 43 % dès la naissance. « L’idée, c’est de ne pas culpabiliser les parents, mais de leur donner des clés : a-t-on vraiment envie de partager cette photo ? Est-ce préjudiciable pour mon enfant ?, explique Églantine Cami. On peut aussi échanger avec son enfant sur ses pratiques numériques, c’est la première clé pour prévenir des violences. »

Vers une meilleure prise en compte des droits de l’enfant

Caméléon travaille aussi au niveau européen pour demander une régulation plus stricte de certains aspects de la tech, afin de permettre une meilleure détection et signalement des contenus pédocriminels. L’Union européenne étudiait justement une législation sur la question, avant de la mettre en pause face aux défis sur le respect des échanges privés qu’elle engendrait. Les Vingt-Sept devraient aussi se mettre d’accord sur un encadrement de l’IA d’ici à 2026. Et plus largement, l’association veut une meilleure prise en compte des droits de l’enfant, notamment leur vie privée, dans l’élaboration des textes. Elle salue par exemple en France la loi Studer visant à garantir le droit à l’image des enfants en la liant au devoir des parents, ainsi que la précédente loi encadrant les enfants influenceurs. « Selon son âge et son degré de maturité, l’avis de l’enfant doit être pris en compte », résume Eglantine Cami.