YouTube: Comment la manipulation des algorithmes peut nuire aux enfants

DÉTOURNEMENT Le système algorithmique de YouTube est manipulé par des chaînes qui jouent sur les mots-clés préférés des enfants… 

O. P.-V.

— 

Capture d'écran de la chaîne CarrotShaker.

Capture d'écran de la chaîne CarrotShaker. — YouTube

  • Un internaute britannique s'est alarmé du détournement des algorithmes YouTube au détriment des enfants.
  • Des milliers de vidéos jouent sur les mots-clés favoris des plus jeunes pour augmenter leurs vues.
  • Certaines proposent un contenu perturbant.

« Quelque chose ne tourne pas rond sur internet », nous dit James Bridle, « écrivain et artiste intéressé par la technologie et la culture » comme il se présente en introduction d’un long texte posté le 6 novembre sur Medium, disponible ici, en anglais, texte qui a beaucoup tourné sur les réseaux sociaux.

Le trentenaire britannique s’est plongé dans un monde inconnu des gens qui n’ont pas d’enfant, un espace fait de vidéos de paquets entiers de Kinder Surprise déballés avec délicatesse, de personnages Disney détournés et de parodies du célèbre dessin animé Peppa Pig.

Ça se passe sur YouTube. James Bridle explique qu’il a beau ne pas avoir d’enfant, sa « découverte » lui donne envie de « juste incendier [le site] tout entier ».

Presque 1 milliard de vues pour des Kinder

L’auteur a écumé les chaînes de la plate-forme de streaming les plus populaires auprès des enfants. On a vérifié auprès d’un petit Français de sept ans que le phénomène n’était pas qu’anglo-saxon : « Les vidéos de Kinder, tu connais ? - Oui, oui, c’est marrant ». « Marrant ». Le sondage vaut ce qu’il vaut (pas grand-chose), d’autant que la plupart des parents doivent déjà connaître.

Voici donc quelques exemples de vidéos pour enfants extrêmement populaires sur YouTube que met en avant James Bridle pour sa démonstration (on va y venir). Il y a les déballages de Kinder Surprise. 7 minutes de bonheur pour les gosses, avec prise de son en ASMR pour déclencher l’extase. En 2013, 20 Minutes s’interrogeait sur le succès de ces séquences. Ci-dessous, une vidéo à plus de 26 millions de vues en trois ans.

Encore plus fort, 852 millions de vues (!) pour ces 16 minutes de déballage d’œufs en chocolat publiées en 2013.

L’auteur du texte cite également les comptines (« Nursery Rhymes ») de LittleBabyBum et ses millions de vues par vidéo.

Et il y a Peppa Pig, programme d’animation britannique diffusé par France Télévisions dans l’Hexagone, adoré par les enfants. Sauf que les aventures de la sympathique famille de cochons sont détournées par des chaînes non officielles sur YouTube. C’est le point de départ de l’inquiétude de James Bridle, qui prend l’exemple de la chaîne Play Go Toys, qui « pirate » entre autres des épisodes de Peppa Pig histoire d’accumuler les vues.

« Peppa pig kinder surprise nursery rhymes »

A partir de là, l’auteur britannique a découvert un nombre incalculable de vidéos utilisant un drôle de procédé pour faire augmenter le compteur vues et donc leurs revenus : agréger tous les mots-clés les plus en vogue chez les enfants dans le même titre (à rallonge et incompréhensible), afin de faire remonter le plus haut possible dans les suggestions des vidéos produites à la chaîne.

Exemple : tapons dans la barre de recherche de YouTube « Peppa pig kinder surprise nursery rhymes ». Voici ce qu’on peut trouver, déjà vu 458.000 fois, probablement pas par des adultes en majorité.

Jusque-là, la vidéo n’ayant rien de troublante, on peut y voir une forme de marketing classique qui joue sur les centres d’intérêts des enfants.

Un algorithme « piraté par des inconnus pour abuser des enfants, peut-être pas délibérément, mais à grande échelle »

Mais James Bridle souligne que le fait que des milliers de vidéos soient produites en boucle en fonction de l’algorithme YouTube peut mener les plus jeunes à des séquences nettement plus « malaisantes ». Exemple avec celle-ci, fruit des mots-clés « Wrong heads » (mauvaise tête, apparemment très populaire auprès des enfants) « Disney », « Finger family » (marionnette à doigt) et « Nursery rhymes », où les personnages d’Aladdin échangent leurs têtes, tandis que l’héroïne de Moi, moche et méchant rie ou pleure suivant le résultat.

Explication de l’auteur du texte : « Le titre seul confirme son aspect automatisé. Je ne sais pas d’où vient le terme « Wrong Heads », mais je peux imaginer, comme avec le « Finger Family », qu’il y a quelque part une version totalement originale et inoffensive qui a suffisamment fait rire les enfants pour qu’elle grimpe dans l’algorithme, combiné avec « Learn Colors », « Finger Family », et « Nursery Rhymes ». »

James Bridle s’attarde également sur les détournements de Peppa Pig, transformé en cartoon violent où les membres de la famille Pig boivent de l’eau de Javel.

Le tabloïd britannique The Sun avait déjà rapporté la chose en juillet 2016 dans un article intitulé « Des enfants traumatisés après avoir vu des clips YouTube montrant des personnages de Peppa Pig avec des couteaux et des armes à feu ».

Enfin, pour illustrer sa démonstration, l’auteur du texte sur Medium conclut avec cette vidéo, dont le titre contient entre autres « Finger family » et « Nursery rhymes », et promet un « enterrement vivant » (« buried alive »). Effectivement, sur les trentes minutes de vidéos, on trouve une scène d’enterrement de personnages Marvel (également très populaires chez les enfants), ou encore Elsa la reine des neiges tirant sur Spider-Man. 245.000 vues pour une vidéo publiée le 17 octobre.

Conclusion par James Bridle : « YouTube et Google sont complices de ce système. L’architecture qu’ils ont construite pour tirer le maximum de revenus de ces vidéos en ligne est piratée par des inconnus pour abuser des enfants, peut-être pas délibérément, mais à grande échelle. »