Etats-Unis : Prénom, âge, école… Une mère de famille découvre que Meta AI connaît (trop) bien ses deux fillettes

Prénom, âge, date d’anniversaire, livre préféré… Une Américaine a découvert avec effroi que l’IA de Meta connaissait en détail la vie de ses deux fillettes, comme elle l’a raconté au média Futurism, relayé par BFM Tech. Tout est parti d’une vidéo publiée sur les réseaux sociaux par Kalie Robins, une mère de famille installée dans l’Utah. Sur les images, on la voit en voiture avec l’une de ses filles. L’IA lui propose alors d’identifier l’enfant qui apparaît dans la vidéo. Par curiosité, la maman accepte.

Mais ce qu’elle découvre, loin de l’amuser, va lui glacer le sang. En quelques minutes, l’intelligence artificielle lui fournit non seulement des informations sur la fillette présente à l’image, mais aussi sur son autre fille. Des détails parfois très personnels, que la machine aurait retrouvés en recoupant des éléments publiés sur sa page Facebook, mais aussi sur celles d’autres membres de sa famille.

Des questions de plus en plus intrusives

Une scène que la mère de famille a racontée dans une vidéo publiée sur Instagram. Selon elle, l’IA ne cesse alors de pousser ses recherches : âge, poids à la naissance, centres d’intérêt… « L’IA a commencé à dire, compte tenu de leur âge, dans quelle classe ils devraient être. Or, il n’y a qu’une seule école ici, donc ce ne serait pas difficile à trouver », se souvient Kalie. Plus inquiétant encore, la machine aurait aussi cherché à déterminer où elle vivait mais aussi ce qu’elle et son mari faisaient dans la vie. « J’ai eu une véritable bouffée d’angoisse », a-t-elle expliqué à Futurism.

Et pour cause : la mère assure n’avoir jamais mentionné le prénom de ses filles sur les réseaux sociaux. Certes, elle cherchait à développer la communauté de ses comptes Instagram et Facebook, tous deux publics, sur lesquels elle publie notamment des contenus voyages. Mais elle était loin d’être une influenceuse réputée et ne comptait que quelques centaines d’abonnés.

Des traces laissées pendant des années

L’Américaine, qui utilisait Facebook notamment pour garder le contact avec ses proches, pensait pourtant avoir pris toutes les précautions possibles « pour assurer la sécurité de [ses] enfants », explique-t-elle. Mais comme des milliards d’autres utilisateurs à travers le monde, elle a laissé au fil des années de nombreuses informations personnelles traîner sur les plateformes.

Contacté, Meta a confirmé que son IA pouvait effectuer des recherches dans le contenu d’un utilisateur, mais aussi dans les informations publiques disponibles sur le Web. Cependant, dans ce cas précis, l’entreprise a reconnu avoir « manqué sa cible ».