Quentin Meunier
L'essentiel
- Des vêtements aux motifs particuliers sont conçus pour tromper les algorithmes de surveillance, en reprenant le principe du camouflage militaire ou en perturbant la reconnaissance faciale.
- L’efficacité de ces vêtements anti-IA reste limitée et temporaire car elle est très dépendante de l’évolution des modèles d’intelligence artificielle. La surveillance moderne croise aussi d’autres données, comme la signature thermique ou les signaux téléphoniques.
- Au-delà de leur fonction protectrice incertaine, ces vêtements ont surtout une dimension artistique et politique en agissant comme des signes de protestation dans l’espace public.
Au premier regard, on pourrait prendre cette chemise aux motifs psychédéliques pour une fripe sortie des années 1970. Il s’agit en fait d’un piège pour les algorithmes. Les motifs circulaires sur le vêtement de l’artiste allemand Simon Weckert sont conçus pour qu’un logiciel de détection cesse de voir un humain là où il y en a un. Alors que la surveillance algorithmique est de plus en plus déployée dans l’espace public et dans les manifestations, comme celles de ce samedi, la mode pourrait-elle protéger les manifestants ?
Comment faire perdre pied à une machine ? « Les caméras de surveillance sont liées à un ordinateur et un logiciel chargé de reconnaître un humain, explique Geoffrey Dorne, designer, doctorant au laboratoire CEThics et auteur de Hacking citoyen. Ça peut être la reconnaissance de la silhouette, ou, plus souvent, du visage à partir de points clés. » Les vêtements anti-IA, détaille-t-il, « vont reprendre le principe du camouflage militaire : zébrures, ajouts de points, masquer des points, ajouter des formes ressemblant à des visages… pour perturber l’algorithme ».
Une efficacité discutable selon les modèles
Pour arriver à sa superbe chemise, Simon Weckert a procédé par essais. Il a simulé le tee-shirt porté par une personne, l’a soumis à un algorithme open source, puis a fait varier le motif (rotation, recadrage, désaturation) « jusqu’à ce que le score de confiance de l’identification d’une personne commence à baisser ». L’idée n’est pas neuve. En 2019, à Hong Kong, des manifestants redoutant d’être identifiés par la police avaient multiplié les parades : masques, lunettes, parapluies déployés en carapace, pointeurs laser braqués sur les caméras. Les autorités avaient répliqué en interdisant « toute couverture faciale susceptible d’empêcher l’identification », maquillage compris.
Pour la chercheuse en design Alexia Mathieu, la pratique est simplement « rentrée dans la discussion presque mainstream ». Aujourd’hui, des marques comme AntiAI, Yelopomelo ou Cap_able fournissent ce type de vêtements pour des prix (et des looks) variables. Précédemment, l’Américain Adam Harvey avait conçu des coiffures déroutantes pour piéger les systèmes de reconnaissance faciale. « On a toujours utilisé la mode pour se protéger, pour se cacher », estime-t-elle.
Reste la question qui fâche : à quel point ça fonctionne vraiment ? Pas longtemps, répond Geoffrey Dorne. « C’est très dépendant de l’évolution des algorithmes, jauge-t-il. À chaque mise à jour, ce genre de failles sera réglé. » D’autant que la surveillance ne se limite plus au visage. Elle croise aussi la démarche, la signature thermique ou le téléphone. « En manif, vous pouvez avoir une cagoule, si vous avez votre téléphone sur vous, vous êtes identifiable », avertit le designer. Autre effet secondaire : « Vous seriez probablement plus reconnaissable pour les humains avec ça », ironise Simon Weckert. De son côté, il espère pouvoir sortir régulièrement des nouvelles « collections » de ses t-shirts à chaque nouveau modèle d’IA, comme en mode.
Des projets artistiques et revendicatifs
Faut-il alors les ranger au placard ? Pas si vite. « Ces objets visuels, graphiques, agissent un peu comme des grigris, sourit Geoffrey Dorne. Ça ne marche pas à tous les coups, mais ils ont un côté protecteur. » Et un côté revendicatif : « Ça veut dire qu’on est contre la reconnaissance. Ces éléments sont des intentions, des messages politiques. » Alexia Mathieu y voit une manière de transformer l’inquiétude « en visibilité dans le débat public ».
Simon Weckert, lui, parle d’abord d’« un projet artistique », par lequel il interroge nos usages. Pourquoi déploie-t-on ces technologies ? Pour résoudre quels problèmes ? Il redoute qu’on s’y fie trop et imagine un futur où le système servirait à repérer des sans-abri pour s’en débarrasser. « Et quand on est constamment surveillé, on change de comportement », ajoute-t-il. La question dépasse Berlin. En France, la vidéosurveillance algorithmique, testée à grande échelle pendant les JO de Paris, n’a finalement jamais quitté l’espace public.
