IA : Chine, Iran… Anthropic a stoppé plusieurs opérations de surveillance de dissidents menées par « Claude »

L’américain Anthropic a annoncé, jeudi, avoir stoppé plusieurs opérations de surveillance menées contre des dissidents et des minorités ethniques menées à l’aide de Claude, son assistant d’intelligence artificielle.

Ces incidents, détectés et neutralisés entre janvier et juillet, provenaient de Chine, d’Iran et d’Afrique de l’Ouest, selon un rapport de l'éditeur consacré aux différents détournements de ses modèles. Ces campagnes de surveillance « ont visé les mêmes communautés de la diaspora et les mêmes dissidents que ces régimes ciblent historiquement. Notamment des figures prodémocratie à Hong Kong, les communautés tibétaines et du Falun Gong à travers l’Asie, ainsi que des minorités iraniennes et des opposants au régime iranien à l’étranger ».

Conception d'armes, fausses applis de rencontre...

Dans un cas, des acteurs iraniens ont mis au point un moyen d’identifier des personnes à partir de leurs comptes sur les réseaux sociaux. Dans un autre, un prestataire travaillant pour les autorités de sécurité nationale du Mali a utilisé Claude « pour concevoir le logiciel sur lequel reposait la collecte de renseignements ». Anthropic rapporte également avoir déjoué des tentatives de concevoir des armes ou de créer de fausses applications de rencontre afin d’escroquer les utilisateurs.

L’entreprise de San Francisco accuse aussi les chinois Moonshot et DeepSeek d’avoir utilisé Claude en cachette pour répondre aux questions de leurs utilisateurs, tout en récupérant les résultats pour améliorer leurs propres modèles. Des développeurs chinois avaient déjà été accusés de recourir sans autorisation à cette pratique, la « distillation », aux dépens de laboratoires américains comme Anthropic et OpenAI.

Recherches biologiques douteuses

« Dans un cas, sur une période de dix jours, Moonshot a relayé près de 300.000 requêtes de clients à Anthropic » par le biais d’un « réseau de 5.380 comptes frauduleux, dont la plupart semblaient situés à Singapour et au Japon », selon le rapport.

Des recherches biologiques ont également été bloquées. Mais les intentions des auteurs étaient moins claires et le laboratoire ne les a pas identifiés. « Les personnes impliquées dans ces études de cas sont des scientifiques en activité. Nous n’affirmons pas qu’elles avaient l’intention de nuire, et les identifier, elles ou leurs laboratoires, pourrait les mettre en danger », précise le rapport. Ces travaux portaient sur le virus du chikungunya, transmis par les moustiques, sur une souche « hautement pathogène » de la grippe aviaire, sur une famille de virus qui comprend la variole et le mpox, ainsi que sur des venins et d’autres toxines.