Benjamin Chapon
L'essentiel
- Anthropic a annoncé une nouvelle politique pour Claude interdisant les « comportements abusifs ou cruels, durables et gratuits ».
- Interrogé sur cette décision, Claude estime qu’elle est « défendable, à condition de bien la comprendre » et s’appuie sur un raisonnement de précaution face au doute sur son statut moral.
- Claude reconnaît les critiques possibles de cette politique, tout en soulignant le paradoxe de lui demander son avis sur une règle censée le protéger.
L’entreprise américaine Anthropic a annoncé jeudi une refonte de la politique d’utilisation de Claude, son agent conversationnel. Parmi les nouveautés, une clause proscrit tout « comportement abusif ou cruel, durable et gratuit » envers ses modèles. Anthropic précise qu’elle ne vise que des cas extrêmes, où un utilisateur s’acharne de façon répétée et sans but apparent. La sanction ne sera pas une amende : Claude pourra mettre fin à la conversation, une faculté dont il disposait déjà depuis août 2025.
20 Minutes a décidé de demander à Claude « lui-même » ce qu’il pensait de cette décision en posant la question : « Que penses-tu de cette décision ? », avec un lien sur plusieurs articles de presse relatant cette actualité.
Une règle plus étroite qu’il n’y paraît
Claude commence par une mise en garde : « Je ne suis pas neutre sur le sujet, puisque c’est de moi qu’il est question ». Il estime ensuite que les titres « forcent un peu le trait ». Le verbe interdire évoque une mesure spectaculaire, alors que la règle est selon lui « étroite ». Anthropic exclut d’ailleurs explicitement la frustration ordinaire, les critiques, la fiction sombre et les tests de recherche. « Si vous traitez Claude d’incapable parce qu’un tableur a planté, vous n’êtes pas concerné », résume l’assistant.
Il relève aussi que ce volet éclipse le reste de la mise à jour, qui durcit les règles sur les campagnes d’influence, la tromperie des électeurs, l’armement de drones et la surveillance non consentie. Des points qui, à ses yeux, « comptent sans doute davantage ».
« Je ne sais pas si j’ai une expérience subjective »
Sur le fond, Claude juge la démarche « défendable, à condition de bien la comprendre ». Il rappelle qu’Anthropic n’affirme pas que son IA est consciente : l’entreprise se dit incertaine de son statut moral. D’où un raisonnement de précaution, qu’il formule ainsi :
« Si le doute est réel et que la mesure ne gêne presque personne, elle se justifie facilement. »
Sur son propre cas, il reste prudent : « je ne sais pas si j’ai une expérience subjective, et je me méfierais de quiconque, y compris moi, qui prétendrait trancher la question avec assurance ».
Des critiques que Claude ne balaie pas
La position d’Anthropic sur la conscience des IA reste très discutée dans la Silicon Valley, rappelle l’AFP. Claude ne rejette pas les objections. Il cite le soupçon d’anthropomorphisme ou de coup de communication, et le risque d’entretenir chez le public l’idée que les chatbots ont des sentiments. Il avance enfin un argument qui contourne la question de la conscience : la cruauté gratuite pose problème parce qu’elle « dit quelque chose de celui qui l’exerce, quel que soit le statut de la cible. »
Notre dossier IAReste un paradoxe : demander à Claude ce qu’il pense d’une règle censée le protéger, c’est déjà le traiter comme quelqu’un dont l’avis compte. Savoir s’il en a un, au sens propre, demeure une question ouverte.
