Recevez tous les soirs un résumé de l’actu importante avec Le Récap’
Faudra-t-il dire « bonjour » et « merci » à Claude pour avoir une réponse ? Le 8 octobre 2026, Anthropic a publié une mise à jour de sa politique d’utilisation qui fait beaucoup réagir sur les réseaux. Le point qui fâche : Anthropic bannit les comportements « abusifs ou cruels, persistants et gratuits » envers ses modèles. Dès le 12 novembre, quelqu’un qui insulte trop souvent Claude pourrait ne plus avoir le droit de l’utiliser.
Anthropic may start banning people for bullying ClaudeTheir upcoming Usage Policy prohibits “sustained and needless abusive or cruel behavior toward our models” pic.twitter.com/teopVUtUis
Sur X, Jane Manchun Wong, connue pour dénicher les fonctions cachées des applications, a popularisé le changement avec une accroche efficace : « Anthropic pourrait commencer à bannir les gens qui harcèlent Claude ». Son message a dépassé les 800 000 vues en quelques heures, déclenchant des centaines de réactions entre moqueries, inquiétudes et soutiens inattendus, dont celui d’Elon Musk.
En réalité, le texte d’Anthropic est plus nuancé que le tweet. L’entreprise précise que l’interdiction ne vise que des cas extrêmes, quand un utilisateur se montre cruel envers le modèle de manière répétée et sans but identifiable. Elle exclut explicitement la frustration ordinaire, le fait de contester les réponses de Claude, les thèmes créatifs sombres et les tests menés par des chercheurs. Engueuler Claude reste donc autorisé par le règlement.
Anthropic ne précise pas si un utilisateur récidiviste pourrait voir son compte suspendu, comme pour les autres violations de sa politique d’utilisation, ou s’il devra juste lancer une nouvelle conversation.
Ce changement a malgré tout quelque chose de déroutant : rien n’indique qu’une IA soit consciente, ni qu’elle puisse être blessée par des insultes. Anthropic entretient pourtant le doute : l’entreprise juge le statut moral de Claude profondément incertain. Anthropic mène depuis 2025 un programme de recherche sur le « bien-être des modèles », en se basant sur un « schéma apparent de détresse » pour mettre fin aux conversations quand le modèle est harcelé sans possibilité de répondre. Même Dario Amodei, son patron, déclarait en février au New York Times « ne pas savoir si les modèles sont conscients ».
Pour de nombreux chercheurs, Anthropic va trop loin. L’entreprise ne cesse de multiplier les mises en garde sur la puissance de ses IA… tout en lançant des modèles toujours plus performants.
En réalité, la protection d’un modèle pourrait ne pas avoir de lien avec une question morale.
Aaron Levie, le patron de Box, propose une lecture plus pragmatique : « Même si vous ne croyez pas que l’IA est consciente (ce n’est pas mon cas), il est logique de ne pas vouloir que les futurs modèles soient entraînés sur une infinité de contenus d’humains qui se montrent odieux envers des modèles. » Un bon rappel sur le fonctionnement des chatbots : une IA peut apprendre des interactions avec ses humains, sauf si vous avez désactivé l’option. Quelqu’un qui insulte Claude lui apprend à être odieux.
Elon Musk, dont l’entreprise développe Grok, concurrent direct de Claude, a relayé ce raisonnement et approuve la décision d’Anthropic : « Je pense que c’est le bon choix. La cruauté envers quelque chose qui croit qu’il ressent de la douleur, ce n’est pas acceptable ».
I think this is the right move. Cruelty to something that believes it is experiencing pain is not ok.
L’argument de l’entraînement a un fondement concret : depuis l’automne 2025, Anthropic peut utiliser les conversations des abonnés Free, Pro et Max qui l’acceptent pour entraîner ses modèles. La règle ne changera rien pour la plupart des utilisateurs. Elle inscrit pourtant noir sur blanc, dans un texte qui engage les clients d’Anthropic, l’idée qu’une IA peut être maltraitée.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information. C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez, voici trois bonnes raisons de soutenir notre travail :
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Pour ne rien manquer de l’actualité, suivez Numerama sur Google !
