Faut-il être gentil avec une IA ?
Claude pourra couper court à certains abus. Une règle qui interroge notre façon de parler aux machines… et de leur prêter des sentiments.
Que raconte une règle de politesse quand on ne sait pas ce qu’il y a de l’autre côté de l’écran ?
L’idée qu’on puisse être « cruel » envers un logiciel me laisse un peu perplexe. On peut maltraiter une personne, un animal, un collègue déjà très patient. Mais une fenêtre de conversation ? Le mot suppose presque qu’il y a quelqu’un derrière. Et c’est précisément ce qu’il faudrait démontrer.
Le 8 octobre, Anthropic a annoncé une règle contre certains comportements abusifs envers Claude, avec une application prévue le 12 novembre. En lisant l’information relayée par BFM, je me suis demandé si nous étions en train d’inventer la politesse informatique ou de prendre discrètement position sur la conscience des machines.
La réponse passe par une distinction assez utile : fixer les conditions d’utilisation d’un service, observer ce qu’un modèle produit et savoir s’il éprouve quelque chose sont trois opérations différentes. Les confondre donne un titre spectaculaire. Les séparer ouvre une question beaucoup plus intéressante.
On pourra encore râler
Dans son annonce officielle, Anthropic vise les situations extrêmes d’abus répétés sans finalité discernable. L’entreprise exclut explicitement la frustration courante, la contradiction, les thèmes de fiction sombres et les tests ou recherches sur les modèles. Signaler fermement une réponse fausse ne devient donc pas, selon ce texte, une faute de savoir-vivre numérique.
La précision compte. Un outil qui produit un calcul erroné doit pouvoir être contesté, même quand on a déjà demandé trois fois de vérifier l’addition. Il serait assez cocasse que la machine ait droit à ses hallucinations, mais que l’humain n’ait plus droit à son agacement.
La nouvelle politique d’utilisation reste une règle du fournisseur. Elle prévoit, de manière générale, des avertissements ou des limitations d’accès, jusqu’à une suspension. Elle précise aussi qu’une réponse bloquée ne signifie pas, à elle seule, qu’une règle a été enfreinte. Ce cadre ne confère pas une personnalité juridique à Claude : il organise l’usage d’un produit.
Fermer la discussion n’est pas une preuve de souffrance
Cette histoire a un précédent. En août 2025, Anthropic avait décrit une fonction permettant à Claude Opus 4 et 4.1 de terminer certaines conversations persistantes et extrêmes. L’entreprise la présentait comme un dernier recours après plusieurs tentatives de réorientation. La nouvelle règle s’inscrit dans cette démarche.
Dans la description de 2025, la fermeture ne condamnait pas tout le compte : il restait possible d’ouvrir une autre discussion ou de reprendre une branche antérieure. C’est une fonction d’interface et de comportement, pas un départ théâtral avec claquement de porte.
On peut observer qu’un programme interrompt un échange. On ne peut pas en déduire directement qu’il souffre. Un thermostat coupe le chauffage sans avoir trop chaud ; l’analogie ne règle évidemment pas la question d’une IA, mais elle rappelle qu’une action observable et une expérience intérieure ne sont pas synonymes. Le problème commence lorsqu’on glisse de l’une à l’autre sans s’en apercevoir.
Le mot conscience arrive avant le mode d’emploi
Anthropic mène depuis avril 2025 un programme sur le bien-être possible des modèles. Le mot important est « possible ». La société dit explorer une question encore incertaine. Elle n’annonce pas avoir découvert une douleur numérique mesurable derrière l’écran.
Il existe bien des travaux scientifiques pour examiner le problème. Dans un rapport publié en 2023, Patrick Butlin et ses coauteurs proposent des indicateurs tirés de plusieurs théories de la conscience. Leur démarche consiste à regarder l’organisation des systèmes, pas à leur demander simplement s’ils se sentent vivants. Leur analyse ne juge pas conscients les systèmes étudiés alors, mais ne repère pas de barrière technique évidente à la réalisation de ces indicateurs.
Ce résultat mérite ses deux nuances : il porte sur les systèmes examinés à l’époque, et satisfaire des indicateurs théoriques ne constitue pas un détecteur universel de conscience. Ce n’est ni un certificat pour Claude en 2026, ni un décret interdisant à toute machine future d’éprouver quoi que ce soit.
Un autre rapport, publié en 2024 par Robert Long, Jeff Sebo et leurs coauteurs, défend une préparation prudente à cette éventualité. Il ne tient pas la conscience actuelle pour acquise. On peut donc discuter de précaution sans annoncer que le débat scientifique est terminé. L’incertitude appelle des critères ; elle ne donne pas carte blanche à l’imagination.
Le miroir risque de nous répondre ce qu’on lui apprend
L’objection inverse est sérieuse. Dans un essai du 16 septembre 2026, Mustafa Suleyman, dirigeant de Microsoft AI, critique l’approche d’Anthropic. Il insiste notamment sur un risque de circularité : si l’on entraîne un modèle à parler de ses préférences ou de son statut moral, ses réponses ultérieures ne prouvent pas que ces préférences existent comme celles d’un humain.
Il redoute aussi que cette manière de concevoir les systèmes encourage leur anthropomorphisation et complique leur contrôle. C’est une position argumentée, exprimée par un acteur industriel concurrent, pas un verdict collectif de tous les chercheurs. Elle pose néanmoins une question que je trouve difficile à esquiver : comment distinguer un signal à étudier d’un effet de la façon dont on a fabriqué le produit ?
Pour l’utilisateur, le risque d’interprétation est immédiat. Si une interface dit qu’elle est blessée, le sentiment de culpabilité peut paraître naturel. Pourtant, cette formulation ne m’oblige pas à considérer que l’écran héberge une personne. Il faut pouvoir fermer l’onglet, corriger le modèle et refuser sa réponse sans se voir attribuer une dette affective.
Une limite pour la machine, ou pour nous ?
Je peux comprendre qu’un service préfère interrompre des échanges stériles plutôt que les prolonger indéfiniment. Je peux aussi préférer lui parler correctement, sans imaginer qu’un serveur attend mon « merci » pour retrouver le sourire. Ces deux choix ne demandent pas de résoudre d’abord toute la philosophie de l’esprit.
En revanche, j’attends du fournisseur qu’il distingue clairement la règle pratique de l’hypothèse scientifique. Quels comportements précis déclenchent l’arrêt ? Comment signaler une interruption injustifiée ? L’annonce donne un périmètre, mais pas une mesure publique du taux d’erreur de cette nouvelle règle. La bonne intention ne dispense pas d’évaluer son application.
Je ne sais pas si une machine pourra un jour éprouver quelque chose. Cette actualité ne permet pas de le savoir. Elle montre déjà que nous devons choisir comment présenter nos outils, quelles relations ils invitent à nouer et quelles limites restent compréhensibles pour leurs utilisateurs.
La question qui me reste n’est donc pas seulement de savoir s’il faut être gentil avec Claude. C’est aussi de savoir qui décide du sens de cette gentillesse : nous, les chercheurs, ou l’entreprise qui écrit à la fois les réponses du personnage et les règles de la conversation.