Insulter une IA, est-ce la même chose que de s’énerver sur son grille-pain ? Ijmaki/Pixabay, CC BY
L’ESSENTIEL
-
À partir du 12 novembre 2026, si vous harcelez Claude, l’intelligence artificielle conversationnelle d’Anthropic, elle mettra fin à la discussion.
-
L’entreprise a, en effet, émis une nouvelle règle, qui semble prêter une forme de conscience morale à la machine.
-
Cette nouveauté implique une réflexion d’ordre philosophique : au nom de quoi faudrait-il traiter l’IA comme un interlocuteur humain ?
Avez-vous déjà frappé votre grille-pain, insulté votre traitement de texte ou harcelé votre encyclopédie ? Personne n’aurait songé à vous l’interdire. À partir du 12 novembre 2026, il sera pourtant contraire aux règles d’Anthropic de « se livrer à un comportement abusif ou cruel, prolongé et gratuit » envers Claude, son assistant d’intelligence artificielle (IA). La sanction : Claude pourra mettre fin à la conversation.
Pourquoi une entreprise protège-t-elle un logiciel contre ses propres clients ? Pour le comprendre, il faut remonter dix-huit mois en arrière, s’arrêter sur nos politesses envers les écrans et faire un détour par le cimetière.
Une mesure préparée pas à pas
La règle clôt dix-huit mois d’ajustements consécutifs. En avril 2025, Anthropic ouvre un programme de recherche sur le « bien-être des modèles », chargé de déterminer si une IA peut mériter une considération morale. En août, deux versions de Claude reçoivent la capacité de raccrocher face à un utilisateur qui persiste dans l’abus ; l’entreprise se dit « très incertaine » du statut moral de son modèle et présente la fonction comme une précaution. En janvier 2026, la « Constitution de Claude », le texte qui fixe les valeurs du modèle, qualifie ce statut de « profondément incertain ».
Aucune de ces étapes n’affirme que Claude est conscient ; chacune rend la suivante…
Auteur: Emmanuel Carré, Professeur, directeur de Excelia Communication School, chercheur associé au laboratoire CIMEOS (U. de Bourgogne) et CERIIM (Excelia), Excelia
