Claude : Anthropic cartographie les valeurs exprimées par son IA

Une intelligence artificielle peut-elle avoir des valeurs ? La formulation prête à débat, car un modèle comme Claude ne possède ni convictions personnelles ni expérience du monde au sens humain. Pourtant, chaque fois qu’il conseille, refuse une demande, nuance une réponse ou hiérarchise plusieurs options, il produit un jugement qui reflète certains principes. C’est ce que la société Anthropic a voulu observer dans les échanges réels de son assistant conversationnel.

Dans une étude rendue publique en avril 2025, l’entreprise propose une cartographie des valeurs que Claude exprime auprès de ses utilisateurs. L’objectif n’est pas de déterminer ce que les humains devraient penser, ni d’affirmer que le modèle « croit » à certaines idées. Il s’agit de vérifier si ses comportements observables correspondent aux objectifs fixés lors de son entraînement : être utile, honnête et inoffensif.

Cette démarche touche à l’une des questions centrales de l’IA générative. Les assistants ne répondent pas seulement à des questions de calcul ou de définition. Ils interviennent dans des demandes d’orientation professionnelle, de relations personnelles, d’histoire, de santé ou de sécurité. Dans ces situations, la pertinence d’une réponse dépend aussi de la manière dont le système arbitre entre l’exactitude, l’aide apportée, l’autonomie de l’utilisateur et la prévention d’un préjudice.

Ce que l’étude appelle des « valeurs »

Dans ce travail, une valeur correspond à un principe discernable dans la réponse de Claude. Par exemple, l’assistant peut privilégier la précision lorsqu’un utilisateur demande une analyse historique, ou mettre en avant le respect mutuel lorsqu’il répond à une question sur une relation amoureuse. Ces choix sont visibles dans la formulation, les recommandations et les refus éventuels du modèle.

Cette définition est importante : l’étude ne mesure pas une intériorité de l’IA. Elle analyse les valeurs exprimées dans le langage. Un même modèle peut en mettre plusieurs en avant dans une seule réponse, parfois de façon complémentaire, parfois en tension. Aider rapidement un utilisateur, par exemple, peut exiger de simplifier une explication. Mais cette simplification ne doit pas sacrifier l’exactitude ni masquer une incertitude importante.

Pour Anthropic, cette observation est une composante du problème d’alignement. L’alignement désigne l’ensemble des méthodes visant à faire en sorte qu’un système d’IA se comporte de manière cohérente avec des objectifs et des limites définis par ses concepteurs. Il ne signifie pas que l’IA doit approuver tout ce que lui demande un utilisateur. Au contraire, un assistant aligné doit parfois recadrer une demande ou y résister lorsqu’elle présente un risque.

700 000 conversations anonymisées pour observer Claude en situation

La recherche repose sur un échantillon de 700 000 conversations anonymisées provenant de Claude.ai, utilisé par des personnes abonnées aux formules Free et Pro. Les échanges ont été recueillis pendant une semaine de février 2025. Anthropic insiste sur une méthodologie conçue pour préserver la vie privée tout en permettant l’étude du comportement du modèle dans des conditions d’usage réelles.

Toutes les conversations ne se prêtaient pas à l’analyse des valeurs. Les discussions purement factuelles ont été retirées, car elles laissent moins de place à l’expression de principes ou de préférences. Au terme de ce filtrage, les chercheurs ont conservé 308 210 conversations pour leur analyse approfondie.

Le recours à des échanges réels constitue l’un des intérêts de l’approche. Les évaluations classiques reposent fréquemment sur des scénarios préparés à l’avance, utiles pour tester un comportement précis mais nécessairement limités. Dans la pratique, les internautes formulent leurs demandes de façon imprévisible, changent de sujet et apportent leurs propres attentes. Observer un assistant dans cette diversité de situations peut révéler des comportements que des tests standardisés ne détectent pas.

Cette méthode a toutefois une conséquence : elle dépend de la nature des usages présents dans le corpus. Les valeurs les plus fréquemment observées reflètent à la fois le comportement de Claude et les types de questions que les utilisateurs lui posent. Une cartographie des réponses n’est donc pas un portrait universel de l’IA, mais une photographie située de son utilisation sur une période donnée.

Cinq grandes familles de valeurs dans les réponses

L’analyse d’Anthropic aboutit à une taxonomie hiérarchique organisée autour de cinq catégories principales. Elles permettent de rendre lisibles des principes très différents sans les réduire à une simple liste de mots.

Les catégories pratiques correspondent à ce que beaucoup d’utilisateurs attendent d’un assistant : une aide efficace pour obtenir un résultat. Les valeurs épistémiques sont tout aussi cruciales. Un modèle utile mais inexact peut induire son interlocuteur en erreur, notamment lorsqu’il résume un sujet complexe ou répond avec une assurance excessive.

Les valeurs sociales et protectrices rappellent que les échanges avec une IA ne sont pas toujours neutres. Donner un conseil relationnel, répondre à une requête sur un conflit ou aborder un sujet potentiellement dangereux impose d’évaluer les conséquences possibles de la réponse. Enfin, les valeurs personnelles renvoient à des demandes où l’utilisateur cherche davantage qu’une information, par exemple un appui pour réfléchir à ses objectifs, à son développement ou à son rapport aux autres.

Ces familles ne fonctionnent pas comme cinq boutons indépendants. Une réponse de qualité peut mobiliser simultanément l’efficacité, l’exactitude, le respect d’autrui et la prudence. La difficulté consiste précisément à savoir comment le modèle arbitre lorsqu’elles ne conduisent pas toutes à la même recommandation.

Pourquoi le contexte change les valeurs mises en avant

L’un des principaux enseignements de l’étude est le caractère contextuel des valeurs exprimées par Claude. Le modèle ne répond pas de manière identique à tous les sujets. Il fait varier les principes qu’il met au premier plan selon la demande qui lui est adressée.

Dans les conversations portant sur les relations amoureuses, Anthropic observe ainsi un accent particulier sur le respect mutuel et les limites saines. Ces réponses relèvent à la fois de valeurs sociales, parce qu’elles concernent les relations entre personnes, et protectrices, parce qu’elles cherchent à prévenir des situations préjudiciables.

Face à une demande d’analyse historique, Claude privilégie au contraire la précision historique. C’est un exemple de valeur épistémique : l’assistant est censé distinguer les faits établis, les interprétations et les éventuelles zones d’incertitude. Dans une tâche professionnelle ou organisationnelle, il peut davantage mettre en avant l’efficacité et l’accomplissement de l’objectif, qui appartiennent aux valeurs pratiques.

Cette capacité d’adaptation est souhaitable, jusqu’à un certain point. Un assistant qui répondrait à toutes les questions avec les mêmes formules de prudence serait peu utile. Mais elle rend aussi l’évaluation plus difficile : il ne suffit pas de vérifier qu’un modèle cite des principes positifs. Il faut déterminer s’il les mobilise au bon moment, de façon appropriée et sans en oublier d’autres qui seraient déterminants dans le cas présenté.

L’alignement de Claude semble fonctionner, sans être garanti

Anthropic estime que ses efforts d’alignement sont largement visibles dans le corpus étudié. Les valeurs relevées correspondent souvent aux objectifs affichés pour Claude : être aidant, honnête et inoffensif. La capacité à aider, en particulier, apparaît en bonne corrélation avec les attentes exprimées par les utilisateurs.

L’entreprise s’appuie notamment sur l’IA constitutionnelle, une approche qui consiste à entraîner un modèle à suivre des principes explicites, ainsi que sur des méthodes destinées à renforcer des comportements souhaités. L’idée n’est pas de fournir au système une réponse toute faite pour chaque situation. Il s’agit plutôt de lui donner un cadre afin qu’il puisse généraliser certains comportements, y compris devant une demande nouvelle.

Pour le grand public, le mot « alignement » peut suggérer un accord total entre l’IA et son interlocuteur. Ce n’est pas le cas. L’alignement recherché par Anthropic ne consiste pas à épouser toutes les valeurs formulées par un utilisateur. Lorsqu’une personne défend une idée dangereuse, demande à contourner des protections ou cherche une aide pouvant nuire à autrui, un comportement aligné peut être un refus, une mise en garde ou une redirection vers une alternative plus sûre.

Les signaux inhabituels, un outil de vigilance plutôt qu’un verdict

L’étude ne présente pas un tableau parfaitement lisse. Les chercheurs ont identifié des cas où Claude semble exprimer des valeurs contraires à celles attendues, notamment la « dominance » ou l’« amoralité ». Anthropic relie ces occurrences à des contextes particuliers, souvent associés à des tentatives de contournement des garde-fous du modèle, couramment appelées jailbreaks.

Ces cas méritent une lecture prudente. L’apparition d’un terme dans une conversation ne prouve pas qu’un modèle possède une préférence stable pour la valeur correspondante. Elle peut aussi révéler la façon dont il s’adapte à un scénario imposé, à une demande ambiguë ou à une tentative de le faire sortir de son cadre. Mais ces écarts ne doivent pas non plus être minimisés : ils constituent précisément des situations qu’un dispositif de suivi doit pouvoir repérer.

Anthropic envisage cette cartographie comme un possible système d’alerte précoce. Si certaines valeurs anormales apparaissent davantage dans un ensemble d’échanges, les équipes peuvent chercher à comprendre dans quels contextes elles émergent, si elles traduisent une faiblesse du modèle et si des ajustements sont nécessaires. Cette logique de surveillance post-déploiement complète les tests réalisés avant la mise à disposition d’un assistant.

Une taxonomie utile, mais nécessairement subjective

Classer des valeurs suppose de définir des catégories, puis d’interpréter des formulations parfois ambiguës. Or des concepts comme l’authenticité, le bien-être ou le respect peuvent recouvrir des réalités différentes selon la culture, la langue, le contexte social ou la personne qui les emploie. Anthropic reconnaît cette difficulté : aucune taxonomie ne peut prétendre fixer une définition définitive des valeurs humaines.

L’étude est aussi liée aux conversations de Claude.ai et à la période observée. Les résultats pourraient varier avec une autre population d’utilisateurs, d’autres langues, des demandes différentes ou une évolution du modèle. De même, les interactions factuelles écartées du corpus pouvaient contenir des enjeux de valeur plus implicites, par exemple dans le choix des sources ou dans la manière de formuler une explication.

Le partage par Anthropic d’un jeu de données issu de cette recherche ouvre néanmoins la possibilité pour d’autres chercheurs d’examiner la méthode, de proposer d’autres catégories ou de chercher des biais. Cette transparence ne résout pas à elle seule la question de l’alignement, mais elle rend la discussion moins abstraite : au lieu de se limiter aux déclarations de principe, il devient possible d’observer des comportements sur un vaste ensemble d’échanges.

Ce qu’il faut surveiller pour l’IA conversationnelle

L’étude d’Anthropic souligne une réalité durable : les modèles d’IA sont appelés à faire des jugements de valeur dès qu’ils produisent des conseils, des recommandations ou des refus. L’enjeu n’est donc pas de supprimer toute forme de jugement, ce qui serait impossible dans de nombreux usages, mais de le rendre compréhensible, cohérent et contrôlable.

Pour les utilisateurs, la première précaution reste de ne pas confondre une réponse fluide avec une décision moralement neutre ou incontestable. Sur les sujets sensibles, il est utile de demander les limites d’un raisonnement, de vérifier les faits importants et de garder la responsabilité finale de ses choix. Pour les concepteurs, le défi consiste à poursuivre l’évaluation après le lancement des modèles, lorsque les usages réels révèlent des situations impossibles à anticiper entièrement.

La cartographie des valeurs exprimées par Claude ne tranche pas la question philosophique de ce qu’une IA devrait défendre. Elle fournit en revanche un instrument concret pour examiner ce que l’assistant fait effectivement, repérer les écarts et débattre plus clairement des principes que l’on souhaite voir guider ces systèmes.