Anthropic explore la « biologie » de Claude pour mieux lire ses raisonnements

Le fonctionnement intime des grands modèles de langage reste largement opaque, y compris pour les entreprises qui les conçoivent. Lorsqu’un assistant comme Claude rédige un texte, traduit une phrase ou résout un problème, il active d’immenses réseaux de paramètres numériques dont les interactions sont difficiles à suivre. Anthropic tente de réduire cette zone d’ombre avec une recherche publiée le 27 mars 2025, qui propose de regarder à l’intérieur de l’un de ses modèles comme un biologiste observerait un organisme.

Le terme de « biologie IA » peut prêter à confusion. Claude n’est pas un système biologique, n’imite pas littéralement un cerveau humain et n’a pas été entraîné sur des mécanismes du vivant. Dans l’étude d’Anthropic, cette formule sert de métaphore : il s’agit de repérer les structures et les « circuits » qui, ensemble, concourent à un comportement du modèle. L’enjeu est considérable : mieux comprendre ces mécanismes pourrait contribuer à rendre les IA plus fiables, plus contrôlables et plus sûres.

Ce qu’Anthropic appelle la « biologie » de Claude

Les modèles de langage reposent sur des réseaux de neurones artificiels. Malgré leur nom, ces neurones sont avant tout des opérations mathématiques. En recevant une suite de mots, le modèle calcule des probabilités et prédit le mot ou le fragment de mot le plus cohérent pour poursuivre la réponse. Cette explication générale est connue, mais elle ne dit pas comment le système parvient, dans le détail, à associer des idées, à appliquer une règle de grammaire ou à effectuer une opération.

C’est le problème de l’interprétabilité. Les chercheurs cherchent à relier des éléments internes du réseau à des notions reconnaissables, comme une langue, un lieu, une personne, une règle de raisonnement ou une instruction de sécurité. Anthropic parle de « caractéristiques » ou features. Il ne s’agit pas de cases contenant une définition nette, mais de directions dans l’activité mathématique du modèle, qui peuvent être davantage ou moins activées selon le contexte.

Dans son travail, l’entreprise s’intéresse à Claude 3.5 Haiku, un modèle plus petit que les systèmes les plus puissants de la famille Claude. Ce choix n’est pas anodin : plus un modèle est vaste, plus il est difficile à analyser. Un modèle compact constitue donc un terrain d’étude plus accessible, sans être pour autant simple à déchiffrer.

Comment les chercheurs suivent-ils un raisonnement interne ?

Anthropic utilise une méthode destinée à extraire un grand nombre de caractéristiques interprétables dans les différentes couches du réseau. Les modèles de langage transforment progressivement les mots en représentations numériques, couche après couche. À chaque étape, certaines informations sont conservées, combinées ou transformées avant d’influencer le mot suivant.

L’équipe relie ensuite ces caractéristiques dans des graphes d’attribution. Ces cartes tentent de montrer quelles activations ont contribué à une réponse donnée et par quels chemins elles ont circulé. L’analogie biologique tient ici : au lieu de décrire le comportement d’un animal uniquement à partir de ses réactions visibles, on chercherait à observer les interactions entre ses organes, ses cellules et ses signaux.

La méthode ne se limite pas à constater des corrélations. Les chercheurs peuvent intervenir sur certaines activations, par exemple en les renforçant ou en les réduisant, afin de vérifier leur effet sur la production du modèle. Si modifier une caractéristique liée à un concept infléchit la réponse dans le sens attendu, cela apporte un indice plus solide de son rôle causal.

Cette approche ne produit pas une carte exhaustive de Claude. Elle rend visibles certains fragments de calcul, pour des exemples précis. C’est une différence essentielle : un grand modèle de langage ne se laisse pas résumer à quelques règles simples, même lorsque l’on parvient à éclairer l’un de ses circuits.

Des concepts qui traversent les langues et les étapes d’un calcul

L’un des résultats mis en avant par Anthropic concerne les représentations multilingues. Les chercheurs observent que le modèle peut mobiliser des caractéristiques similaires pour un même concept exprimé dans différentes langues. Autrement dit, Claude 3.5 Haiku ne semble pas traiter chaque langue comme un ensemble totalement isolé de règles et de mots.

Cette observation aide à comprendre pourquoi un modèle entraîné sur plusieurs langues peut parfois traduire ou répondre dans une langue qu’il a moins souvent rencontrée. Il ne s’agit pas d’un dictionnaire caché, où chaque terme posséderait une traduction fixe. Le modèle manipule plutôt des représentations distribuées, liées à des contextes, à des sens et à des relations entre concepts.

Les travaux examinent aussi des exemples de raisonnement. Anthropic décrit notamment des circuits qui participent à des calculs arithmétiques et à des formes de planification. Dans certaines tâches, le modèle peut préparer des éléments de réponse avant de les écrire, plutôt que de choisir chaque mot de manière totalement indépendante du reste de la phrase.

Ce point est particulièrement important pour les poèmes, les textes structurés ou les réponses comportant plusieurs étapes. Un modèle peut, par exemple, devoir anticiper une rime, la fin d’une phrase ou une information qu’il utilisera plus tard. Mettre en évidence de tels mécanismes apporte un contrepoint utile à une idée répandue : celle selon laquelle un modèle ne ferait qu’enchaîner mécaniquement des mots sans aucune organisation interne.

Cela ne prouve pas qu’il raisonne comme un humain. Les processus observés reposent sur une architecture et des données d’entraînement très différentes du cerveau. Ils montrent en revanche que la prédiction du mot suivant peut s’appuyer sur des calculs intermédiaires plus structurés que ne le laisse penser cette formule souvent employée.

Pourquoi cette recherche ne porte pas principalement sur Claude 3.7 ou Claude Code

La publication intervient peu après plusieurs annonces importantes d’Anthropic, ce qui peut créer un amalgame. Le 24 février 2025, l’entreprise a lancé Claude 3.7 Sonnet, présenté comme un modèle de raisonnement hybride, ainsi que Claude Code, un outil destiné à assister les développeurs dans leurs tâches de programmation.

Claude Code peut lire du code, le modifier, lancer des tests et aider à naviguer dans un projet logiciel. Claude 3.7 Sonnet peut, de son côté, fournir des réponses rapides ou consacrer davantage de temps à certaines tâches de raisonnement. Ces produits illustrent la stratégie commerciale et technique d’Anthropic, mais ils ne sont pas le cœur de l’étude sur la « biologie » de l’IA.

La distinction compte pour le lecteur : l’étude ne démontre pas que Claude 3.7 Sonnet ou Claude Code disposent des mêmes circuits, ni qu’ils sont entièrement expliqués par la méthode présentée. Elle propose un outil de recherche susceptible, à terme, d’être appliqué à des modèles plus avancés.

Une piste pour rendre les modèles plus sûrs

L’interprétabilité intéresse directement la sécurité de l’IA. Les évaluations externes permettent de tester ce qu’un modèle fait dans des scénarios donnés : répond-il correctement, refuse-t-il une demande dangereuse, contourne-t-il une règle ? Mais elles n’expliquent pas toujours pourquoi ce comportement apparaît, ni comment il pourrait évoluer dans un cas non testé.

Voir certains mécanismes internes pourrait aider à identifier plus tôt des comportements problématiques. Par exemple, un chercheur peut vouloir savoir si un refus de répondre à une demande nuisible repose sur un mécanisme stable ou sur une règle facile à contourner. De même, si le modèle produit une information erronée avec aplomb, l’analyse de ses circuits pourrait contribuer à distinguer une connaissance incertaine, une association trompeuse ou une erreur de raisonnement.

Anthropic présente cette recherche dans le cadre plus large de ses efforts de sécurité. L’entreprise défend l’idée qu’il ne suffit pas de mesurer les performances d’un modèle, il faut aussi tenter de comprendre les mécanismes qui les produisent. Cette ambition est partagée, sous des formes différentes, par plusieurs laboratoires et équipes universitaires qui travaillent sur la transparence des réseaux de neurones.

Des limites importantes, malgré une avancée réelle

L’étude constitue une avancée méthodologique, pas un mode d’emploi permettant de décoder intégralement un modèle de langage. Les réseaux de neurones mobilisent un nombre gigantesque d’interactions. Les caractéristiques extraites par les chercheurs sont utiles, mais elles restent des approximations d’activités beaucoup plus complexes.

Une même caractéristique peut aussi participer à des comportements différents selon le contexte. Inversement, un concept peut être représenté à plusieurs endroits du modèle. C’est ce que l’on appelle souvent une représentation distribuée : l’information n’est pas stockée dans un unique « neurone du chat », « neurone de Paris » ou « neurone du calcul ».

Il faut également rester prudent face aux exemples spectaculaires. Trouver un circuit qui semble expliquer une réponse ne signifie pas que toutes les réponses du modèle fonctionnent de la même manière. Les résultats observés sur Claude 3.5 Haiku ne peuvent pas être généralisés automatiquement à tous les modèles de Claude, ni à ceux d’autres entreprises.

Enfin, la transparence technique ne résout pas à elle seule les questions sociales et éthiques liées à l’IA. La protection des données, les biais, les usages professionnels, les droits d’auteur ou la concentration des capacités de calcul exigent aussi des règles, des évaluations indépendantes et des choix collectifs.

Ce qu’il faut surveiller

La principale question est celle du passage à l’échelle. Les méthodes d’Anthropic pourront-elles éclairer des modèles plus vastes et plus performants, sans devenir trop coûteuses ou trop incomplètes ? Un outil utile en laboratoire doit encore démontrer qu’il peut accompagner le rythme rapide des nouveaux modèles.

Il faudra aussi suivre la manière dont ces techniques sont mises à l’épreuve. Des résultats reproductibles, des méthodes publiées et des évaluations menées par des chercheurs extérieurs sont essentiels pour déterminer ce que ces cartes internes expliquent réellement. La publication détaillée d’Anthropic contribue à ce débat, mais ne le clôt pas.

À plus long terme, l’interprétabilité pourrait devenir un complément attendu des tests de sécurité. Avant de déployer un modèle dans des domaines sensibles, il ne suffirait plus seulement de vérifier ses réponses sur une liste de scénarios : les concepteurs pourraient aussi devoir montrer ce qu’ils savent de ses mécanismes internes et des limites de leur compréhension. La « biologie » de Claude n’offre pas encore cette garantie, mais elle dessine une voie concrète pour sortir progressivement de la boîte noire.