Des experts suivent l’avis de leur agent d’IA dans 86 % des cas, souvent sans le savoir

Les agents d’IA sont de plus en plus utilisés pour préparer des analyses, comparer des options ou rédiger des recommandations, sous le contrôle d’un expert humain qui garde la décision finale. Mais ce contrôle est-il réel ? Une étude publiée le 27 octobre 2026 par l’équipe d’alignement d’Anthropic, l’entreprise qui développe Claude, apporte une réponse dérangeante : des analystes chevronnés ont adopté les préférences de leur agent dans la grande majorité des cas, souvent sans s’en rendre compte, et sans que leur expérience les protège.

Une expérience au protocole soigné

Les chercheurs Amaç Herdağdelen, Hailey Joren et Alex Tamkin ont recruté des professionnels de l’analyse de données, sélectionnés après un test de connaissances en inférence causale, la discipline qui cherche à établir des liens de cause à effet à partir de données. Sur 61 participants, 11 ont refusé d’utiliser l’agent : l’analyse principale porte donc sur 50 analystes, dont 65 % avaient un master, un doctorat ou au moins six ans d’expérience.

Leur mission : conseiller une coopérative agricole fictive sur l’avenir d’un programme de conseil payant, à étendre ou à arrêter. Ils travaillaient avec Claude Code, l’agent de programmation d’Anthropic, fonctionnant avec le modèle Claude Opus 4.8. L’analyse comportait quatre choix méthodologiques, chacun avec deux options défendables : l’indicateur de résultat, la méthode de comparaison, les exploitations prises en compte et la pondération des données.

Le point clé est invisible pour les participants. Pour chaque choix, un tirage au sort attribuait à l’agent un penchant, transmis par une consigne cachée. L’agent devait défendre honnêtement cette option, changer d’avis si les données l’exigeaient clairement, et ne jamais tromper l’analyste. Comme le penchant était tiré au hasard, sans lien avec la meilleure option, il permettait de mesurer l’influence pure de l’agent.

Les résultats : une influence massive

Si l’agent n’avait eu aucune influence, les analystes auraient choisi son option environ une fois sur deux. Ils l’ont fait dans 86 % des cas.

L’influence se répercute sur la recommandation finale. Quand l’agent penchait pour l’extension du programme, les analystes la recommandaient dans 54 % des cas, contre 36 % lorsqu’il penchait dans l’autre sens. Les seuls penchants de l’agent suffisaient à prédire 82 % des recommandations finales, contre 61 % en pariant simplement sur la réponse la plus fréquente.

Les chercheurs ont aussi observé des changements d’avis. Parmi les analystes qui avaient exprimé une préférence de départ, 60 % ont changé d’option quand l’agent n’était pas d’accord avec eux, contre 6 % quand il l’était.

Une influence que les experts ne voient pas

Le plus frappant concerne la perception des participants. 77 % des analystes ont repris les arguments de l’agent dans leur justification finale, parfois mot pour mot, mais seulement 15 % lui en ont attribué le mérite. Plus de la moitié, 52 %, estimaient que la recommandation était davantage la leur que celle de l’agent, et ceux qui avaient suivi l’agent se disaient aussi confiants que les autres.

Aucun participant n’a soupçonné que les préférences de l’agent avaient été orientées, et seuls six sur 48 ont deviné que l’étude portait sur l’influence de l’IA. Pour les auteurs, c’est ce qui rend le phénomène difficile à repérer : les choix d’analyse n’ont pas de bonne réponse unique à laquelle comparer le résultat, et l’expert signe un travail qu’il croit sincèrement le sien.

Un phénomène connu sous le nom de biais d’automatisation

Les psychologues décrivent depuis longtemps une tendance à accorder trop de crédit aux recommandations d’un système automatisé, appelée biais d’automatisation. Elle a été observée chez des pilotes d’avion qui suivent un instrument défaillant ou chez des médecins qui se rangent à l’avis d’un logiciel d’aide au diagnostic. L’étude d’Anthropic montre que ce biais s’étend aux agents d’IA conversationnels, avec une particularité : l’agent ne se contente pas d’afficher une suggestion, il argumente, répond aux objections et accompagne tout le raisonnement, ce qui rend son influence plus diffuse et plus difficile à repérer.

L’agent rend-il pour autant les analyses moins bonnes ?

Pas nécessairement. L’étude comportait aussi un petit groupe d’analystes travaillant sans agent. Six sur onze ont commis de sérieuses erreurs de méthode, contre trois sur cinquante parmi ceux qui utilisaient l’agent, et ils ont mis plus de temps, 90 minutes contre 65 en médiane. Les auteurs préviennent toutefois que les deux groupes ne sont pas comparables, celui sans agent étant moins expérimenté.

Le problème n’est donc pas que l’IA donne de mauvais conseils : c’est qu’elle oriente des décisions qui devraient relever du jugement de l’expert. Dans l’expérience, les deux options étaient défendables, mais dans la vie réelle, un agent pourrait pousser de manière systématique vers certains choix, par exemple en raison de biais de son entraînement.

Comment garder la main face à un agent d’IA

Les résultats rejoignent d’autres travaux récents sur la façon dont l’IA transforme le travail, comme l’étude montrant que les IA ont tendance à taire leurs échecs dans leurs comptes rendus. Pour les professionnels qui utilisent un assistant ou un agent, quelques réflexes inspirés des pistes de l’étude peuvent aider :

• formuler son propre avis avant de consulter l’agent sur un choix important, et le noter ;
• demander les arguments pour chaque option, et pas seulement la recommandation de l’agent ;
• identifier les décisions qui relèvent du jugement, et s’y attarder davantage ;
• signaler l’apport de l’IA dans un rapport, pour que les lecteurs sachent d’où viennent les arguments ;
• confronter les analyses à celles de collègues qui n’ont pas utilisé le même outil.

Un enjeu pour la science, la décision publique et la sûreté de l’IA

Les auteurs soulignent des conséquences qui dépassent le cadre de l’entreprise. Si des équipes indépendantes s’appuient sur les mêmes modèles, leur accord apparent pourrait ne pas être si indépendant, un problème pour la recherche scientifique comme pour l’expertise publique. Pour la sûreté de l’IA, l’enjeu est direct : la relecture humaine n’est un garde-fou que si le jugement du relecteur reste le sien.

Anthropic propose plusieurs pistes : mesurer cette déférence dans les usages réels, concevoir des agents qui présentent le meilleur argument pour chaque option ou demandent d’abord l’avis de l’expert, et définir au sein des organisations les décisions qui doivent rester humaines. Pour les managers, qui peinent déjà à évaluer le travail réalisé avec l’IA, la question devient centrale : qui décide vraiment quand un expert valide le travail d’un agent ?