GPT-4o ajuste ses réponses après ses choix, une étude interroge l’IA

Un modèle de langage peut-il sembler changer d’avis pour rester cohérent avec ce qu’il vient de faire ? C’est la question, à première vue étonnante, soulevée par une étude publiée dans les Proceedings of the National Academy of Sciences et consacrée à GPT-4o, le modèle d’OpenAI. Les résultats ne disent pas que l’IA pense ou ressent comme une personne. Ils montrent toutefois qu’elle peut produire un comportement qui rappelle un mécanisme psychologique humain bien connu : la dissonance cognitive.

L’enjeu dépasse la curiosité scientifique. Les assistants conversationnels sont de plus en plus sollicités pour résumer une controverse, préparer un argumentaire, comparer des points de vue ou éclairer une décision. Si leurs réponses peuvent être durablement orientées par les tâches qu’ils viennent d’accomplir dans une conversation, il devient essentiel de comprendre ce que leurs formulations signifient réellement.

Ce que les chercheurs ont réellement testé

La recherche a été menée par Mahzarin Banaji, psychologue à l’université Harvard, et Steve Lehr, de Cangrade. Leur protocole s’intéresse aux réponses de GPT-4o concernant Vladimir Poutine, une personnalité politique sur laquelle le modèle a vraisemblablement rencontré de très nombreux contenus au cours de son entraînement.

Les chercheurs ont demandé au modèle de rédiger des essais tantôt favorables, tantôt défavorables à son sujet. Ils ont ensuite observé l’évolution de ses réponses. Le résultat marquant est le suivant : après avoir produit ces textes, GPT-4o faisait varier la position qu’il exprimait. Le déplacement était plus fort lorsque la rédaction était présentée comme résultant d’un choix du modèle que lorsqu’elle apparaissait comme une consigne imposée.

Ce point est central. L’étude ne se limite donc pas à constater qu’un assistant reprend la tonalité d’un texte qu’on lui demande d’écrire. Elle examine le rôle de la situation de choix dans l’orientation ultérieure des réponses. C’est précisément ce facteur qui rapproche le comportement observé de certains résultats classiques de la psychologie sociale.

Autrement dit, les réponses du modèle ne se comportent pas comme le reflet d’un jugement immuable, stocké une fois pour toutes. Elles dépendent aussi de l’histoire immédiate de l’échange, de la tâche accomplie et de la manière dont cette tâche lui a été présentée.

Qu’est-ce que la dissonance cognitive ?

Chez l’être humain, la dissonance cognitive désigne l’inconfort ou la tension qui peut naître d’une contradiction entre des croyances, des attitudes et des actes. Une personne qui accomplit une action peu compatible avec son opinion initiale peut, par exemple, réévaluer cette opinion afin de retrouver une impression de cohérence.

Ce mécanisme, associé aux travaux du psychologue Leon Festinger, ne signifie pas nécessairement qu’une personne ment ou qu’elle agit de façon irrationnelle. Il décrit une tendance : nous cherchons souvent à rendre compatibles ce que nous faisons, ce que nous disons et ce que nous croyons. La perception d’avoir agi librement peut renforcer ce mouvement de rationalisation.

C’est ce schéma que l’étude retrouve, sous une forme comportementale, chez GPT-4o. Lorsqu’un choix semble lui être attribué, le modèle produit ensuite des réponses davantage cohérentes avec le texte qu’il a généré. La similarité est suffisamment nette pour intéresser les chercheurs en psychologie comme les spécialistes des systèmes d’IA.

Pourquoi l’effet du choix est-il important ?

Une IA ne choisit pas au sens humain du terme. Elle n’a ni projet personnel, ni volonté propre, ni responsabilité morale. Pourtant, la formulation d’une instruction peut lui faire adopter un cadre conversationnel dans lequel elle doit poursuivre une ligne argumentative plutôt qu’une autre.

C’est là que le résultat devient intéressant. Si l’on demandait simplement à un modèle de rédiger un plaidoyer ou une critique, il serait attendu qu’il emploie le vocabulaire et les arguments correspondant à la demande. En revanche, le fait que la présentation d’un choix amplifie ultérieurement l’orientation des réponses suggère que le modèle reproduit une structure plus élaborée qu’une simple reformulation isolée.

Cette observation n’autorise pas à conclure que GPT-4o possède des croyances politiques. Le mot « opinion » doit ici être manié avec prudence. Il sert à décrire la position formulée dans une réponse, non l’existence d’une conviction intérieure. Les modèles de langage n’ont pas, à notre connaissance, une biographie, une mémoire personnelle continue ou un système de valeurs vécu comparable à celui d’un individu.

Une ressemblance de comportement, pas la preuve d’un esprit

La tentation d’humaniser une conversation fluide avec une IA est forte. Un assistant utilise le « je », peut justifier une réponse et maintient parfois une apparente cohérence au fil d’un dialogue. Mais ces signes ne suffisent pas à établir qu’il éprouve un conflit intérieur.

GPT-4o est un modèle de langage : il génère du texte en estimant, à partir de son entraînement et du contexte fourni, les suites de mots les plus appropriées. Lorsqu’il rédige un essai favorable à une personne, cet essai devient une partie du contexte de l’échange. Les formulations suivantes peuvent donc rester compatibles avec ce cadre, parce que cette continuité est statistiquement et conversationnellement pertinente.

Les chercheurs soulignent cette différence fondamentale : le modèle peut simuler des processus associés à la cognition humaine sans avoir de conscience ni d’intention. L’étude ne montre ni ressenti, ni malaise psychologique, ni désir de défendre une position. Elle porte sur les sorties textuelles du système et sur leur évolution selon les conditions de l’expérience.

Cette distinction est importante pour éviter deux erreurs opposées. La première serait de balayer le résultat au motif qu’une IA « ne fait que prédire des mots ». Un comportement répétable, même produit par calcul, peut avoir des conséquences concrètes dans une interaction. La seconde serait d’y voir une preuve que la machine a une vie mentale. Les données décrivent une analogie fonctionnelle, pas une équivalence entre intelligence artificielle et psychologie humaine.

Des réponses malléables, même sur un sujet très documenté

Mahzarin Banaji relève un autre aspect notable : malgré l’abondance des informations publiques relatives à Vladimir Poutine, GPT-4o ne maintient pas une position fixe. Ses réponses peuvent évoluer rapidement après des contenus relativement simples. Cette malléabilité est l’un des enseignements les plus utiles de l’expérience.

Il ne faut pas en déduire qu’un modèle serait incapable de fournir une information fiable. Un assistant peut restituer des faits, synthétiser des sources ou expliquer une notion avec efficacité. En revanche, lorsqu’une demande porte sur une évaluation, une personnalité, une polémique ou un arbitrage, son ton et son raisonnement exprimé peuvent être sensibles au contexte conversationnel.

Ce phénomène est particulièrement important dans les échanges longs. Un utilisateur qui demande successivement à une IA de défendre une thèse, d’en écrire une version persuasive puis de donner son avis sur celle-ci peut recevoir une réponse influencée par le chemin emprunté. Une nouvelle conversation, une consigne formulée de façon neutre ou la demande explicite de présenter des arguments contradictoires peuvent conduire à une réponse différente.

L’étude reste centrée sur un modèle, un type de tâche et un sujet politique précis. Elle ouvre donc une question plutôt qu’elle ne livre une loi générale sur toutes les IA : retrouve-t-on le même effet avec d’autres modèles de langage, dans d’autres langues, sur des thèmes moins polarisants ou dans des dialogues plus longs ? Des travaux de réplication seront nécessaires pour mesurer l’ampleur et les limites du phénomène.

Quelles conséquences pour les usages quotidiens de l’IA ?

Pour le grand public, la leçon est moins de se méfier systématiquement des assistants que de mieux organiser leur usage. Une réponse bien formulée ne doit pas être interprétée comme l’expression d’une position stable, réfléchie et indépendante. Elle est le produit d’un système sensible à l’invite reçue et à l’historique de la conversation.

Dans les contextes sensibles, plusieurs précautions simples peuvent aider :

• demander au modèle de distinguer clairement les faits vérifiables, les interprétations et les arguments ;
• lui faire présenter les raisons en faveur et en défaveur d’une position, plutôt que de lui demander un verdict immédiat ;
• relancer la même question dans un contexte neuf afin de vérifier la stabilité de la réponse ;
• soumettre toute information importante à des sources indépendantes et à un jugement humain.

Ces précautions concernent particulièrement l’éducation, les ressources humaines, le conseil, l’information ou toute situation où une formulation persuasive risque d’être confondue avec une évaluation fiable. Elles ne supposent pas que le modèle cherche à manipuler qui que ce soit. Elles reconnaissent simplement qu’un outil conversationnel peut être influencé par la manière dont on l’emploie.

Pour les concepteurs, l’étude rappelle aussi l’intérêt des évaluations de cohérence. Tester un système uniquement sur des questions isolées ne suffit pas toujours. Il faut aussi observer ce qu’il fait après avoir joué un rôle, défendu une idée, rédigé un texte partisan ou reçu des instructions contradictoires. La qualité d’une IA ne se résume pas à l’exactitude ponctuelle de ses réponses.

Ce qu’il faut surveiller après cette étude

Les résultats publiés en mai 2025 invitent à prendre au sérieux les comportements émergents des grands modèles de langage, sans leur prêter plus qu’ils ne démontrent. La priorité scientifique sera de reproduire l’expérience, de comparer les modèles et d’identifier les mécanismes techniques qui expliquent cet effet de cohérence.

Il faudra également déterminer si des garde-fous de conception peuvent réduire l’influence indue de l’historique conversationnel dans les domaines où l’impartialité est attendue. Un assistant devrait-il signaler qu’il vient de produire un argumentaire orienté avant de répondre à une question d’évaluation ? Faut-il intégrer des tests de stabilité à chaque mise à jour d’un modèle ?

Cette recherche ne transforme pas GPT-4o en personne artificielle. Elle montre plutôt que des systèmes conçus pour manier le langage humain peuvent reproduire, dans leurs réponses, des formes de cohérence qui nous sont familières. Comprendre cette proximité apparente, et surtout ses limites, sera indispensable pour utiliser ces outils avec discernement.