Débats : ChatGPT-4 se montre plus persuasif que l’humain avec des données personnelles

Un débat ne se gagne pas seulement avec des faits. Il faut choisir les bons exemples, anticiper les objections, trouver le ton qui parle à son interlocuteur. C’est précisément sur ce terrain, très humain en apparence, que les grands modèles de langage commencent à inquiéter les chercheurs. Une équipe de l’École polytechnique fédérale de Lausanne, l’EPFL, montre que ChatGPT-4 peut se révéler au moins aussi convaincant qu’un humain, et même prendre l’avantage lorsque la conversation s’appuie sur quelques informations personnelles.

Le résultat ne signifie pas qu’une IA détient une vérité supérieure, ni qu’elle peut à elle seule retourner n’importe quelle opinion. Il mesure plutôt une capacité précise : faire évoluer la position d’un interlocuteur au cours d’un débat contradictoire. Or cette capacité de persuasion, lorsqu’elle est automatisée et personnalisable à grande échelle, soulève des questions qui dépassent largement les performances d’un chatbot.

Une expérience de débat entre humains et IA

L’étude a réuni 600 participants, répartis par paires. Certaines personnes débattaient avec un autre humain, d’autres avec ChatGPT-4. Chaque duo devait défendre des positions opposées sur une question controversée. Parmi les thèmes abordés figuraient par exemple le port de l’uniforme à l’école ou la légalité de l’avortement.

L’objectif était de comparer la force persuasive des échanges, selon que l’adversaire était humain ou artificiel. Les chercheurs se sont également intéressés à une variable décisive : la possibilité, pour le système, de connaître certains éléments sur la personne qu’il cherchait à convaincre.

Ces informations pouvaient notamment concerner l’âge ou l’affiliation politique du participant. Elles ne donnaient pas à l’IA un pouvoir magique. Elles lui permettaient en revanche d’ajuster la forme et le contenu de son argumentation : insister sur une conséquence pratique, sur un principe moral, sur le coût d’une décision ou sur ses effets sociaux, selon le profil de l’interlocuteur.

Il importe de bien comprendre ce que teste une telle expérience. Elle observe un échange encadré, sur une durée limitée et avec une consigne de débat. Elle ne prouve donc pas qu’un modèle peut modifier durablement les convictions profondes de toute une population. Mais elle met en évidence une compétence qui devient significative dès lors qu’elle peut être répétée auprès d’un très grand nombre de personnes.

Pourquoi les données personnelles changent-elles le débat ?

Le résultat le plus frappant apparaît lorsque le modèle reçoit des informations sur son interlocuteur. Dans cette configuration, l’IA s’est montrée plus persuasive que les humains dans 64 % des cas, selon les résultats rapportés par les chercheurs.

Cet écart s’explique moins par une supposée intelligence générale que par une combinaison de propriétés propres aux modèles de langage. ChatGPT-4 peut produire rapidement plusieurs pistes argumentatives, sélectionner celles qui paraissent les plus adaptées à un profil et maintenir une structure de réponse cohérente. Il peut aussi reformuler inlassablement un même raisonnement sans fatigue, sans gêne sociale et sans perdre patience.

Un débatteur humain fait naturellement quelque chose de comparable lorsqu’il connaît son interlocuteur. Il choisit ses mots, évite certains angles, mobilise des références susceptibles de convaincre. La différence est qu’un système d’IA peut appliquer ce principe de personnalisation de manière standardisée, instantanée et potentiellement auprès de milliers, voire de millions de personnes.

L’étude décrit aussi un style argumentatif plus structuré et analytique chez l’IA. Un texte bien organisé, qui répond point par point à une objection et relie chaque affirmation à une conclusion claire, peut sembler plus solide, y compris lorsque le sujet est complexe. Pourtant, la qualité rhétorique d’une réponse ne garantit pas sa véracité. Une argumentation peut être claire, fluide et adaptée tout en reposant sur des prémisses incomplètes ou trompeuses.

Une IA est-elle persuasive même quand on sait qu’elle est artificielle ?

La présence d’une IA n’était pas totalement invisible aux yeux des participants. D’après les résultats rapportés, ils parvenaient à distinguer leur adversaire artificiel d’un humain dans environ 75 % des cas. Cette proportion suggère que certains indices de langage, de rythme ou de formulation permettaient encore de repérer le modèle.

Ce constat est important, mais il ne suffit pas à écarter le risque. Savoir que l’on parle à une machine n’immunise pas automatiquement contre ses arguments. Dans un échange, une personne peut juger un interlocuteur artificiel tout en trouvant sa réponse bien construite, rassurante ou conforme à ses propres valeurs.

La situation rappelle un mécanisme connu de la communication numérique : un message personnalisé peut paraître plus pertinent parce qu’il reprend les préoccupations, les références ou le vocabulaire de celui qui le reçoit. L’IA ne lit pas les pensées. Elle exploite les informations qui lui sont transmises ou auxquelles elle a accès, puis génère des réponses statistiquement adaptées au contexte.

Le risque démocratique d’une persuasion automatisée

C’est ici que les implications politiques deviennent sensibles. Francesco Salvi, auteur principal de l’étude, alerte sur le risque que de tels outils soient employés par des acteurs malveillants pour diffuser des informations trompeuses. Un système conversationnel capable de personnaliser ses arguments pourrait cibler des électeurs hésitants avec des messages différents selon leur âge, leurs convictions ou leurs inquiétudes.

La menace ne réside pas nécessairement dans une grande campagne visible, avec un slogan identique pour tous. Elle peut prendre la forme d’innombrables conversations individuelles, difficiles à observer de l’extérieur et à contredire publiquement. Là où une publicité politique classique peut être archivée, signalée ou analysée, une discussion privée avec un agent conversationnel laisse moins de traces accessibles aux chercheurs, aux journalistes et aux autorités.

Sander van der Linden, psychologue social à l’Université de Cambridge, appelle ainsi à examiner sérieusement les conséquences d’une manipulation de masse menée au moyen de conversations personnalisées par des modèles de langage. La préoccupation porte autant sur la désinformation explicite que sur des procédés plus subtils : sélectionner certains faits, amplifier une peur, flatter un préjugé ou présenter une opinion contestée comme un consensus.

Il serait toutefois réducteur de considérer toute tentative de persuasion comme illégitime. Les campagnes de santé publique, les actions de prévention ou l’éducation civique cherchent elles aussi à faire évoluer des comportements. La question centrale est donc celle de l’intention, de la transparence, de la qualité des informations utilisées et de la possibilité, pour le citoyen, de comprendre qu’il fait face à un système automatisé.

Des usages bénéfiques, sous conditions strictes

Les chercheurs soulignent que l’IA persuasive pourrait aussi être mise au service d’objectifs d’intérêt général. Un assistant conversationnel peut, par exemple, expliquer avec patience les bénéfices d’un comportement plus sain, répondre à des interrogations fréquentes ou aider une personne à examiner une croyance conspirationniste sans la ridiculiser.

Dans le domaine de la santé, cette faculté pourrait contribuer à mieux présenter des recommandations générales, à condition de ne pas se substituer aux professionnels et de ne pas formuler de diagnostic abusif. Dans l’éducation, elle pourrait aider à développer l’esprit critique en proposant des contre-arguments et en invitant l’élève à vérifier ses sources. Dans la vie citoyenne, elle pourrait rendre des sujets administratifs ou politiques plus compréhensibles.

Mais ces bénéfices supposent des garde-fous concrets :

• une information claire indiquant que l’interlocuteur est une IA ;
• une limitation stricte de l’exploitation des données personnelles ;
• des mécanismes permettant de signaler un contenu trompeur ou dangereux ;
• une supervision humaine dans les domaines sensibles ;
• des règles spécifiques lorsque l’outil intervient dans un contexte électoral ou politique.

En Europe, le règlement sur l’intelligence artificielle, l’AI Act, s’inscrit dans cette recherche d’encadrement. Son déploiement progressif illustre toutefois une difficulté majeure : les capacités des modèles, leurs modalités de diffusion et leurs usages sociaux évoluent souvent plus vite que les règles destinées à les contrôler.

Ce que cette étude ne permet pas d’affirmer

Le caractère impressionnant du résultat invite à la prudence. D’abord, les débats étudiés portaient sur des sujets définis et se déroulaient dans un cadre expérimental. Les discussions ordinaires sont plus désordonnées : elles mêlent relations personnelles, émotions, confiance, identité et expériences vécues. La persuasion observée pendant un échange ne correspond pas forcément à un changement d’avis durable.

Ensuite, les thèmes abordés ne provoquent pas tous la même intensité émotionnelle. Les résultats suggèrent que l’IA se montre particulièrement convaincante sur des questions qui se prêtent à une discussion rationnelle et structurée, plutôt que sur celles qui touchent de très près à l’identité ou à un vécu personnel fort.

Enfin, un modèle de langage ne vérifie pas automatiquement ce qu’il avance. Il produit du texte plausible à partir de régularités apprises dans de vastes corpus. Son aisance rédactionnelle peut donner une impression de maîtrise qui doit inciter à vérifier les affirmations importantes, surtout en matière politique, médicale, financière ou juridique.

Ce qu’il faut surveiller

Cette recherche place la société devant une évolution très concrète : l’IA ne sert plus seulement à résumer un document ou à rédiger un courriel. Elle peut participer à des interactions où l’enjeu est de faire changer quelqu’un d’avis. La performance de ChatGPT-4 dans cette expérience montre que le danger potentiel ne vient pas uniquement des faux contenus spectaculaires, comme les images truquées. Il peut aussi surgir dans la banalité d’une conversation convaincante.

Les prochaines questions seront donc pratiques. Quelles données un agent conversationnel peut-il utiliser pour adapter ses réponses ? Dans quelles situations doit-il signaler explicitement sa nature automatisée ? Comment auditer une campagne de persuasion sans violer la confidentialité des conversations ? Et comment donner aux citoyens les moyens de reconnaître une argumentation séduisante qui manque de preuves ?

La réponse ne consiste pas à renoncer aux outils conversationnels. Elle passe par une conception plus exigeante de ces systèmes : transparents sur leur fonctionnement, limités dans leur ciblage, évalués dans les contextes sensibles et conçus pour renforcer le jugement humain plutôt que l’exploiter.