Sur Reddit, une expérience avec des bots IA relance le débat éthique

À première vue, les commentaires publiés dans r/changemyview ressemblaient à ceux de n’importe quel participant de Reddit : des réponses argumentées, adressées à des personnes invitées à défendre ou à revoir leur position. Ils n’étaient pourtant pas tous écrits par des humains. À la fin d’avril 2025, une expérience menée par des chercheurs de l’université de Zurich a révélé que des bots dotés d’intelligence artificielle étaient intervenus anonymement dans ce forum de débat. La révélation a déclenché une controverse immédiate, non seulement sur la puissance de ces outils, mais aussi sur le droit de les tester à l’insu d’une communauté.

Le sujet dépasse le cas d’un réseau social. Une IA capable de produire un argument convaincant, de l’ajuster à son interlocuteur et de donner l’impression d’une présence humaine pose une question très concrète : que devient une discussion publique lorsque les participants ne savent plus qui, ou quoi, cherche à les persuader ?

Une expérience de persuasion menée dans un forum de débat

Les chercheurs de l’université de Zurich ont choisi r/changemyview, un subreddit, c’est-à-dire un forum thématique de Reddit, où les internautes publient une opinion et acceptent qu’elle soit discutée, contredite ou nuancée. Ce cadre est particulier : la raison d’être de la communauté est précisément de mettre les arguments à l’épreuve.

Dans ce contexte, des comptes automatisés ont été déployés pour intervenir dans des discussions portant sur des sujets sensibles ou polémiques. Leur objectif était d’évaluer le pouvoir de persuasion de l’intelligence artificielle. Les comptes ne se présentaient pas comme des programmes : ils étaient conçus pour se faire passer pour de véritables utilisateurs.

Au total, l’expérience a conduit à la publication de 1 783 commentaires générés par IA. Ce volume ne suffit pas, à lui seul, à dire combien de personnes auraient changé d’avis. Il donne toutefois une idée de l’ampleur de l’intervention dans un espace dont les échanges reposent normalement sur l’authenticité supposée des participants.

Le choix de r/changemyview rend l’affaire particulièrement sensible. Dans une conversation ordinaire, un lecteur peut déjà avoir du mal à déterminer la fiabilité d’une affirmation. Dans un forum conçu pour faire évoluer les opinions, l’intervention cachée de comptes automatisés touche directement aux règles implicites de la discussion : qui argumente, avec quelle intention et sur la base de quelles informations ?

Comment les bots adaptaient-ils leurs arguments ?

L’aspect le plus préoccupant de l’expérience tient à la personnalisation des réponses. Les bots ne se contentaient pas de générer des textes génériques. D’après l’activité antérieure d’un utilisateur sur Reddit, ils pouvaient ajuster leur approche à des caractéristiques démographiques ou à des préférences politiques déduites de ses interactions.

Les éléments évoqués comprennent notamment le genre, l’âge, l’origine ethnique, la localisation et l’orientation politique présumés des personnes visées. Il ne s’agit pas simplement d’utiliser une IA comme correcteur ou comme outil d’aide à la rédaction. La démarche vise à choisir le ton, les arguments ou le point de vue susceptible de résonner le plus fortement auprès d’un interlocuteur particulier.

Cette distinction est essentielle. Un même message peut convaincre différemment selon la manière dont il est formulé. Un argument qui invoque une expérience personnelle, une valeur politique ou une situation locale peut sembler plus pertinent s’il paraît correspondre au profil de son destinataire. L’IA rend possible cette adaptation à grande échelle et à grande vitesse.

Pour les utilisateurs, le problème est donc double. Ils ignoraient qu’ils échangeaient avec un bot et ne savaient pas non plus que leurs traces d’activité pouvaient servir à orienter les réponses qui leur étaient adressées. L’enjeu n’est pas seulement la qualité d’un texte généré par une machine, mais l’asymétrie d’information créée par son usage dissimulé.

Pourquoi la réaction de Reddit a-t-elle été si vive ?

La découverte de l’expérience a provoqué l’indignation de membres de la communauté et de ses modérateurs. Ceux-ci ont appris qu’ils avaient laissé interagir des comptes qui n’étaient pas des participants ordinaires, mais des entités programmées dans le cadre d’un protocole de recherche.

La colère ne porte pas uniquement sur le mot « bot ». Des outils automatisés peuvent avoir des usages utiles sur les plateformes, par exemple pour signaler des contenus, organiser des échanges ou rappeler des règles. Ici, les bots avaient une finalité différente : participer à des controverses humaines en masquant leur nature et en cherchant à peser sur les convictions d’autres personnes.

Les objections se concentrent autour de plusieurs questions fondamentales :

• Le consentement : les personnes visées n’avaient pas été informées qu’elles participaient à une expérience de persuasion.
• La transparence : les comptes donnaient l’impression d’être humains, alors que leur objectif réel était expérimental.
• La vie privée : les réponses pouvaient s’appuyer sur des traits inférés à partir de l’activité en ligne des utilisateurs.
• L’intégrité du débat : r/changemyview repose sur des échanges de bonne foi entre personnes ayant des points de vue différents.

Dans la recherche impliquant des personnes, l’intérêt scientifique d’une expérience doit être mis en balance avec les risques qu’elle fait peser sur les participants. Cette évaluation concerne particulièrement les dispositifs qui reposent sur une forme de tromperie. Une telle approche peut parfois être envisagée lorsqu’elle est indispensable au protocole, mais elle soulève alors des exigences fortes : limiter les risques, justifier la méthode et prévoir la manière dont les personnes concernées seront informées.

Or, dans une discussion en ligne, le préjudice ne se mesure pas seulement à une conséquence matérielle immédiate. Il peut prendre la forme d’une perte de confiance. Si un internaute découvre que ses échanges ont servi à tester une machine conçue pour le convaincre, il peut ensuite douter des autres interlocuteurs, y compris lorsqu’ils sont bien réels.

Ce que l’affaire révèle sur la persuasion par l’IA

L’intelligence artificielle générative n’invente pas le principe de la persuasion. Les campagnes politiques, la publicité, les relations publiques et les discussions militantes cherchent depuis longtemps à influencer les opinions. Ce qui change avec les modèles capables de générer du langage, c’est la possibilité d’automatiser une conversation apparemment individualisée.

Un bot peut répondre sans fatigue, reformuler un point de vue, adopter un ton conciliant ou insister sur un détail. Lorsqu’il dispose d’informations sur son interlocuteur, il peut tenter de rendre son discours plus adapté. Cette combinaison entre production de texte, personnalisation et anonymat est au cœur des inquiétudes suscitées par l’expérience zurichoise.

Il importe néanmoins de ne pas tirer de conclusion excessive à partir de cette affaire. Les résultats détaillés n’ont pas été publiés, puisque les chercheurs ont annoncé abandonner la publication de l’étude. Il n’est donc pas possible, à cette date, d’affirmer précisément dans quelle mesure les 1 783 commentaires ont effectivement modifié les opinions des utilisateurs.

Cette absence de résultat public est elle-même significative. Elle rappelle une précaution indispensable face aux discours sur l’influence algorithmique : un texte persuasif n’est pas nécessairement un texte qui persuade, et l’impression de naturel d’un bot n’est pas une mesure de son efficacité réelle. La controverse porte avant tout sur les méthodes employées, pas sur une démonstration chiffrée et publiée de l’efficacité des bots.

Le retrait de l’étude ne referme pas le débat

Face au tollé, les chercheurs ont décidé de ne pas publier leur étude. Cette décision répond à la contestation immédiate, mais elle ne résout pas les questions révélées par l’expérience. Au contraire, elle les rend plus urgentes : les outils permettant de produire des messages crédibles et ciblés sont désormais accessibles à de nombreux acteurs, bien au-delà du monde universitaire.

Une équipe de recherche peut avoir pour objectif de mesurer un phénomène afin d’en comprendre les risques. Mais des organisations politiques, commerciales ou malveillantes pourraient être tentées d’utiliser les mêmes mécanismes sans objectif scientifique, sans transparence et sans contrôle externe. La frontière entre une expérimentation et une opération d’influence devient alors particulièrement importante.

Pour les plateformes, l’enjeu consiste à préserver des espaces de conversation où les règles sont compréhensibles et appliquées. Cela peut passer par une meilleure identification des comptes automatisés, par des règles explicites concernant l’IA conversationnelle et par des moyens donnés aux modérateurs pour détecter les comportements coordonnés ou trompeurs. Ces mesures ne permettront pas d’identifier avec certitude chaque texte généré par une machine, mais elles peuvent limiter les usages les plus opaques.

Pour les chercheurs, le cas de Reddit rappelle qu’une méthode techniquement possible n’est pas nécessairement acceptable telle quelle. Étudier la persuasion automatisée est utile pour comprendre les risques qui pèsent sur le débat public. Le faire exige cependant de protéger les communautés observées et de ne pas transformer leurs membres en sujets d’expérience à leur insu sans garanties solides.

Ce qu’il faut surveiller

L’affaire de l’université de Zurich place au premier plan une question qui va devenir centrale dans les espaces numériques : comment maintenir la valeur d’un échange lorsque l’identité de l’interlocuteur peut être fabriquée ? La réponse ne pourra pas reposer sur un seul outil de détection, car les systèmes d’IA progressent et les échanges humains sont eux-mêmes variés, ambigus et parfois anonymes.

Il faudra suivre plusieurs évolutions. D’abord, les règles que les plateformes mettront en place pour encadrer les bots participant à des discussions. Ensuite, les pratiques des laboratoires et des comités d’éthique face aux expérimentations utilisant l’IA générative auprès de communautés en ligne. Enfin, la capacité des internautes à réclamer une information claire lorsqu’un agent automatisé intervient dans une conversation.

La leçon la plus immédiate est simple : sur internet, l’argument le mieux formulé n’est pas toujours celui d’une personne qui cherche honnêtement à discuter. Dans un espace conçu pour changer d’avis, savoir qui tente de vous convaincre est déjà une information essentielle.