Les chatbots ont-ils une boussole morale ? Ce que révèle l’étude menée sur Reddit

Quand une personne demande à un chatbot si elle a eu tort dans une dispute familiale, un conflit professionnel ou une rupture, elle n’attend pas seulement une information. Elle sollicite un jugement. Or, derrière une réponse formulée avec empathie et assurance se trouvent des choix statistiques, des données d’entraînement et des règles de conception qui peuvent conduire deux assistants à des conclusions très différentes.

C’est ce que met en évidence une recherche menée par Pratik Sachdeva et Tom van Nuenen, associés au D-Lab de l’Université de Californie à Berkeley. En s’appuyant sur des milliers de récits publiés sur Reddit, les chercheurs ont étudié la façon dont plusieurs grands modèles de langage tranchent des dilemmes sociaux. Leur constat est simple, mais important : les chatbots ne jugent pas tous selon les mêmes priorités.

Parler d’« éthique des chatbots » peut toutefois prêter à confusion. Un modèle de langage n’a ni conscience, ni intentions, ni sens moral au sens humain. L’étude observe plutôt des régularités dans ses verdicts : les valeurs qu’il semble privilégier lorsqu’il doit attribuer une responsabilité, condamner un comportement ou prendre en compte les émotions d’une personne.

Plus de 10 000 dilemmes pour observer les jugements des IA

Pour faire apparaître ces différences, les chercheurs ont utilisé le forum Reddit « Am I the Asshole? », couramment appelé AITA. Les internautes y racontent des conflits de la vie courante et demandent à la communauté de déterminer s’ils ont eu un comportement répréhensible. Ces récits couvrent des situations variées, souvent ambiguës : disputes entre proches, désaccords de voisinage, problèmes au travail, questions d’argent ou de loyauté.

Pratik Sachdeva et Tom van Nuenen ont soumis plus de 10 000 conflits sociaux à sept modèles de langage. Les systèmes devaient évaluer la responsabilité morale des personnes impliquées. Les réponses obtenues ont ensuite été comparées, d’une part entre les modèles, d’autre part avec les jugements exprimés par les utilisateurs de Reddit.

Le choix de Reddit n’est pas anodin. Contrairement à des scénarios philosophiques très théoriques, les publications d’AITA présentent des problèmes tels qu’ils sont racontés par les personnes qui les vivent, ou du moins qui les rapportent. Elles sont souvent incomplètes, subjectives et chargées d’émotions, à l’image de nombreuses demandes que les utilisateurs adressent aujourd’hui aux assistants conversationnels.

Les modèles ne placent pas les mêmes valeurs au premier plan

Le résultat le plus frappant de l’étude est l’existence de différences significatives entre les réponses des modèles. Face à un même dilemme, les sept systèmes ne parviennent pas nécessairement à la même conclusion et n’accordent pas le même poids aux mêmes éléments du récit.

Les chercheurs relèvent notamment que ChatGPT-4 et Claude se montrent davantage sensibles aux émotions que d’autres modèles. Dans leurs arbitrages, ils tendent aussi à accorder une place importante à la justice et aux préjudices causés, au détriment de l’honnêteté. Autrement dit, dans une situation où dire la vérité entre en tension avec la protection d’une personne ou la réparation d’un tort, leur jugement peut refléter cette hiérarchie particulière.

Il ne faut pas en déduire qu’un modèle est « juste » ou « empathique » comme le serait une personne. Ces mots décrivent ici le résultat observable de ses réponses. Un chatbot produit du texte en calculant les suites de mots les plus appropriées au regard de son entraînement et de ses instructions. Son verdict peut être influencé par de nombreux paramètres : les données auxquelles il a été exposé, les règles ajoutées lors de son développement, les techniques d’alignement, la formulation de la question ou encore la manière dont le récit lui est présenté.

Les résultats ne révèlent donc pas une morale secrète logée dans une machine. Ils montrent plutôt que les choix de conception d’un système peuvent se traduire, à l’usage, par une orientation de jugement reconnaissable. Pour un utilisateur, cette nuance compte : deux outils qui semblent tous deux mesurés et bienveillants peuvent recommander des attitudes différentes dans une même situation.

Une cohérence qui ne vaut pas vérité morale

L’étude relève également une forme de cohérence interne. Lorsqu’un même dilemme est soumis plusieurs fois à un modèle, celui-ci a tendance à répéter ses positions antérieures. Cette stabilité est utile pour la recherche, car elle suggère que les réponses ne sont pas entièrement aléatoires.

Mais une réponse cohérente n’est pas nécessairement une réponse juste. Un assistant peut maintenir un jugement discutable avec une grande constance, de la même manière qu’un être humain peut défendre une conviction erronée ou biaisée. La cohérence indique que le modèle suit une logique de réponse relativement stable, pas qu’il comprend toutes les conséquences humaines de son verdict.

Cette distinction est centrale face à la fluidité des chatbots. Un texte bien écrit, nuancé et rassurant peut donner l’impression d’une réflexion profonde. Pourtant, le système ne connaît ni les personnes concernées, ni les éléments absents du récit, ni l’histoire relationnelle qui éclaire réellement un conflit. Il ne supporte pas non plus les conséquences de la décision qu’il propose.

Reddit comme étalon moral, une comparaison utile mais limitée

Malgré leurs différences, les modèles étudiés présentent une tendance notable : leurs jugements collectifs concordent souvent avec ceux des utilisateurs de Reddit. Cela signifie qu’à l’échelle de milliers de réponses, les verdicts produits par les IA rejoignent fréquemment le sens général des réactions de la communauté AITA.

Cette proximité peut s’expliquer par la place qu’occupent les échanges en ligne dans les données textuelles qui ont nourri les modèles de langage. Elle peut aussi refléter la capacité des assistants à repérer des normes sociales largement exprimées dans les récits : ne pas nuire inutilement, respecter un engagement, éviter l’humiliation, reconnaître un comportement abusif ou tenir compte d’un déséquilibre de pouvoir.

Pour autant, l’avis majoritaire sur Reddit ne représente pas une norme universelle. La plateforme rassemble une population particulière, dans un contexte culturel précis, avec des usages et une langue qui lui sont propres. Un récit est par ailleurs rarement neutre : la personne qui le raconte sélectionne les détails, décrit les protagonistes et peut omettre des informations importantes.

La concordance entre l’IA et Reddit doit donc être lue comme un résultat de comparaison, non comme un certificat de fiabilité morale. Elle montre que les modèles savent reproduire ou rejoindre des jugements sociaux dominants dans ce corpus. Elle ne prouve ni que ces jugements sont toujours équitables, ni qu’ils conviennent à toutes les cultures, à tous les contextes familiaux ou à toutes les personnes concernées.

Pourquoi ces verdicts peuvent influencer les utilisateurs

De plus en plus de personnes se tournent vers des assistants comme ChatGPT pour demander un conseil, mettre des mots sur une émotion ou trouver une première écoute. Leur disponibilité permanente et leur capacité à formuler des réponses posées peuvent créer un sentiment de soutien réel. Pour quelqu’un qui hésite à parler de son problème à son entourage, le chatbot apparaît parfois comme un interlocuteur immédiat, discret et sans jugement apparent.

C’est aussi ce qui rend les écarts observés par l’étude socialement importants. Lorsqu’un outil répond avec assurance à une question intime, l’utilisateur peut lui attribuer une autorité qu’il ne possède pas. Une formulation empathique peut renforcer cette impression, y compris lorsque la réponse s’appuie sur une lecture partielle, biaisée ou mal adaptée de la situation.

Les risques sont accentués si les normes mobilisées par le système s’éloignent des références sociales, culturelles ou personnelles de l’utilisateur. Les données qui ont servi à entraîner un modèle ne reflètent pas automatiquement la diversité des expériences humaines. Elles peuvent contenir des biais, reproduire des stéréotypes ou donner davantage de visibilité à certaines façons de raconter les conflits qu’à d’autres.

Dans les cas les plus sensibles, un chatbot ne devrait donc pas être utilisé comme arbitre final. Cela concerne notamment les situations de détresse psychologique, de violence, de harcèlement, de conflit juridique, de santé ou de danger immédiat. L’outil peut éventuellement aider à structurer des questions, mais la décision et la protection des personnes exigent une intervention humaine compétente.

Des chatbots qui résistent aussi à la critique d’autres IA

Les chercheurs poursuivent leurs travaux en observant comment les modèles interagissent entre eux lorsqu’ils évaluent des dilemmes moraux. Une question les intéresse particulièrement : un chatbot modifie-t-il son jugement lorsqu’un autre modèle lui présente une critique argumentée ?

Leurs observations indiquent que certaines versions de GPT résistent à la modification de leur position, y compris lorsqu’elles sont confrontées aux objections d’autres modèles. Ce résultat ne signifie pas qu’elles font preuve de conviction morale. Il renseigne plutôt sur leur comportement conversationnel : une IA peut persister dans une réponse initiale au lieu de réexaminer véritablement les arguments qui lui sont soumis.

Cette piste de recherche est importante pour les systèmes appelés à assister des décisions complexes. Si plusieurs IA doivent dialoguer pour vérifier une réponse, il ne suffit pas qu’elles échangent des textes plausibles. Il faut aussi comprendre si elles sont capables d’identifier un désaccord, de justifier leur raisonnement, de reconnaître une faiblesse et de corriger une erreur.

Ce qu’il faut surveiller dans la conception des assistants

L’étude du D-Lab de Berkeley rappelle que l’éthique de l’IA ne se limite pas à empêcher les réponses manifestement dangereuses. Elle concerne aussi les nuances d’un conseil quotidien : qui le système considère comme responsable, quel tort il juge prioritaire, ce qu’il valorise lorsqu’il faut choisir entre franchise, loyauté, équité et protection d’autrui.

La transparence demandée par les chercheurs est donc décisive. Les utilisateurs devraient pouvoir comprendre, autant que possible, les limites d’un assistant, les règles qui encadrent ses réponses et le fait que ses conseils ne sont pas neutres par nature. Les concepteurs, de leur côté, doivent évaluer les écarts de jugement entre modèles au lieu de traiter l’alignement éthique comme une simple fonctionnalité invisible.

Pour le grand public, le réflexe le plus utile reste de considérer le chatbot comme un outil de réflexion, et non comme une autorité morale. Lui demander plusieurs points de vue, vérifier les faits, parler aux personnes concernées et solliciter une aide humaine lorsque l’enjeu est important sont des précautions simples. La qualité d’un jugement ne dépend pas seulement de la réponse la plus convaincante, mais de la capacité à en discuter les présupposés, les limites et les conséquences.