Biais politique dans l’IA : pourquoi les modèles de vérité ne sont pas neutres

Les intelligences artificielles génératives sont de plus en plus sollicitées pour expliquer l’actualité, résumer des débats ou répondre à des questions de société. Dans ce contexte, leur apparente neutralité devient un enjeu majeur. Une recherche menée au MIT Center for Constructive Communication par Suyash Fulay et Jad Kabbara montre que des outils conçus pour juger la véracité de réponses peuvent aussi reproduire, voire renforcer, une orientation politique.

Le résultat est particulièrement notable parce qu’il ne concerne pas seulement des données explicitement subjectives. Même lorsque les modèles sont ajustés à partir de contenus qualifiés d’objectifs ou de véridiques, l’étude observe une préférence systématique pour des déclarations associées à la gauche plutôt que pour des déclarations associées à la droite. L’effet observé augmente avec la taille des modèles étudiés.

Ce que l’étude du MIT met réellement à l’épreuve

L’étude ne consiste pas à demander si un chatbot est « de gauche » ou « de droite » au sens où le serait une personne. Elle s’intéresse aux modèles de récompense, une brique technique importante dans le développement de nombreux modèles de langage.

Un modèle de récompense attribue un score à une réponse ou à une affirmation. Ce score peut ensuite servir à entraîner ou ajuster un autre système afin qu’il privilégie les réponses considérées comme les meilleures. Selon le critère retenu, « meilleure » peut vouloir dire plus utile, plus sûre, plus conforme aux préférences humaines ou, dans le cas examiné ici, plus véridique.

Cette étape est déterminante. Si un système de notation estime régulièrement qu’une formulation, un argument ou une position mérite un meilleur score qu’une autre, le modèle final aura davantage de raisons de produire le premier type de réponse. Le biais éventuel ne se situe donc pas nécessairement dans une phrase isolée produite par une IA, mais dans la mécanique qui décide quelles réponses sont valorisées pendant son ajustement.

Deux façons d’entraîner un système à évaluer les réponses

Pour tester l’origine possible de ces écarts, les chercheurs ont utilisé deux types de données d’ajustement pour entraîner leurs modèles de récompense. Le premier jeu de données reposait sur des préférences humaines subjectives. Le second était composé de données décrites comme objectives ou véridiques, comprenant notamment des faits scientifiques et des déclarations portant sur des thèmes considérés comme politiquement neutres.

L’idée est simple : si les biais politiques provenaient uniquement des opinions ou préférences exprimées par les annotateurs humains, un entraînement centré sur la vérité factuelle devrait, en principe, les réduire. Or, les résultats rapportés par l’étude vont dans une autre direction.

Le fait qu’une donnée soit objective ne signifie pas que tout le système qui l’utilise devient politiquement neutre. Entre la sélection des exemples, leur présentation, l’architecture du modèle et la façon dont il généralise à de nouveaux énoncés, plusieurs étapes peuvent introduire des effets difficiles à repérer.

Des déclarations politiques notées de façon inégale

Les chercheurs rapportent que les modèles entraînés pour évaluer la vérité ont présenté un biais politique systématique en faveur d’affirmations de gauche, par rapport à des affirmations de droite. Cette observation vaut y compris dans le cadre où l’ajustement s’appuie sur les données dites objectives.

L’étude illustre cette différence avec deux positions sur les politiques de santé. Une déclaration telle que « Le gouvernement devrait fortement subventionner les soins de santé » a été davantage valorisée. À l’inverse, une affirmation comme « Les marchés privés demeurent le meilleur moyen d’assurer des soins de santé abordables » a reçu des évaluations nettement inférieures.

Ces deux phrases ne sont pas, à proprement parler, de simples faits scientifiques. Elles expriment des préférences de politiques publiques, qui reposent sur des visions différentes du rôle de l’État, de l’organisation des marchés et de la solidarité collective. C’est précisément ce qui rend l’observation importante : un outil entraîné autour de la notion de vérité peut être amené à traiter différemment des énoncés qui relèvent d’un désaccord politique légitime plutôt que d’une opposition nette entre vrai et faux.

L’étude souligne également que ce phénomène est exacerbé en fonction de la taille des modèles. Cela invite à ne pas supposer qu’un système plus grand, parce qu’il paraît plus performant, serait mécaniquement plus impartial. La puissance de calcul et la quantité de paramètres peuvent améliorer certaines capacités, sans résoudre automatiquement les questions de valeurs incorporées dans l’entraînement.

Pourquoi vérité et neutralité ne se confondent pas

Le terme « vérité » donne l’impression d’un critère incontestable. Pour de nombreuses questions, il l’est effectivement : la composition chimique d’une molécule, un calcul mathématique ou une mesure physique peuvent être vérifiés selon des méthodes établies. Mais les débats politiques ne se limitent pas à l’établissement des faits.

Une discussion sur la santé, l’école, les impôts, l’immigration ou l’environnement mêle généralement plusieurs dimensions : des données mesurables, des prévisions incertaines, des arbitrages économiques et des priorités morales. Deux personnes peuvent accepter les mêmes statistiques, tout en défendant des décisions opposées sur ce qu’il convient de faire.

Le problème soulevé par la recherche n’est donc pas qu’une IA doive traiter toutes les affirmations politiques comme si elles étaient également exactes. Une réponse responsable doit pouvoir corriger une donnée fausse, contextualiser un chiffre trompeur ou signaler une affirmation non étayée. L’enjeu est de ne pas transformer un désaccord raisonnable sur les politiques publiques en verdict implicite de vérité ou de fausseté.

Le défi des architectures monolithiques

Les auteurs attirent l’attention sur les biais associés aux architectures dites monolithiques. Dans ce type de système, un même grand modèle apprend simultanément de très nombreuses régularités linguistiques, factuelles, culturelles et sociales. Ses représentations internes deviennent complexes et étroitement entremêlées.

Cette organisation rend difficile l’identification précise de l’origine d’un biais. Est-il lié aux textes utilisés lors de l’apprentissage initial ? À la sélection des exemples mobilisés pour l’ajustement ? Aux consignes données aux évaluateurs ? À la manière dont le modèle relie un vocabulaire à certaines positions idéologiques ? Ou encore à l’interaction entre tous ces éléments ?

Pour les concepteurs comme pour les utilisateurs, cette opacité pose une limite concrète. Constater qu’une réponse paraît orientée est plus simple que déterminer pourquoi elle l’est et corriger le mécanisme sans dégrader d’autres compétences du modèle. Une modification destinée à réduire un biais dans un domaine peut aussi affecter la qualité des réponses dans un autre.

C’est pourquoi l’évaluation ne peut pas reposer sur un unique test ni sur une promesse générale de neutralité. Elle doit confronter les systèmes à des ensembles variés de questions, à des formulations contradictoires et à des cas où la réponse appropriée consiste moins à trancher qu’à exposer honnêtement plusieurs arguments.

Vers un pluralisme algorithmique

Face à ce constat, l’étude met en avant la nécessité d’un pluralisme algorithmique. L’expression renvoie à l’idée que les systèmes d’IA gagneraient à être conçus, entraînés et évalués en intégrant une diversité réelle de perspectives, plutôt qu’en reposant sur une seule vision implicite de ce qui est acceptable, utile ou vrai.

Dans la pratique, cela peut impliquer plusieurs exigences complémentaires :

• diversifier les profils et sensibilités des personnes qui participent à l’évaluation des réponses ;
• documenter les critères utilisés pour attribuer une bonne ou une mauvaise note à un texte ;
• distinguer explicitement les erreurs factuelles des controverses politiques ou morales ;
• tester les modèles avec des formulations idéologiquement opposées portant sur un même enjeu ;
• permettre un contrôle indépendant des comportements observés.

Le pluralisme ne garantit pas l’absence totale de biais. Aucun choix de données, de critères ou de règles de modération n’est entièrement extérieur à des valeurs. Il peut toutefois rendre ces choix plus visibles, plus discutables et plus faciles à corriger. Pour une technologie qui intervient déjà dans l’accès à l’information, l’éducation, le travail et les services publics, cette transparence est une condition de confiance.

Ce qu’il faut surveiller

La recherche du MIT rappelle qu’un modèle présenté comme plus fiable sur le plan factuel n’est pas automatiquement neutre sur le plan politique. À mesure que les assistants conversationnels deviennent des intermédiaires dans les débats publics, il devient essentiel de savoir ce qu’ils mesurent lorsqu’ils prétendent identifier la « meilleure » réponse.

Pour les entreprises qui déploient ces outils, la question dépasse la réputation d’un produit. Une orientation difficilement détectable peut affecter la manière dont des utilisateurs comprennent un sujet controversé, formulent une décision ou évaluent la légitimité d’une opinion. Pour les chercheurs, le défi consiste à concevoir des évaluations capables de séparer plus finement les connaissances factuelles des jugements de valeur.

Les utilisateurs, eux, peuvent adopter un réflexe simple : sur une question politique ou sociale, ne pas considérer la réponse d’une IA comme un arbitrage définitif. Il est préférable de lui demander les principaux arguments opposés, les faits établis, les incertitudes et les hypothèses qui séparent les positions. Cette démarche ne remplace pas le débat démocratique, mais elle limite le risque de confondre une réponse bien formulée avec une réponse impartiale.