ChatGPT reproduit des biais humains dans près d’un test de décision sur deux

ChatGPT donne souvent l’impression de répondre avec calme, cohérence et distance. Cette apparente neutralité peut pourtant être trompeuse. Selon une étude évoquée le 2 avril 2025, le modèle conversationnel reproduit des biais de décision proches de ceux des humains dans près de 50 % des occurrences examinées. Autrement dit, confier une question à une IA ne suffit pas à effacer les raccourcis de jugement qui influencent nos propres choix.

Le résultat est important parce que les assistants conversationnels sont désormais sollicités bien au-delà de la rédaction d’un courriel ou de la recherche d’idées. Ils peuvent être utilisés pour préparer une sélection de candidatures, résumer un dossier, suggérer une orientation ou éclairer un arbitrage. Dans ces contextes, une réponse plausible ne doit jamais être confondue avec une décision objectivement juste.

Ce que mesure l’étude sur les biais de ChatGPT

L’étude soumet ChatGPT à des tests comportementaux de prise de décision. Son constat central est que, dans près d’un cas sur deux, les choix ou recommandations du système présentent des partialités comparables à des biais observés chez les personnes humaines.

Il faut donner à ce chiffre son sens précis. Il ne signifie pas que la moitié de toutes les réponses de ChatGPT seraient nécessairement fausses, discriminatoires ou inutiles. Il indique que, dans les scénarios conçus pour observer des biais de jugement, le modèle n’y échappe pas systématiquement. Il peut produire une préférence influencée par la présentation d’un problème, par son contexte ou par des associations apprises dans les données sur lesquelles il a été entraîné.

L’analyse souligne en particulier l’importance des contextes culturels et sociaux. La manière de poser une question, les informations choisies pour décrire une personne ou la valeur implicitement attribuée à un parcours peuvent modifier la réponse générée. C’est un point essentiel : deux demandes très proches, mais formulées différemment, ne conduisent pas toujours à une appréciation équivalente.

Pourquoi une IA peut-elle reproduire des biais humains ?

ChatGPT est un modèle de langage. Il prédit, mot après mot, la suite la plus appropriée à une demande en s’appuyant sur d’immenses quantités de textes et sur les ajustements réalisés lors de son entraînement. Il ne raisonne pas au sens humain du terme, ne possède ni expérience personnelle ni intention propre. Mais les textes humains dont il apprend les régularités contiennent aussi nos stéréotypes, nos représentations sociales et nos manières imparfaites de décider.

Les biais peuvent ainsi surgir à plusieurs étapes. Les données disponibles sur le web, dans les livres ou dans d’autres corpus ne représentent pas toutes les populations et tous les points de vue de la même manière. Certaines professions peuvent y être plus souvent associées à un genre, certains parcours scolaires davantage valorisés, certains groupes décrits par des clichés. Même quand les concepteurs cherchent à réduire ces effets, un modèle peut retrouver de telles associations dans ses réponses.

La demande de l’utilisateur joue également un rôle. Un assistant conversationnel répond à des instructions et à un contexte. Si une question est orientée, incomplète ou fondée sur une catégorie réductrice, il peut reprendre cette orientation au lieu de la remettre en cause. Sa fluidité linguistique donne alors à une suggestion fragile une autorité qu’elle ne mérite pas.

Enfin, un biais peut venir de l’usage lui-même. Une personne qui consulte ChatGPT pour confirmer une intuition peut retenir plus volontiers la réponse qui va dans son sens. Ce mécanisme, souvent appelé biais de confirmation chez les humains, ne se situe pas seulement dans l’outil : il naît aussi de l’interaction entre la question, la réponse et la façon dont elle est interprétée.

Des biais qui peuvent toucher les décisions professionnelles

L’étude alerte notamment sur les situations où une IA contribue à apprécier des compétences, des candidatures ou des performances. Ces usages exigent une vigilance particulière, car ils portent sur des personnes réelles et peuvent avoir des conséquences concrètes sur l’accès à un emploi, à une formation ou à une évolution professionnelle.

Dans les scénarios liés au monde du travail, des stéréotypes de genre, d’origine ou de statut social peuvent influencer l’évaluation d’un profil. Le problème ne tient pas seulement à une éventuelle formulation explicitement discriminatoire. Il peut aussi apparaître dans la manière dont le système valorise implicitement certains parcours, certaines manières de se présenter ou des références issues de contextes considérés comme plus légitimes.

Une telle influence peut être difficile à détecter. ChatGPT ne fournit pas nécessairement le détail des associations statistiques qui ont conduit à une réponse. Une recommandation rédigée avec assurance peut donc masquer une logique contestable, ou simplement un manque de données permettant de juger une situation particulière.

Pour cette raison, utiliser un modèle de langage comme filtre automatique de candidatures ou comme évaluateur final est risqué. L’outil peut aider à classer des informations, à rédiger une grille d’entretien ou à repérer des incohérences, à condition que les critères soient définis à l’avance et contrôlés. En revanche, il ne devrait pas trancher seul sur la valeur d’une personne.

Le risque de renforcer nos propres stéréotypes

Le danger ne réside pas uniquement dans une décision automatisée. Il concerne aussi la perception de l’utilisateur. Une réponse générée par ChatGPT peut sembler impartiale précisément parce qu’elle émane d’un système informatique. Or, si elle reprend des associations sociales déjà présentes dans les données, elle peut conforter des préjugés que l’utilisateur n’aurait pas formulés seul.

Cela vaut particulièrement pour les étudiants, les équipes de ressources humaines, les managers et tous les professionnels qui utilisent l’IA pour comparer des personnes, des parcours ou des compétences. Une suggestion algorithmique ne constitue pas une preuve. Elle est une production textuelle qui doit être confrontée à des faits, à des critères explicites et au contexte réel.

Quelques réflexes peuvent limiter ce risque :

• reformuler une même question de plusieurs façons pour observer si la recommandation change ;
• demander au modèle de séparer les faits disponibles, ses hypothèses et les informations manquantes ;
• retirer les caractéristiques sans rapport avec la compétence recherchée, lorsqu’elles ne sont pas nécessaires ;
• faire relire les résultats par une personne responsable de la décision ;
• conserver une trace des critères mobilisés lorsque l’enjeu est important.

Ces précautions ne transforment pas ChatGPT en arbitre neutre. Elles réduisent toutefois l’effet d’autorité que peut produire une réponse rédigée de façon convaincante.

Peut-on corriger les biais d’un modèle de langage ?

Réduire les biais est possible, mais il n’existe pas de bouton permettant de les éliminer définitivement. Les concepteurs peuvent diversifier les données d’entraînement, filtrer certains contenus, ajuster le comportement du modèle et soumettre ses réponses à des évaluations ciblées. Ils peuvent également mettre en place des garde-fous afin que l’outil refuse ou recadre des demandes manifestement discriminatoires.

La difficulté est qu’une correction peut en déplacer une autre. Un modèle trop prompt à éviter un stéréotype peut devenir vague ou refuser de traiter des questions pourtant légitimes. À l’inverse, un modèle conçu pour répondre librement peut reproduire plus facilement des formulations problématiques. L’enjeu consiste donc à mesurer les effets réels de ces choix, sur des situations variées et avec des personnes concernées par leurs conséquences.

La publication d’origine insiste à juste titre sur la nécessité d’une collaboration interdisciplinaire. Les ingénieurs connaissent les mécanismes du système, mais l’évaluation de l’équité ne peut relever de la seule technique. Des spécialistes de l’éthique, de la sociologie, du droit et des domaines d’application doivent participer à la définition des tests et des seuils acceptables.

Cela implique aussi de ne pas parler des biais comme s’il s’agissait d’un défaut isolé du logiciel. Les inégalités sociales sont complexes, et une IA peut les reproduire sans les avoir créées. L’objectif n’est pas de prétendre rendre la machine parfaitement objective, mais de rendre ses limites visibles, mesurables et contestables.

Ce qu’il faut surveiller avant de déléguer une décision à l’IA

Le résultat rapporté en avril 2025 rappelle une règle simple : plus une recommandation a d’effets sur une personne, plus le contrôle humain doit être solide. Une IA peut assister une décision, mais ne doit pas devenir un alibi technique qui dispenserait une organisation d’examiner ses propres critères.

Trois questions devraient guider les utilisateurs. Premièrement, l’outil traite-t-il une tâche à faible enjeu, comme reformuler un texte, ou une décision susceptible d’exclure, de pénaliser ou de classer des individus ? Deuxièmement, les critères de la décision sont-ils explicites, pertinents et vérifiables ? Enfin, une personne peut-elle contester le résultat, demander une explication et obtenir un nouvel examen ?

La vigilance doit aussi s’inscrire dans la durée. Les modèles évoluent, leurs réglages changent et les pratiques d’usage se transforment. Un test ponctuel ne garantit pas qu’un système restera équitable dans tous les contextes. Auditer régulièrement les résultats, écouter les personnes affectées et corriger les procédures sont des conditions indispensables à un usage responsable.

ChatGPT peut être un outil utile pour explorer une question ou accélérer certaines tâches. Mais l’étude montre qu’il ne faut pas lui attribuer une rationalité supérieure par défaut. Face à ses réponses, le meilleur réflexe reste d’exercer ce que la machine ne peut pas garantir seule : un jugement critique, informé et responsable.