Les biais de l’IA peuvent renforcer les préjugés de leurs utilisateurs

L’intelligence artificielle est souvent présentée comme un outil capable d’objectiver des décisions : classer des candidatures, recommander des contenus, produire une image ou assister un diagnostic. Mais un système entraîné à partir de données humaines ne se place pas hors de la société qui l’a produit. Il peut apprendre ses régularités, y compris les stéréotypes et les inégalités qui traversent les données. Plus préoccupant encore, une recherche menée par des scientifiques de l’University College London, l’UCL, suggère que ces biais peuvent ensuite influencer les personnes qui consultent l’IA.

Publiée dans Nature Human Behaviour, l’étude s’intéresse à une dynamique précise : la boucle de rétroaction entre les préjugés humains et les jugements d’un système automatisé. Les chercheurs ont mené plusieurs expériences auprès de plus de 1 200 participants. Leur résultat central n’est pas seulement qu’une IA peut refléter un biais déjà présent dans ses données. Il est que l’exposition répétée à un jugement biaisé peut modifier les appréciations des utilisateurs, et renforcer ainsi le biais initial.

Pourquoi une IA peut-elle avoir des biais ?

Un système d’IA apprend à partir d’exemples. Dans le cas d’un modèle chargé de classer des images, de recommander des profils ou de produire du texte, il repère des corrélations dans les données qui lui sont fournies. Or ces données peuvent contenir des représentations inégales de certains groupes, des choix éditoriaux humains, des erreurs de mesure ou des stéréotypes anciens.

Cela ne signifie pas qu’un algorithme possède une intention discriminatoire. Il ne formule pas de préjugé au sens humain du terme. En revanche, il peut reproduire une association statistique problématique : par exemple, lier davantage certains visages à une émotion, ou représenter plus souvent un groupe social dans une profession donnée. Lorsqu’une telle association est utilisée dans une décision ou présentée à un utilisateur, ses effets peuvent devenir très concrets.

Dans l’étude de l’UCL, les chercheurs partent d’un mécanisme simple. Des données initialement biaisées servent à entraîner ou à guider l’IA. L’outil produit ensuite des jugements qui portent la trace de ce biais. Les humains exposés à ces jugements peuvent les intégrer dans leurs propres évaluations. Ces nouvelles évaluations risquent alors, si elles sont collectées et réutilisées, de devenir à leur tour des données biaisées.

Ce que les expériences ont observé chez les participants

L’une des expériences portait sur l’évaluation de visages à partir d’une échelle de satisfaction. Un algorithme manifestait une tendance à juger les visages comme étant tristes. Après avoir été exposé à ces appréciations biaisées, un groupe de participants a montré une propension encore plus forte à considérer les visages comme tristes.

L’intérêt de ce protocole est de distinguer deux phénomènes que l’on confond souvent. Le premier est le biais de l’outil : l’algorithme juge certains visages plus tristes qu’il ne le devrait. Le second concerne l’effet social de cette sortie : des personnes qui la voient peuvent ajuster leur propre jugement dans la même direction. L’IA n’est donc plus seulement un miroir passif des données. Elle devient un élément qui contribue à façonner les perceptions.

Selon le professeur Tali Sharot, co-auteur de l’étude, lorsqu’un système est formé à partir de données biaisées, il apprend ces biais et peut les amplifier dans ses prédictions. La recherche décrit ainsi un renforcement mutuel : les biais humains nourrissent les systèmes, puis les systèmes influencent à leur tour les jugements humains.

Les résultats évoqués concernent aussi la manière dont les participants évaluent l’aptitude à des postes à haute responsabilité. Les utilisateurs d’une IA biaisée avaient tendance à évaluer moins favorablement les femmes et à favoriser davantage les hommes blancs dans ce type de fonctions. Le point essentiel est que l’effet ne relève pas uniquement de la performance mathématique d’un modèle. Il porte sur la perception sociale que ses réponses peuvent installer ou conforter.

Pourquoi fait-on confiance à une recommandation automatisée ?

Une réponse produite par une machine peut donner une impression de neutralité, surtout lorsqu’elle est chiffrée, classée ou affichée dans une interface apparemment factuelle. Pourtant, une prédiction n’est jamais séparée des choix ayant présidé à la conception de l’outil : données retenues, critères de succès, catégories utilisées et contexte de déploiement.

L’étude a également examiné l’importance de l’identité attribuée à la source du jugement. Les biais se sont révélés plus marqués lorsque les participants pensaient interagir avec une personne plutôt qu’avec un système d’IA. Ce résultat rappelle qu’un même message n’est pas reçu de la même façon selon que l’on croit qu’il émane d’un humain, d’un expert ou d’un algorithme.

Cela ne réduit pas le rôle de l’IA dans la boucle de rétroaction. Au contraire, cela montre que son influence dépend du cadre de l’interaction. Un outil peut être perçu comme une simple aide à la décision, comme une autorité technique ou comme le prolongement du jugement d’un autre individu. La transparence sur le fonctionnement du système et sur les limites de ses résultats devient alors déterminante.

Les images génératives peuvent aussi installer des stéréotypes

La recherche ne se limite pas à des évaluations de visages. Elle examine aussi l’influence de l’IA générative, notamment du système Stable Diffusion. Les images générées pour représenter des candidats du secteur financier faisaient apparaître une prédominance de profils correspondant à des stéréotypes.

Après avoir été exposés à ces images, les participants étaient davantage enclins à identifier des hommes blancs comme candidats à des postes de gestion. Cette observation est importante à l’heure où les générateurs d’images sont utilisés dans des présentations, des supports de formation, des maquettes publicitaires ou des contenus destinés aux réseaux sociaux. Une image n’a pas besoin d’être explicitement hostile pour influencer une représentation mentale : la répétition d’un même profil dans un même rôle peut suffire à rendre cette association plus familière.

Les systèmes génératifs reposent sur de très grandes collections de contenus. Ils peuvent donc restituer les conventions visuelles et les inégalités de représentation présentes dans ces corpus. Demander une image de dirigeant, de médecin, d’ingénieur ou de personne travaillant dans la finance ne garantit pas une réponse équilibrée. Les formulations employées, les réglages de l’outil et les données qui ont contribué à l’entraînement peuvent tous peser sur le résultat.

Une IA précise peut-elle améliorer les jugements ?

La leçon de l’étude n’est pas que toute interaction avec une IA détériore nécessairement le jugement humain. Les chercheurs ont aussi constaté qu’une interaction avec des IA précises pouvait améliorer les évaluations des participants. C’est un résultat essentiel : le problème n’est pas l’automatisation en elle-même, mais la qualité des prédictions et les conditions dans lesquelles elles sont intégrées à une décision.

Cette distinction oblige à dépasser deux réactions opposées, mais insuffisantes. La première serait de considérer qu’un système algorithmique est neutre par définition parce qu’il applique des calculs. La seconde serait de penser qu’un outil biaisé est forcément inutilisable, sans examiner la possibilité de le corriger, d’en limiter le périmètre ou d’organiser un contrôle rigoureux.

Pour les concepteurs, le travail commence avant l’entraînement du modèle. Il implique de documenter la provenance des données, de repérer les groupes sous-représentés, de tester les résultats dans des situations variées et de mesurer les écarts avant la mise en service. Il doit ensuite se poursuivre : les usages réels peuvent faire émerger des effets qui n’étaient pas visibles lors des tests initiaux.

Pour les organisations qui déploient l’IA, une prudence particulière s’impose dans les domaines où les résultats influencent l’accès à un emploi, à un crédit, à un logement, à des soins ou à une responsabilité professionnelle. Plus une décision a de conséquences pour une personne, moins il est raisonnable de s’en remettre à une sortie algorithmique sans possibilité de compréhension, de contestation et de révision.

Ce qu’il faut surveiller

L’étude de l’UCL met en évidence un risque souvent sous-estimé : la performance d’une IA ne doit pas être évaluée uniquement à partir de la précision de ses réponses à un instant donné. Il faut également se demander ce que ses recommandations font aux comportements et aux jugements des personnes qui les reçoivent.

Cette question devient centrale à mesure que les outils génératifs et les systèmes de recommandation entrent dans les usages quotidiens. Une réponse, une image ou un classement peut paraître anodin pris isolément. Mais des milliers d’interactions semblables peuvent contribuer à banaliser certaines associations sociales, notamment si les utilisateurs ne savent pas que le système a été entraîné sur des données imparfaites.

La réponse passe par une conception plus attentive aux biais, des évaluations régulières et des interfaces qui ne présentent pas les sorties de l’IA comme des vérités définitives. Elle passe aussi par l’esprit critique des utilisateurs : vérifier une recommandation, demander sur quels critères elle repose et ne pas confondre automatisation et impartialité.

L’enjeu est moins de promettre une IA totalement dépourvue de biais, objectif difficile dans une société elle-même traversée par des inégalités, que de réduire les biais identifiables, de détecter leurs effets et de ne pas leur laisser le pouvoir de se renforcer silencieusement d’un système à l’autre.