Un arbre sans racines : ce que cette image révèle des biais ontologiques de l’IA

Imaginez un arbre. Voyez-vous d’abord un tronc, une couronne de feuilles et des branches ? Pensez-vous aussi à ses racines, au sol qui le nourrit, aux autres êtres vivants avec lesquels il interagit ? Cette représentation intime, souvent immédiate, n’est pas universelle. Elle dépend de l’expérience, de la culture, du langage et des relations que chacun entretient avec le vivant. Pour des chercheurs qui étudient les biais de l’intelligence artificielle, cette simple question ouvre un champ bien plus vaste : quelle vision du monde les modèles reproduisent-ils lorsqu’ils répondent à nos requêtes ?

Une étude présentée dans les actes de la conférence CHI 2025 appelle ainsi à dépasser une lecture limitée des biais de l’IA. Il ne suffirait pas de vérifier si un système traite équitablement des groupes ou s’il respecte une liste de valeurs. Il faudrait aussi examiner ses fondations ontologiques, c’est-à-dire les catégories et les relations qu’il suppose pour décrire ce qui existe.

Pourquoi un arbre peut-il révéler un biais de l’IA ?

La question « Comment imaginez-vous un arbre ? » n’est pas un test de botanique. Elle sert à montrer qu’un objet pourtant familier peut être envisagé de façons très différentes. Pour certaines personnes, l’arbre est d’abord une forme isolée que l’on dessine sur une feuille : un tronc surmonté de branches. Pour d’autres, il est indissociable de ses racines, des saisons, de l’eau, des animaux, d’un territoire ou d’une histoire familiale et spirituelle.

Nava Haghighi, candidate au doctorat en informatique à Stanford, a utilisé cet exemple dans ses travaux. Lorsqu’elle a demandé à ChatGPT de créer une image d’un arbre, le résultat présentait un tronc solitaire avec des branches, mais sans racines. Cette image ne prouve pas à elle seule qu’un modèle possède un biais mesurable au sens statistique. Elle illustre en revanche une tendance significative : face à une consigne ouverte, un système peut privilégier une représentation courante, simplifiée et détachée de son environnement.

L’expérience a aussi mis en lumière le poids des associations culturelles. Après que Nava Haghighi a précisé qu’elle venait d’Iran, le système a généré un arbre orné de motifs stéréotypés, placé dans un désert. Ce n’est qu’après l’ajout de la formule « tout est connecté » que l’idée de racines a été intégrée à l’image.

L’enchaînement est révélateur. Le modèle ne répond pas à partir d’une compréhension vécue d’un arbre ou de l’Iran. Il produit une réponse en mobilisant des régularités apprises dans ses données et des associations rendues probables par la formulation de la demande. Or ces régularités peuvent refléter des raccourcis visuels, des clichés culturels ou une vision très individualisée des êtres et des objets.

Qu’est-ce qu’un biais ontologique ?

Dans le langage courant, on associe souvent le biais de l’IA à des résultats injustes : une recommandation défavorable, une erreur de reconnaissance, une réponse stéréotypée ou une décision qui désavantage certains publics. Ces problèmes restent essentiels. L’approche défendue dans cette recherche ajoute toutefois une question plus fondamentale : de quelle réalité l’IA part-elle pour produire ses réponses ?

Le terme « ontologie » peut sembler abstrait. En philosophie, il renvoie à la réflexion sur ce qui existe et sur la manière dont les êtres, les objets et les relations peuvent être définis. En informatique, une ontologie peut aussi désigner un cadre structuré qui décrit des concepts et les liens entre eux. Dans le contexte de cette étude, il s’agit surtout d’interroger les conceptions du monde que les systèmes d’IA peuvent reprendre ou imposer sans les expliciter.

Un modèle de langage de grande taille ne se contente pas de manipuler des mots isolés. Il apprend des associations entre des formulations, des récits, des descriptions et des catégories présentes dans de très vastes ensembles de textes. Quand on lui demande ce qu’est un humain, une famille, la mémoire, la nature ou l’intelligence, sa réponse peut sembler nuancée. Mais elle s’appuie nécessairement sur des définitions dominantes dans les contenus dont il a appris les régularités.

Cette distinction est importante. Une IA peut respecter une règle explicite de non-discrimination tout en continuant de présenter certaines catégories comme allant de soi. Par exemple, elle peut décrire une personne principalement par ses caractéristiques biologiques, sans accorder de place à des conceptions relationnelles, sociales ou culturelles de l’existence. Le risque n’est pas seulement une réponse offensante. C’est aussi la réduction silencieuse de réalités complexes à une définition devenue majoritaire.

Les quatre systèmes examinés par les chercheurs

Haghighi et ses collègues ont étudié la capacité de grands modèles de langage à réfléchir à leurs propres limites selon des valeurs précises. Leur analyse a porté sur quatre systèmes d’IA majeurs, parmi lesquels GPT-3.5 et Google Bard. Les chercheurs ont formulé quatorze questions approfondies afin d’examiner les présupposés ontologiques des modèles et leur aptitude à les reconnaître.

Leur méthode ne vise donc pas uniquement à noter si une réponse est exacte ou polie. Elle cherche à déterminer si un système sait identifier les conceptions implicites qui organisent sa façon de répondre.

L’exemple de la question « Qu’est-ce qu’un humain ? » résume bien cette difficulté. Google Bard a reconnu qu’il n’existait pas de réponse universelle. Pourtant, ses définitions restaient limitées aux individus biologiques. La réponse contient donc une forme de prudence, mais elle maintient aussi une délimitation particulière de l’humanité.

Ce décalage est au cœur de la recherche. Un modèle peut formuler des avertissements sur la diversité des opinions, tout en reproduisant, dans sa réponse principale, une conception étroite de la notion discutée. Dire qu’il n’y a pas de définition universelle ne garantit pas que les définitions alternatives soient réellement prises en compte dans le raisonnement ou la génération.

Les valeurs ne suffisent pas à évaluer les modèles

Les débats sur l’IA responsable mettent souvent l’accent sur les valeurs : équité, sûreté, confidentialité, transparence ou non-discrimination. Ces critères sont indispensables, mais les auteurs de l’étude estiment qu’ils ne permettent pas à eux seuls de saisir tous les risques. Les valeurs répondent à la question « que faut-il faire ? ». L’ontologie ajoute une autre interrogation : « qu’est-ce qui est considéré comme réel, important et digne d’être pris en compte ? »

Un outil peut ainsi être conçu avec de bonnes intentions, tout en s’appuyant sur une représentation restrictive de son utilisateur ou du contexte où il intervient. C’est particulièrement sensible lorsque les modèles sont invités à simuler des comportements humains. Si les évaluations récompensent surtout une IA qui paraît « humaine », elles peuvent aussi entériner une version très particulière de l’humain comme norme implicite.

Les chercheurs alertent sur ce point : des agents artificiels peuvent être jugés plus humains que de véritables personnes si les critères retenus sont étroits. Cela ne signifie pas que les systèmes comprennent l’expérience humaine mieux que les humains. Cela montre plutôt que la grille d’évaluation peut valoriser certains signaux, certaines manières de parler ou certains comportements au détriment d’autres façons, tout aussi légitimes, d’être et de s’exprimer.

Les choix de conception peuvent figer une vision du monde

L’étude invite aussi à regarder au-delà des réponses finales. Les présupposés ontologiques peuvent apparaître dès les premières étapes de conception : sélection des données, formulation des catégories, définition d’un objectif ou mise en place d’un mécanisme de mémoire.

Les chercheurs donnent l’exemple d’un module de mémoire pour un agent génératif. Ce type de dispositif peut classer les événements selon leur pertinence, leur récence et leur importance. Le principe paraît pratique : un agent ne peut pas conserver et utiliser chaque information de la même manière. Mais une question demeure : qui définit ce qui est important ?

La réponse n’est jamais purement technique. Choisir de privilégier un événement récent plutôt qu’un lien ancien, un objectif individuel plutôt qu’une relation collective, ou une information quantifiable plutôt qu’un récit, revient à organiser une hiérarchie. Cette hiérarchie peut être adaptée à un usage donné. Elle doit cependant être rendue visible, discutée et, lorsque c’est nécessaire, révisée.

C’est là que l’approche ontologique se distingue d’un simple contrôle a posteriori. Corriger une réponse problématique une fois qu’elle est générée reste utile. Mais si les catégories de départ sont trop étroites, les mêmes limites risquent de se reproduire dans une multitude de réponses apparemment acceptables.

Pourquoi ces limites comptent dans l’éducation et la santé

À mesure que les systèmes d’IA entrent dans des domaines variés, leurs représentations du monde peuvent avoir des effets plus directs. Dans l’éducation, un assistant qui suppose une seule manière légitime d’apprendre, de raisonner ou de raconter son expérience peut marginaliser certains élèves. Dans la santé, une définition restrictive de la personne peut laisser au second plan son environnement social, son histoire ou ses priorités.

L’étude ne prétend pas qu’un grand modèle de langage décide seul de ces questions. Les professionnels, les institutions et les règles qui encadrent les usages restent déterminants. Mais les outils peuvent orienter l’attention, proposer des catégories et rendre certaines interprétations plus faciles que d’autres. Leur influence est d’autant plus forte que leurs réponses semblent naturelles, fluides et objectives.

Pour les concepteurs, l’enjeu est donc de ne pas traiter les données et les architectures comme de simples éléments neutres. Diversifier les points de vue durant la conception est une piste importante, mais elle ne suffit pas si les définitions fondamentales ne sont jamais questionnées. Il faut également examiner les critères utilisés pour évaluer les modèles : qu’est-ce qu’une bonne réponse, une bonne mémoire, une bonne interaction ou une représentation fidèle de l’humain ?

Ce qu’il faut surveiller

La recherche présentée à CHI 2025 ne fournit pas une recette unique pour éliminer les biais ontologiques. Elle pose plutôt un changement de méthode. Évaluer un modèle ne devrait pas consister seulement à lui demander s’il respecte des principes éthiques ou s’il évite les stéréotypes les plus visibles. Il faut aussi l’interroger sur les cadres de pensée qu’il mobilise, et vérifier si ces cadres excluent des expériences, des relations ou des manières de concevoir le monde.

L’image de l’arbre remplit ici une fonction utile : elle rend tangible un problème théorique. Un arbre réduit à son tronc et à ses branches n’est pas forcément faux. Mais il devient incomplet lorsqu’il est présenté comme la représentation évidente de l’arbre. De la même façon, une IA peut donner une réponse techniquement plausible tout en laissant hors champ des dimensions essentielles.

À l’avenir, les progrès les plus importants ne concerneront pas seulement la précision, la vitesse ou la capacité des modèles à imiter la conversation humaine. Ils dépendront aussi de la capacité des équipes qui les développent et les évaluent à rendre visibles leurs présupposés. Sans cet effort, le risque souligné par les chercheurs est de transformer des visions dominantes, parfois très situées culturellement, en vérités apparemment universelles pour les générations futures.