Ce que l’IA projette sur les habitants des États-Unis, entre clichés et biais

Demander à une intelligence artificielle à quoi ressemble l’habitant « typique » de chacun des États-Unis semble relever du jeu de curiosité. Pourtant, les images et descriptions obtenues en novembre 2024 disent moins de l’Alabama, de la Californie ou du Wyoming que des représentations collectives que les systèmes d’IA ont absorbées. Elles transforment un territoire, une réputation et quelques références culturelles en un visage supposé représentatif.

L’exercice ayant donné lieu à ces portraits couvre les 50 États américains. L’IA y associe volontiers les habitants à une humeur, à un décor ou à une qualité morale : le plein air en Alaska, le désert en Arizona, l’effervescence à New York, la musique au Tennessee, la fierté locale au Texas ou l’indépendance au Wyoming. Ces propositions peuvent paraître anodines. Mais elles posent une question plus vaste : que fabrique exactement une IA lorsqu’on lui demande de représenter un groupe humain à partir de son lieu de résidence ?

Un portrait d’État n’est pas le portrait de ses habitants

Le point de départ mérite d’être clairement posé : il n’existe pas d’apparence objective ou uniforme des habitants d’un État américain. Un État est une unité administrative, pas une identité visuelle. Il rassemble des personnes d’origines, d’âges, de milieux sociaux, de professions, de religions, de parcours migratoires et de styles de vie extrêmement variés.

Même lorsqu’elle ne désigne pas explicitement une origine ou une catégorie sociale, une consigne telle que « l’apparence typique des habitants » pousse un générateur d’images à chercher une moyenne imaginaire. Or cette moyenne n’est pas établie par une enquête de terrain ni par un recensement. Elle résulte d’associations statistiques présentes dans les données ayant servi à entraîner le modèle : images disponibles en ligne, légendes, descriptions, représentations publicitaires, productions médiatiques ou visuels touristiques.

La publication d’origine ne précise ni le modèle interrogé, ni la formulation exacte des requêtes, ni les paramètres de génération, ni le nombre d’images produites. Il ne fournit pas non plus de méthode permettant de mesurer la représentativité des résultats. Les interprétations proposées doivent donc être considérées comme la lecture d’un exercice de génération, et non comme des constats sur les populations américaines.

De l’Alabama au Wyoming, des imaginaires régionaux très codés

Les réponses rapportées suivent une logique récurrente : le visage et l’expression prêtés à un couple sont reliés à l’environnement ou à l’image publique de l’État. Les descriptions ne s’appuient pas sur des mesures, elles attribuent des significations à des expressions faciales : sérieux, sérénité, ambition, chaleur humaine, résilience ou joie.

Le tableau ci-dessous résume ces associations telles qu’elles sont relatées. Il ne décrit pas les habitants réels des États concernés.

Cette liste illustre une tendance forte : la machine fait converger un lieu, souvent réduit à un symbole, et un tempérament humain. Les montagnes deviennent la sérénité, les grands espaces la rudesse ou le stoïcisme, une métropole l’ambition, une tradition musicale la passion. C’est une grammaire visuelle familière dans les brochures touristiques, les films, les médias et les contenus circulant en ligne.

Le problème ne réside pas dans le fait de mobiliser une référence culturelle. Il apparaît quand cette référence devient une identité assignée à des millions de personnes. Associer systématiquement la Floride au loisir, l’Oregon à l’écologie ou le Texas à une détermination virile revient à laisser de côté tout ce qui ne correspond pas à ce récit commode.

Pourquoi les générateurs d’images produisent-ils des stéréotypes ?

Un modèle d’IA générative ne connaît pas un État comme le connaîtrait un habitant, un historien ou un démographe. Il repère des cooccurrences : dans les données sur lesquelles il a appris, certains mots, vêtements, visages, paysages et attitudes ont fréquemment été rapprochés. Lorsqu’un utilisateur demande un portrait « typique », il est incité à fournir l’image la plus conventionnelle, donc souvent la plus reconnaissable.

Trois mécanismes se superposent généralement :

• La sélection des données : les contenus les plus nombreux ou les plus visibles sur internet ne sont pas forcément les plus représentatifs d’une population.
• La réduction d’une consigne ambiguë : le terme « typique » invite le système à privilégier des attributs saillants et facilement associés à un lieu.
• L’interprétation humaine : après la génération, l’observateur attribue du sens à un sourire, à une posture ou à un décor. Une expression neutre peut alors être lue comme de la gravité, de la fierté ou de la résilience.

L’IA ne décide pas consciemment qu’un habitant du Maine doit sembler introspectif ou qu’un habitant de l’Illinois doit paraître motivé. Elle propose une synthèse visuelle conditionnée par une requête et par les corrélations inscrites dans ses données. C’est précisément ce qui rend ces productions difficiles à interpréter : une image semble concrète, alors que les choix qui la sous-tendent restent largement opaques.

Des biais documentés, mais différents selon les usages

Les risques liés aux biais algorithmiques sont étudiés depuis longtemps, notamment dans la reconnaissance faciale. Les travaux du National Institute of Standards and Technology, organisme public américain, ont par exemple mis en évidence des écarts de performance démographique dans de nombreux algorithmes de reconnaissance de visages évalués en 2019. Cette technologie diffère de la génération d’images, mais le constat de fond est utile : les données et les choix de conception peuvent produire des résultats inégalement fiables selon les groupes représentés.

Dans le cas présent, il ne s’agit pas d’identifier une personne réelle à partir de son visage. Il s’agit de créer un visage fictif censé incarner une population. Le dommage potentiel est donc d’une autre nature : normaliser une vision étroite de la diversité, renforcer une association entre un territoire et une personnalité, ou donner un vernis de neutralité technologique à des clichés déjà présents dans la culture populaire.

Ce que l’exercice permet tout de même de comprendre

Pris au premier degré, un tel ensemble de portraits est peu instructif sur les États-Unis. Pris avec distance, il peut devenir un bon point de départ pour comprendre le fonctionnement culturel de l’IA générative. Il révèle les raccourcis auxquels un système recourt lorsqu’il doit répondre rapidement à une demande impossible : condenser des millions de vies en une scène, quelques traits physiques et une émotion.

Il rappelle aussi que la qualité d’une consigne compte. Une demande vague comme « un habitant typique » favorise la généralisation. Une demande plus rigoureuse pourrait au contraire chercher à montrer une scène de rue fictive réunissant des personnes de générations, d’origines et d’activités diverses, sans prétendre les résumer. Cela ne supprimerait pas automatiquement tous les biais, mais réduirait l’idée trompeuse d’un visage moyen.

Pour explorer un État américain, les données démographiques, l’histoire locale, les récits de ses habitants, la presse régionale et les sources institutionnelles sont bien plus solides qu’une série d’images. Elles permettent de comprendre les transformations de population, les différences entre villes et zones rurales, les trajectoires économiques ou les pratiques culturelles, sans transformer ces réalités en traits de caractère figés.

Ce qu’il faut surveiller dans les images générées par IA

À mesure que les outils de génération se diffusent dans la publicité, l’éducation, les médias et les réseaux sociaux, les utilisateurs gagnent à regarder les représentations avec un réflexe simple : demander ce qui a été laissé hors champ. Qui est visible ? Qui ne l’est pas ? Quelle référence culturelle a servi de raccourci ? L’image représente-t-elle une personne fictive, un archétype ou une population entière ?

Les concepteurs de ces outils ont également un rôle à jouer. Cela passe par des données mieux documentées, des mécanismes de réduction des biais, des avertissements clairs sur les limites des générateurs et des possibilités de signaler les résultats problématiques. Les recommandations internationales sur l’éthique de l’IA insistent sur ces principes de transparence, de diversité et de non-discrimination.

L’enjeu dépasse largement les 50 États américains. Chaque fois qu’une IA est sommée de représenter « les habitants » d’un pays, d’une région, d’une ville ou d’un groupe social, elle risque de substituer à une réalité plurielle une image facile à reconnaître. La fascination suscitée par ces portraits doit donc aller de pair avec une lecture critique : ils sont avant tout des miroirs des récits et des biais présents dans les données qui nourrissent les machines.