Gemini et la diversité : les progrès promis par Google restent à éprouver

Les assistants d’intelligence artificielle répondent à des centaines de millions de personnes, dans des langues, des pays et des contextes sociaux très différents. Une même question sur l’emploi, la santé, l’histoire ou l’identité peut donc appeler des formulations sensiblement différentes selon la situation de l’utilisateur. C’est dans ce cadre que Google met en avant les capacités de Gemini, sa famille de modèles d’IA générative, pour mieux prendre en compte la diversité humaine.

L’objectif est légitime, mais il appelle une lecture prudente. Un modèle peut produire une réponse plus nuancée, éviter certains stéréotypes manifestes ou mieux interpréter une formulation locale sans pour autant être neutre ni représenter équitablement toutes les expériences. En matière de diversité, les promesses d’une IA se mesurent moins à son discours qu’à la qualité de ses données, à la variété des tests réalisés et à la possibilité de corriger ses erreurs.

Pourquoi la diversité est-elle un enjeu central pour une IA ?

Gemini est une IA dite multimodale : elle est conçue pour traiter plusieurs types d’informations, notamment du texte, des images, de l’audio, de la vidéo et du code. Cette capacité peut enrichir les échanges avec un assistant. Elle ne lui donne toutefois pas une compréhension humaine, vécue ou universelle des cultures.

Comme les autres grands modèles de langage, Gemini produit ses réponses en repérant des régularités dans d’immenses ensembles de données. Ces données peuvent refléter des déséquilibres déjà présents dans la société : surreprésentation de certaines langues, de certains pays ou de certains points de vue, descriptions stéréotypées de professions, récits historiques incomplets, ou encore associations injustifiées entre une origine et une caractéristique.

Le biais ne désigne pas nécessairement une intention malveillante. Il peut apparaître lorsqu’un modèle :

• dispose de beaucoup plus d’exemples pour une langue que pour une autre ;
• généralise abusivement à partir de contenus dominants sur internet ;
• applique une règle de sécurité sans tenir compte du contexte ;
• répond à une demande ambiguë en reproduisant l’association la plus fréquente dans ses données ;
• refuse une requête pourtant légitime, ou accepte au contraire une formulation qui véhicule un préjugé.

La difficulté est que l’équité ne se réduit pas à une règle simple. Demander à une IA de représenter « toutes les personnes » dans une image, par exemple, n’est pas la même chose que lui demander de restituer fidèlement un événement historique documenté. Dans le premier cas, une représentation variée peut être souhaitable. Dans le second, modifier les caractéristiques des personnes représentées peut créer une erreur factuelle.

Ce que Google promet avec Gemini

Google affirme développer Gemini en s’appuyant sur ses principes d’IA responsable et sur des mécanismes destinés à limiter les contenus dangereux ou trompeurs. Dans l’usage quotidien, l’ambition se traduit par des réponses qui tentent de mieux prendre en compte la langue de la requête, ses nuances et le contexte donné par l’utilisateur.

Pour le grand public, le bénéfice potentiel est concret. Un assistant qui demande des précisions plutôt que de supposer l’origine, le genre, la religion ou la situation familiale d’une personne peut fournir une réponse plus pertinente. De même, un outil capable de signaler qu’une pratique, une expression ou une recommandation varie selon les pays évite de présenter un cas particulier comme une vérité universelle.

Mais il faut distinguer trois niveaux souvent confondus : la qualité linguistique, la civilité de la réponse et l’équité du système. Une IA peut parfaitement employer un ton respectueux tout en donnant une information erronée, ignorer une réalité minoritaire ou reproduire une vision dominante des faits. Inversement, une réponse factuelle sur un sujet sensible peut sembler moins consensuelle sans être discriminatoire.

L’intérêt de Gemini ne réside donc pas seulement dans la fluidité de ses réponses. Il dépend aussi de sa capacité à reconnaître ses limites, à demander du contexte et à orienter l’utilisateur vers des sources fiables lorsqu’une réponse exige une expertise ou une vérification.

Le précédent des images historiques rappelle les limites des garde-fous

La question de la représentation n’est pas théorique pour Google. En février 2024, l’entreprise a suspendu la capacité de son outil de génération d’images à créer des personnes après la diffusion d’images historiques inexactes. Google avait alors reconnu que certaines représentations historiques générées par son système comportaient des erreurs et annoncé travailler à une correction.

Cet épisode illustre un dilemme difficile : corriger les biais d’un système ne doit pas conduire à déformer un fait établi. Dans une IA générative, les garde-fous peuvent chercher à empêcher les stéréotypes, les exclusions ou les contenus haineux. S’ils sont appliqués de façon trop générale, ils peuvent aussi produire des résultats incohérents avec une demande précise.

La leçon dépasse la génération d’images. Pour le texte aussi, un modèle peut surcorriger, refuser une question légitime sur une communauté, ou donner une réponse trop vague par crainte de mal formuler un sujet. L’enjeu n’est pas de demander à Gemini d’être « neutre » en toutes circonstances, notion elle-même complexe, mais de rendre ses réponses à la fois exactes, explicables et adaptées au contexte.

Des données à la modération : où les biais peuvent-ils apparaître ?

La réduction des biais ne s’obtient pas par l’ajout d’une simple instruction demandant à l’IA d’être inclusive. Elle concerne toute la chaîne de conception du modèle.

En amont, la composition des données est déterminante. Internet ne représente pas toutes les populations de manière égale : l’anglais y est largement dominant, certaines régions disposent de beaucoup moins de contenus numérisés, et les groupes marginalisés ont pu être décrits par d’autres plutôt que par eux-mêmes. Des données plus variées peuvent réduire certains angles morts, mais elles demandent aussi un travail de sélection pour éviter les informations inexactes, les contenus haineux et les violations de droits.

Vient ensuite l’entraînement du modèle et son ajustement. Les équipes chargées de la sûreté définissent des consignes de comportement, testent des réponses sensibles et mettent en place des filtres. Ces décisions humaines ne sont pas neutres : elles traduisent des arbitrages entre liberté de réponse, prévention des préjudices, exactitude et respect des lois locales.

Enfin, l’évaluation est essentielle. Tester Gemini uniquement avec des requêtes rédigées par des anglophones ou sur des scénarios occidentaux ne permettrait pas de connaître ses performances réelles à l’échelle mondiale. Des essais utiles devraient couvrir des langues différentes, des dialectes, des demandes formulées de plusieurs façons et des cas où l’exactitude historique importe autant que l’inclusivité.

Le partenariat avec Associated Press ne règle pas la question de l’équité

En janvier 2025, Google et l’agence de presse Associated Press ont annoncé un partenariat visant à fournir à Gemini un flux d’informations en temps réel. L’objectif affiché est d’améliorer l’accès à des contenus d’actualité et la qualité des réponses lorsque les utilisateurs recherchent des informations récentes.

Cette collaboration répond à un problème concret des IA génératives : leurs connaissances peuvent être datées, et elles peuvent commettre des erreurs lorsqu’elles résument des événements en cours. L’apport d’une agence de presse reconnue peut contribuer à mieux ancrer certaines réponses dans une information journalistique vérifiée.

Il faut néanmoins éviter de lui prêter une portée qu’elle n’a pas. Un partenariat de contenu ne constitue pas un audit général de Gemini sur les biais culturels ou sociaux. Il ne permet pas, à lui seul, de prouver que le modèle représente mieux les minorités, comprend toutes les langues ou traite équitablement des opinions divergentes.

La qualité de l’information et l’équité de la représentation sont deux sujets liés, mais distincts. Une réponse peut s’appuyer sur une dépêche exacte et rester réductrice si elle omet le contexte nécessaire. À l’inverse, une réponse attentive aux différentes sensibilités ne doit jamais sacrifier la vérification des faits.

Comment les utilisateurs peuvent-ils contribuer à l’amélioration ?

Les retours d’utilisateurs ont une utilité réelle lorsqu’ils décrivent précisément le problème rencontré. Signaler qu’une réponse est « biaisée » est un premier signal. Indiquer quelle formulation est erronée, quel stéréotype elle reproduit, quel contexte manque ou quelle source fiable la contredit est plus exploitable pour les équipes qui corrigent un produit.

Quelques réflexes permettent aussi de mieux utiliser un assistant comme Gemini :

• préciser le pays, la langue, la période historique ou le public concerné ;
• demander les hypothèses retenues lorsque la réponse généralise ;
• comparer plusieurs formulations d’une même question pour repérer une incohérence ;
• vérifier les conseils importants, particulièrement en santé, en droit, en finances ou en information politique ;
• utiliser les mécanismes de signalement proposés par le service en cas de contenu offensant, dangereux ou manifestement faux.

Gemini peut également servir d’outil d’assistance pour relire un texte à la recherche de formulations stéréotypées. Mais il ne faut pas le considérer comme un arbitre infaillible des discriminations. Son analyse dépend de la consigne, de la langue employée et des limites du modèle. Une relecture humaine, notamment par des personnes connaissant le contexte culturel concerné, reste indispensable pour un contenu destiné au public.

Ce qu’il faut surveiller pour juger les progrès de Gemini

Les mises à jour régulières annoncées par Google peuvent améliorer Gemini, notamment si elles tiennent compte des retours du public et de spécialistes issus de disciplines variées. Leur effet devra être évalué au-delà des démonstrations de produit.

Les éléments les plus utiles à suivre seront la transparence de Google sur les limites connues de ses modèles, la publication d’évaluations couvrant plusieurs langues et populations, la clarté des mécanismes de signalement, ainsi que la rapidité des corrections lorsqu’un problème est identifié. Des tests réalisés par des chercheurs, des associations et des journalistes indépendants compléteront utilement les annonces de l’entreprise.

La diversité ne doit pas devenir un argument marketing détaché de résultats observables. Pour Gemini comme pour les autres IA génératives, le véritable progrès serait de fournir des réponses plus exactes et plus utiles à un plus grand nombre de personnes, tout en expliquant clairement ce que l’outil sait faire, ce qu’il ignore encore et comment il peut être contesté lorsqu’il se trompe.