Gemini : les sous-traitants de Google évaluent des réponses hors expertise

Les assistants d’intelligence artificielle savent formuler des réponses convaincantes sur presque tous les sujets. Mais qui vérifie qu’elles sont justes, particulièrement lorsqu’elles portent sur une maladie rare, une notion d’ingénierie ou une question juridique complexe ? C’est le point sensible soulevé par les nouvelles consignes de Google pour l’évaluation de son chatbot Gemini : certains sous-traitants doivent désormais juger des réponses au-delà de leur propre domaine de compétence.

Le changement concerne des travailleurs de GlobalLogic, une société de sous-traitance affiliée à Hitachi, chargés de participer à l’évaluation de réponses produites par Gemini. Jusqu’alors, ces évaluateurs pouvaient passer une tâche lorsqu’elle exigeait une expertise qu’ils ne possédaient pas. Les directives actualisées leur demandent au contraire d’examiner toutes les entrées, sauf exceptions précises.

L’enjeu dépasse l’organisation interne d’un grand groupe technologique. Les retours humains sont l’un des mécanismes utilisés pour mesurer la qualité d’un assistant conversationnel et, plus largement, pour l’améliorer. Si une réponse erronée est considérée comme satisfaisante par une personne qui ne peut pas en contrôler le fond, le signal de qualité transmis au système perd nécessairement de sa valeur.

Google modifie les règles d’évaluation de Gemini

Gemini est le nom donné par Google à sa famille de modèles d’intelligence artificielle générative et à son assistant conversationnel. Comme les autres chatbots de ce type, il répond à une instruction écrite, appelée « prompt », en produisant du texte. Il peut résumer, expliquer, rédiger, comparer ou répondre à une question. Cette aisance apparente ne garantit toutefois pas l’exactitude de chaque affirmation.

Pour réduire les erreurs et repérer les comportements indésirables, les entreprises qui développent ces systèmes s’appuient notamment sur des évaluations humaines. Des personnes lisent une question et la réponse proposée, puis appliquent des consignes : elles peuvent juger si la réponse est utile, pertinente, complète ou problématique. Elles comparent parfois plusieurs formulations possibles.

Dans le cas rapporté pour Gemini, les agents de GlobalLogic avaient auparavant la possibilité de ne pas traiter un prompt lorsqu’il dépassait leurs connaissances. Un travailleur ne possédant pas de formation médicale pouvait ainsi renoncer à évaluer une réponse relative à une maladie rare. La règle actualisée inverse cette logique : le manque d’expertise ne suffit plus, à lui seul, à passer une tâche.

Les possibilités de ne pas effectuer une évaluation restent circonscrites. Elles concernent notamment un prompt ou une réponse incomplets, ainsi que des contenus nuisibles qui demandent une approbation spéciale. En dehors de ces situations, les sous-traitants sont censés examiner les entrées qui leur sont attribuées.

Que font concrètement les évaluateurs externes ?

Le travail de ces agents ne doit pas être confondu avec celui d’un chercheur, d’un médecin ou d’un ingénieur qui auditerait un modèle. Un évaluateur peut reconnaître qu’une réponse est mal rédigée, ne répond pas à la question ou contient une contradiction manifeste. Il peut aussi appliquer une règle sur le ton, la sécurité ou le format de la réponse.

Mais évaluer la véracité d’une réponse peut réclamer une compétence très différente. Face à une explication détaillée d’un traitement, il faut pouvoir distinguer une information générale prudente d’une recommandation imprécise, incomplète ou factuellement fausse. Face à un problème informatique, il faut pouvoir tester mentalement le raisonnement et repérer une étape erronée. La difficulté augmente lorsque l’IA emploie une terminologie spécialisée qui donne une impression d’autorité.

Cette distinction est déterminante. Une réponse peut être fluide, nuancée et très bien structurée tout en contenant une affirmation incorrecte. Les modèles de langage produisent du texte en prédisant des suites plausibles de mots à partir de régularités apprises dans de très grands ensembles de données. Ils ne vérifient pas automatiquement chaque énoncé comme le ferait un expert consultant une littérature scientifique, une norme technique ou un dossier médical.

C’est l’une des raisons pour lesquelles on parle parfois d’« hallucinations » de l’IA. Le mot est imagé : il ne signifie pas que le logiciel perçoit le monde, mais qu’il peut générer une information inventée ou inexacte avec une apparence de cohérence. Plus le sujet est pointu, plus cette erreur peut être difficile à détecter pour une personne non spécialiste.

Pourquoi l’expertise est-elle essentielle sur les sujets sensibles ?

Les inquiétudes exprimées par les sous-traitants portent précisément sur ce décalage entre la mission demandée et les connaissances disponibles. Sur un canal de discussion interne, un agent a résumé son désarroi en ces termes : « Je pensais que sauter des prompts visait à améliorer la précision. »

La remarque vise un principe simple : écarter une tâche que l’on ne peut pas juger n’est pas forcément une faiblesse du processus. Cela peut être une précaution. Dans les domaines où une erreur a des conséquences importantes, l’absence d’expertise constitue elle-même une information utile pour organiser le contrôle qualité.

La santé illustre bien le problème. Une réponse de Gemini peut donner des informations générales sur des symptômes ou une maladie. Toutefois, une évaluation sérieuse suppose de savoir si les termes sont employés correctement, si les limites de l’information sont suffisamment explicites et si le texte risque de pousser une personne à une mauvaise interprétation. Ce travail ne se réduit pas à vérifier que la réponse « semble raisonnable ».

Le même constat vaut pour d’autres secteurs :

• les sciences et l’ingénierie, où une erreur de raisonnement peut se dissimuler dans une démonstration convaincante ;
• le droit et la fiscalité, où une règle peut dépendre du pays, de la date, du statut de la personne et de nombreuses exceptions ;
• la programmation, où un code peut paraître correct tout en comportant une faille ou un défaut d’exécution ;
• la finance, où une explication imprudente peut être confondue avec un conseil adapté à une situation individuelle.

Ce changement rend-il Gemini moins précis ?

Il faut être rigoureux : les nouvelles directives ne démontrent pas, à elles seules, que les réponses de Gemini sont devenues moins exactes. Elles mettent en évidence un risque dans la chaîne d’évaluation, pas une mesure chiffrée de la qualité du chatbot avant et après leur adoption.

La précision d’un modèle dépend d’un ensemble de facteurs : les données utilisées lors de son développement, ses capacités de raisonnement, les garde-fous appliqués, les tests automatisés, les évaluations humaines et la manière dont les résultats de ces évaluations sont exploités. Un évaluateur généraliste peut rester utile pour de nombreuses tâches. Le problème survient lorsque son jugement est traité comme une validation fiable dans un domaine qu’il ne maîtrise pas.

Le risque est double. D’une part, une réponse erronée peut être approuvée faute de connaissances suffisantes pour l’identifier. D’autre part, une réponse correcte mais complexe peut être jugée défavorablement parce qu’elle est difficile à comprendre. Dans les deux cas, la mesure de qualité peut s’éloigner de ce que recherche l’utilisateur : une information à la fois exacte, adaptée et prudente.

La consigne semble également créer une tension pratique pour les travailleurs concernés. Les forcer à statuer sur des sujets inconnus peut les conduire à deviner, à s’en remettre à la forme de la réponse ou à appliquer les règles de manière très variable. Or la cohérence entre évaluateurs est un élément important lorsqu’il s’agit de comparer les performances d’un système à grande échelle.

Le contrôle humain ne suffit pas s’il est mal organisé

L’expression « humain dans la boucle » est souvent présentée comme une garantie contre les erreurs de l’IA. Dans les faits, tout dépend de la personne qui intervient, de sa formation, du temps dont elle dispose, des consignes qu’elle reçoit et de son droit à signaler qu’une tâche échappe à ses compétences.

Un contrôle humain généralisé peut détecter efficacement certains défauts : propos toxiques, réponses qui ignorent la demande, inventions facilement vérifiables ou formulations ambiguës. Il devient beaucoup moins robuste face à des erreurs qui exigent plusieurs années de pratique professionnelle pour être reconnues.

Pour les requêtes spécialisées, plusieurs approches peuvent compléter l’évaluation généraliste : confier un échantillon de réponses à des experts du domaine, créer des protocoles propres aux sujets à risque, distinguer la qualité rédactionnelle de l’exactitude factuelle, ou encore permettre aux évaluateurs de signaler clairement un manque de compétence. Ces dispositifs ne rendent pas un chatbot infaillible. Ils réduisent néanmoins la probabilité qu’une erreur crédible passe entre les mailles du filet.

La question est aussi économique et organisationnelle. Les outils d’IA sont déployés auprès d’un très large public et reçoivent une diversité considérable de demandes. Constituer des équipes d’experts pour chaque discipline est plus complexe que mobiliser une main-d’œuvre généraliste. Cette contrainte ne fait cependant pas disparaître le besoin de validation spécialisée lorsque les usages touchent à des sujets critiques.

Ce qu’il faut surveiller pour Gemini et les autres IA

L’affaire des consignes imposées aux évaluateurs de Gemini rappelle que la qualité d’un assistant ne se résume pas à ses démonstrations les plus spectaculaires. Elle se joue aussi dans des tâches discrètes : la sélection des réponses à examiner, les critères employés, le niveau de spécialisation des personnes mobilisées et la possibilité de refuser une évaluation inadaptée.

Pour les utilisateurs, le réflexe le plus sûr reste de considérer une réponse de chatbot comme un point de départ, non comme une autorité automatique. Il est pertinent de demander à l’outil d’expliciter ses hypothèses, de comparer son texte à des sources fiables et de solliciter un spécialiste lorsque l’enjeu est personnel ou important.

Pour Google comme pour l’ensemble du secteur, la question est plus structurelle : comment démontrer qu’un système est digne de confiance sur les sujets où le public ne possède justement pas les moyens de vérifier lui-même ? La réponse ne peut pas reposer uniquement sur la fluidité des textes générés. Elle suppose des méthodes d’évaluation transparentes, des garde-fous proportionnés aux risques et une place réelle accordée à l’expertise humaine.