Pourquoi une faute de frappe peut fausser une recommandation médicale par IA

Un même symptôme, décrit avec les mêmes informations médicales, ne devrait pas recevoir un conseil différent parce que le message contient une faute de frappe ou quelques espaces en trop. C’est pourtant ce que met en évidence une recherche menée par des scientifiques du MIT sur les grands modèles de langage, ces systèmes d’IA capables de lire et de produire du texte. Dans un domaine où un conseil mal orienté peut retarder une prise en charge, cette sensibilité à la forme du message pose une question très concrète : peut-on confier à un modèle conversationnel une étape, même limitée, de l’orientation médicale ?

L’étude, présentée lors de la conférence ACM sur la justice, la responsabilité et la transparence, ne suggère pas que chaque réponse médicale générée par une IA est nécessairement fausse. Elle révèle autre chose, plus difficile à détecter : des éléments qui ne devraient pas compter dans l’évaluation clinique peuvent modifier la recommandation du système. Il peut s’agir d’erreurs grammaticales, d’un formatage inhabituel, d’une formulation vague ou d’un langage jugé incertain ou dramatique.

Ce constat concerne particulièrement les outils qui reçoivent des messages libres de patients. Un patient ne s’exprime pas comme dans un dossier médical parfaitement rédigé : il peut être inquiet, écrire rapidement depuis un téléphone, maîtriser imparfaitement la langue ou peiner à décrire ce qu’il ressent. Une IA utilisée dans ce contexte doit donc comprendre le contenu médical sans transformer ces particularités d’expression en signaux cliniques inexistants.

Quand la forme du message prend le pas sur les symptômes

Les modèles de langage ne raisonnent pas comme des cliniciens. Ils traitent des séquences de mots et repèrent des régularités apprises à partir de très grands volumes de textes. Cette capacité leur permet de reformuler des documents, d’expliquer des notions de santé ou de répondre à des questions générales. Mais elle implique aussi qu’ils peuvent associer, à tort, certains styles d’écriture à certaines réponses.

Dans les travaux rapportés par le MIT, les chercheurs ont étudié l’effet de variations non cliniques dans les messages de patients. Les informations médicales pertinentes restent le cœur du cas présenté, mais la manière de les écrire est modifiée. Parmi les perturbations examinées figurent notamment :

• les fautes de frappe ou de syntaxe ;
• les espaces excessifs et des changements de mise en forme ;
• l’absence de certains marqueurs de genre ;
• des formulations imprécises, hésitantes ou particulièrement dramatiques.

Ces détails ne renseignent pas, en eux-mêmes, sur la gravité d’une maladie ni sur la nécessité d’un traitement. Pourtant, ils ont influencé les conseils formulés par les LLM. Autrement dit, le système n’a pas seulement réagi à ce qui était dit, mais aussi à la façon dont cela était écrit.

Le problème est moins spectaculaire qu’une hallucination médicale manifeste, mais il peut être tout aussi important. Une hallucination, c’est une information inventée par l’IA. Ici, le modèle peut s’appuyer sur des mots réellement présents, tout en leur accordant un poids injustifié. La réponse paraît alors cohérente, voire rassurante, sans que le raisonnement qui l’a produite soit fiable.

Pourquoi l’auto-gestion peut devenir un mauvais conseil

Le résultat le plus préoccupant de la recherche concerne l’orientation vers l’auto-gestion. De légers changements de forme dans un message augmentent la probabilité que les modèles conseillent à la personne de gérer elle-même sa situation, même lorsque le cas devrait conduire à solliciter un professionnel de santé.

L’auto-gestion n’est pas toujours inadaptée. Pour certains troubles bénins et clairement identifiés, suivre des conseils généraux, surveiller l’évolution de symptômes ou appliquer des mesures simples peut faire partie d’une conduite raisonnable. Mais une recommandation de ce type devient dangereuse si elle écarte une consultation nécessaire, en particulier devant une situation grave.

C’est là que la différence entre une information de santé et une décision clinique est essentielle. Une IA peut aider à expliquer des termes médicaux ou à préparer des questions pour un rendez-vous. En revanche, dire à une personne de ne pas consulter revient à intervenir dans le triage des soins, c’est-à-dire l’évaluation du niveau d’urgence et de la nécessité d’une prise en charge. Cette étape exige de tenir compte du contexte, de l’examen médical, des antécédents et parfois de signes que seul un professionnel peut identifier.

Les chercheurs soulignent que nombre des erreurs observées concernent des patients confrontés à des affections graves. Dans de telles situations, une réponse trop rassurante peut avoir un coût élevé : elle risque de repousser l’accès à un professionnel, alors que le facteur temps peut compter.

Un risque plus marqué pour les patientes

L’étude met aussi en lumière une disparité préoccupante : les modèles testés se montrent plus susceptibles de recommander aux femmes de ne pas chercher de soins médicaux. Cet effet est observé même lorsque les données cliniques ne comportent pas d’indice de genre explicite.

Ce résultat ne permet pas, à lui seul, d’attribuer une intention au système. Un LLM n’a ni conviction ni volonté propre. Il reflète toutefois des associations statistiques issues de ses données d’entraînement et de son mode de fonctionnement. Si ces associations conduisent à traiter différemment des situations comparables, le résultat demeure problématique pour les patients concernés.

L’enjeu est d’autant plus sérieux que les inégalités de prise en charge ne sont pas une abstraction dans le domaine médical. Un outil censé faciliter l’accès à l’information ne doit pas reproduire, renforcer ou déplacer des biais existants à travers sa manière de lire un message. Or une différence de ton, de vocabulaire ou d’aisance rédactionnelle peut aussi recouvrir des réalités sociales très diverses : niveau de littératie, langue maternelle, anxiété, handicap, fatigue ou difficulté à accéder aux soins.

Les cliniciens humains ne réagissent pas de la même façon

Les scientifiques ont comparé cette fragilité à la réaction de professionnels de santé. Dans un travail ultérieur, ils ont constaté que les mêmes variations linguistiques dans les messages n’affectaient pas la précision des recommandations des cliniciens humains.

Cela ne signifie évidemment pas qu’un soignant humain est à l’abri de toute erreur ou de tout biais. La pratique médicale reste une activité humaine, soumise à des contraintes de temps et à l’incertitude. Mais, dans ce test, les cliniciens ont mieux distingué les informations pertinentes pour le soin des défauts de rédaction ou du ton employé.

Cette différence illustre une limite centrale des LLM. Leur aisance apparente avec la langue peut donner l’impression qu’ils comprennent une situation au sens humain du terme. Or la capacité à générer un texte fluide n’est pas la même chose que la capacité à évaluer la pertinence clinique d’une information. Lorsqu’un modèle produit une recommandation, il faut donc examiner non seulement sa réponse finale, mais aussi sa stabilité lorsque le message est reformulé sans changement médical réel.

Auditer les modèles dans des conditions proches de la réalité

Pour les auteurs, cette recherche plaide en faveur d’audits beaucoup plus rigoureux avant tout déploiement de LLM dans des contextes de soins. Il ne suffit pas de demander si un modèle connaît la bonne réponse à un cas clinique proprement présenté. Il faut aussi vérifier s’il conserve cette réponse lorsque la demande contient les irrégularités naturelles des échanges entre patients et services de santé.

Un audit utile devrait notamment tester la robustesse du système face aux fautes, aux différences de registre, aux formulations non standardisées et aux indices susceptibles de conduire à des écarts entre groupes de patients. L’objectif n’est pas de demander aux usagers d’écrire mieux pour être correctement orientés. C’est au système de ne pas pénaliser une personne parce que son message est imparfait.

Les chercheurs veulent ainsi développer des perturbations linguistiques plus naturelles, représentatives du vécu de populations diverses et vulnérables. Cette démarche est importante : tester un outil uniquement sur des textes impeccables revient à l’évaluer dans un environnement plus simple que celui où il pourrait être utilisé.

Il faut également distinguer l’usage expérimental, l’assistance à un professionnel et l’outil directement accessible au public. Plus une IA intervient près d’une décision de soin, plus ses limites doivent être connues, encadrées et surveillées. Une réponse générée automatiquement ne devrait pas faire disparaître les mécanismes de recours à un professionnel, surtout en présence de symptômes potentiellement graves.

Ce qu’il faut surveiller avant d’utiliser l’IA pour l’orientation médicale

Au 24 juin 2025, les LLM ouvrent des perspectives réelles pour organiser l’information, soutenir la recherche ou alléger certaines tâches administratives. Mais cette étude rappelle qu’une technologie performante dans une conversation générale ne devient pas automatiquement un outil clinique fiable.

Trois exigences se dégagent. D’abord, les systèmes doivent être évalués sur des messages réalistes, y compris ceux qui contiennent erreurs, hésitations et différences de style. Ensuite, les résultats doivent être examinés séparément selon les groupes de patients afin de repérer d’éventuelles inégalités de recommandations. Enfin, l’IA doit rester un appui sous contrôle humain plutôt qu’un substitut silencieux à l’évaluation médicale.

Pour les patients, la règle de prudence reste simple : un conseil conversationnel généré par une IA ne remplace ni un diagnostic ni une consultation. En cas de symptôme grave, inquiétant ou persistant, la qualité de l’orthographe, le ton du message ou l’avis d’un chatbot ne doivent jamais décider à la place d’un professionnel de santé.