Whisper à l’hôpital : les transcriptions inventées qui inquiètent les chercheurs

Un outil de transcription n’est pas censé interpréter une consultation, encore moins l’enrichir. Pourtant, Whisper, le logiciel de reconnaissance vocale publié par OpenAI, peut parfois ajouter dans un texte des mots, des phrases ou des commentaires qui n’ont jamais été prononcés dans l’audio. Dans la vie courante, une telle erreur est gênante. Dans un dossier médical, elle peut altérer le récit d’un patient, fausser une information transmise au soignant et compliquer une prise en charge.

L’alerte, rapportée en octobre 2024 par des chercheurs et des développeurs ayant étudié l’outil, intervient au moment où des systèmes de prise de notes assistée par l’intelligence artificielle sont progressivement déployés dans des établissements de santé. Leur promesse est concrète : libérer du temps médical en écoutant la consultation et en préparant une transcription ou un compte rendu. Mais leur utilisation impose une séparation très nette entre l’aide administrative et l’établissement d’une information médicale fiable.

Whisper, un outil qui transforme la parole en texte

Whisper est un modèle de reconnaissance automatique de la parole conçu par OpenAI. Son rôle est de convertir un enregistrement sonore en texte. À la différence d’un simple logiciel qui associerait mécaniquement un son à un mot, un modèle d’IA s’appuie sur des régularités apprises à partir de grandes quantités de données : il tente de reconnaître ce qui a été dit, mais aussi ce qui lui semble plausible dans le contexte.

Cette capacité est utile lorsque le son est imparfait, que le débit est rapide ou qu’un accent rend la parole plus difficile à identifier. Elle comporte toutefois un revers : au lieu de signaler clairement qu’un extrait est inaudible ou incertain, le système peut compléter un passage par une formulation vraisemblable, mais fausse. C’est ce que l’on appelle une hallucination.

Dans le cas d’une transcription, une hallucination ne signifie pas une légère faute d’orthographe ou un mot mal accordé. Elle désigne l’apparition de contenu non présent dans l’enregistrement. Les observations citées par l’enquête font état de mentions non prononcées pouvant inclure des commentaires racistes ou une rhétorique violente. Le problème est donc autant celui de l’exactitude factuelle que celui de la nature potentiellement choquante des propos ajoutés.

Ce que les chercheurs ont constaté dans les transcriptions

Les chiffres rapportés doivent être lus avec précision. Une étude mentionnée dans l’enquête a relevé des hallucinations préoccupantes dans près de 40 % de milliers d’échantillons de transcription. Des chercheurs ayant mené leurs propres travaux ont par ailleurs observé des erreurs dans 80 % des transcriptions examinées. Ces deux données ne mesurent pas nécessairement le même phénomène : toute erreur de transcription n’est pas une hallucination, et les méthodes d’analyse peuvent différer.

Un ingénieur en apprentissage automatique a également indiqué avoir repéré des hallucinations dans environ la moitié de plus de 100 heures de transcriptions traitées. D’autres développeurs ont signalé des taux d’hallucination presque universels dans leurs essais avec Whisper. Ces retours ne suffisent pas, à eux seuls, à établir un taux unique applicable à chaque usage, à chaque langue ou à chaque environnement sonore. Ils convergent néanmoins vers un constat : le risque ne peut pas être considéré comme théorique.

Le caractère particulièrement troublant de ces signalements tient au fait que certaines inventions auraient été relevées même sur des enregistrements décrits comme bien réalisés et clairs. Le bruit ambiant, les silences, une conversation interrompue ou des voix qui se chevauchent restent des facteurs de difficulté évidents. Mais un outil destiné à assister le travail médical ne peut pas être jugé seulement sur ses performances dans des conditions idéales.

Pourquoi une erreur de transcription devient critique à l’hôpital

Dans un établissement de santé, une conversation peut contenir un symptôme, une allergie, un antécédent, une posologie, une inquiétude exprimée par le patient ou une instruction du praticien. Une transcription erronée n’a pas automatiquement pour conséquence une mauvaise décision : les professionnels disposent d’autres sources d’information et exercent leur jugement clinique. Toutefois, si une note non vérifiée rejoint le dossier, elle peut influencer les échanges ultérieurs et se propager entre les personnes qui prennent en charge le patient.

Le risque est particulièrement élevé lorsque l’outil est utilisé pour enregistrer ou résumer des consultations entre médecins et patients. Un terme médical confondu peut déjà être problématique. L’ajout d’une phrase qui n’a jamais été formulée l’est davantage, car il donne au faux contenu l’apparence d’une trace écrite fiable.

Les conséquences possibles évoquées par les spécialistes sont sérieuses : malentendus, diagnostic erroné, traitement inapproprié ou information trompeuse au sein du dossier médical. Il importe cependant de distinguer un risque identifié d’un dommage clinique établi dans chaque cas. Les observations rapportées alertent sur la possibilité d’effets graves si les sorties de l’IA sont prises pour exactes sans vérification, et non sur une preuve que chaque hallucination a conduit à un préjudice médical.

Cette nuance ne diminue pas l’enjeu. En santé, la fiabilité ne se résume pas à un bon taux de réussite moyen. Une erreur rare mais grave peut suffire à imposer des garde-fous très stricts, surtout lorsque le système traite un grand nombre de consultations.

L’avertissement d’OpenAI face aux usages à haut risque

L’adoption de Whisper dans des produits destinés aux professionnels de santé soulève une difficulté supplémentaire : OpenAI a averti que son outil ne devait pas être utilisé dans des domaines à haut risque. Or la production de notes liées à une consultation médicale s’inscrit précisément dans un environnement où une information inexacte peut avoir des effets importants.

Cette mise en garde ne signifie pas que toute technologie de transcription est interdite dans un cabinet ou un hôpital. Elle signifie qu’un outil généraliste ne doit pas devenir une source de vérité clinique par défaut. Dans ce cadre, la responsabilité ne repose pas uniquement sur l’éditeur du modèle : elle concerne aussi les entreprises qui l’intègrent dans leurs produits, les établissements qui les déploient et les professionnels qui valident les documents produits.

Un ancien ingénieur d’OpenAI a estimé que le problème pouvait être résolu si l’entreprise choisissait d’en faire une priorité. La formulation est importante : les hallucinations ne relèvent pas d’une fatalité qu’il faudrait accepter au nom du progrès technologique. Elles appellent des travaux sur les modèles, des mécanismes de détection, des évaluations rigoureuses et des règles claires pour éviter que le logiciel ne rédige au-delà de ce qu’il entend.

Les garde-fous nécessaires avant d’intégrer une note au dossier

La première protection est simple en principe, mais exigeante en pratique : un professionnel doit relire attentivement et corriger la transcription avant qu’elle soit utilisée. La rapidité de l’IA ne doit pas créer une confiance excessive, notamment parce qu’un texte fluide et grammaticalement correct peut sembler plus fiable qu’il ne l’est réellement.

Plusieurs précautions découlent directement des problèmes relevés :

• conserver l’enregistrement audio lorsque le cadre légal et le consentement le permettent, afin de pouvoir vérifier une phrase litigieuse ;
• rendre visibles les passages incertains au lieu de les remplir automatiquement ;
• exiger une validation humaine explicite avant l’ajout d’un texte dans le dossier médical ;
• tester l’outil sur les langues, accents, spécialités et conditions sonores réellement rencontrés par l’établissement ;
• prévoir une procédure de correction lorsque le patient ou un soignant constate une erreur.

Le patient peut aussi jouer un rôle utile en demandant l’accès à ses notes médicales et en signalant les éléments qui ne reflètent pas la consultation. Il ne lui revient pas de contrôler seul le fonctionnement d’un système d’IA, mais il doit pouvoir faire corriger une information erronée qui le concerne.

Confidentialité : l’autre question derrière l’enregistrement des consultations

La précision n’est pas le seul enjeu. Enregistrer un rendez-vous médical puis le traiter avec un outil numérique implique des données parmi les plus sensibles : informations sur l’état de santé, histoire personnelle, traitements ou situation familiale. Le recours à des prestataires technologiques impose donc de savoir où les fichiers sont envoyés, qui peut y accéder, combien de temps ils sont conservés et à quelles fins ils peuvent être utilisés.

Le cas de la législatrice californienne Rebecca Bauer-Kahan, qui a refusé que son fournisseur de soins partage ses enregistrements audio avec des entreprises technologiques, illustre cette préoccupation. Son choix rappelle qu’une consultation ne peut pas être assimilée à une simple conversation commerciale : la confidentialité est une condition de la confiance entre le patient et le système de soins.

Des entreprises comme Nabla cherchent à adapter des outils de ce type au secteur médical et indiquent avoir déjà transcrit des millions de visites. Cette expérience ne supprime pas les risques soulevés par Whisper. Elle souligne au contraire l’ampleur de la responsabilité : plus le volume de consultations traitées est important, plus une faible proportion d’erreurs peut représenter de nombreux dossiers à contrôler, tout en renforçant les exigences de protection des données.

Ce qu’il faut surveiller avant une généralisation

La question n’est pas de savoir si l’IA peut être utile à l’hôpital. Elle l’est déjà pour certaines tâches, notamment lorsqu’elle réduit la charge documentaire sans retirer au soignant la maîtrise de la décision. La question est de déterminer le niveau de fiabilité requis selon l’usage et la manière de prouver que ce niveau est atteint.

Dans le domaine de la transcription médicale, quatre points méritent une attention particulière : la publication d’évaluations indépendantes sur des données représentatives, la capacité du logiciel à signaler ses incertitudes, l’existence d’une validation humaine réelle et la clarté des règles de confidentialité. Les régulateurs ont également un rôle à jouer pour imposer des standards de sécurité et d’exactitude adaptés aux outils employés dans les hôpitaux.

L’épisode Whisper rappelle enfin une règle essentielle de l’intelligence artificielle générative : un système peut être impressionnant, rapide et souvent juste, sans être suffisamment fiable pour produire seul une information sensible. En médecine, la bonne technologie n’est pas celle qui écrit le plus vite. C’est celle dont les limites sont connues, contrôlées et compatibles avec la sécurité des patients.