Whisper d’OpenAI : l’aide à la transcription médicale face au risque d’hallucination

La promesse est immédiatement compréhensible pour tout soignant : parler à son ordinateur plutôt que consacrer de longues minutes à ressaisir une consultation. Avec Whisper, son modèle de reconnaissance vocale, OpenAI a fourni une brique technique capable de convertir un enregistrement en texte. Des éditeurs l’intègrent désormais à des assistants qui préparent des comptes rendus médicaux. Le gain de temps potentiel est réel, mais il ne doit pas masquer une limite déterminante : une transcription produite par une IA peut parfois contenir des mots, voire des phrases, qui n’ont jamais été prononcés.

Cette erreur porte un nom désormais courant dans le domaine de l’intelligence artificielle : l’hallucination. Dans le cas d’un outil vocal, il ne s’agit pas d’une opinion discutable ou d’une légère faute de frappe. Le système peut générer un passage plausible à la place d’un silence, d’un son mal perçu ou d’un segment audio ambigu. Pour une conversation banale, le problème peut être gênant. Dans un dossier médical, il impose une règle simple : la validation finale doit rester entre les mains d’un professionnel.

Whisper, un modèle qui transforme l’audio en texte

Publié par OpenAI en septembre 2022, Whisper est un système de reconnaissance automatique de la parole. Son principe consiste à analyser un fichier audio, puis à prédire progressivement les mots les plus probables sous forme de texte. Le modèle a été entraîné sur 680 000 heures de données audio multilingues et multitâches, selon OpenAI. Il peut notamment transcrire de la parole, détecter une langue et effectuer certaines traductions vers l’anglais.

Cette polyvalence explique son succès auprès des développeurs. Whisper n’est pas, à lui seul, un logiciel de prise de notes médicales prêt à l’emploi. C’est un composant que des entreprises peuvent intégrer dans une application, avec une interface, des règles métier et une connexion éventuelle à un dossier patient informatisé. Entre le modèle brut et l’écran utilisé par un médecin, il y a donc de nombreuses décisions techniques et organisationnelles.

La reconnaissance vocale ne se résume pas à une dictée traditionnelle. Pour restituer une phrase cohérente, un modèle comme Whisper s’appuie à la fois sur les signaux sonores et sur les régularités du langage. C’est précisément ce qui lui permet de rester utile face à un accent, une diction imparfaite ou un bruit de fond. Mais cette aptitude à compléter le probable peut aussi le conduire à produire un texte crédible qui ne reflète pas fidèlement l’enregistrement.

Pourquoi Nabla mise sur la voix pour alléger les tâches administratives

La start-up parisienne Nabla illustre cet usage très concret avec Nabla Copilot. Son assistant vise à diminuer la pression documentaire qui pèse sur les professionnels de santé et, à terme, à contribuer à réduire leur épuisement professionnel. L’idée n’est pas de confier le diagnostic à la machine : l’outil sert à générer plus efficacement des notes à partir des échanges et à s’intégrer aux systèmes de dossier de santé électronique.

Dans ce dispositif, Whisper apporte la couche de conversion voix-texte. Nabla a indiqué avoir affiné son outil pour le langage médical. Cette adaptation est importante : une conversation clinique mêle symptômes, antécédents, noms de médicaments, posologies, résultats d’examens et abréviations. Une confusion sur un seul terme peut modifier le sens d’une phrase entière.

Le bénéfice recherché est donc double. D’une part, le clinicien peut consacrer davantage d’attention au patient au lieu de taper continuellement sur un clavier. D’autre part, une note préremplie peut réduire la durée des tâches réalisées après la consultation. Mais ces bénéfices ne valent que si le professionnel relit le document, corrige les imprécisions et confirme ce qui sera effectivement versé au dossier.

Les hallucinations, une erreur différente d’un simple mot mal reconnu

Tous les systèmes de reconnaissance vocale font des erreurs. Un nom propre mal orthographié, un mot homophone confondu ou une ponctuation imparfaite sont des défauts connus. L’hallucination est plus préoccupante lorsqu’elle ajoute du contenu qui n’est pas présent dans l’audio. Elle peut prendre la forme d’une formule répétitive, d’une phrase hors sujet ou d’une affirmation qui semble parfaitement intégrée au reste de la transcription.

Des chercheurs des universités de Cornell et de Washington ont rapporté qu’environ 1 % des transcriptions audio générées par Whisper dans leur étude comportaient des phrases hallucinées. Ce chiffre doit être interprété avec rigueur. Il ne signifie pas qu’une phrase sur cent, dans tous les usages et toutes les langues, serait nécessairement inventée. Il décrit un résultat obtenu sur un corpus et avec une méthode de test précis. Il suffit néanmoins à souligner qu’un excellent taux de performance global ne peut pas remplacer un contrôle adapté au niveau de risque.

La situation est particulièrement délicate en médecine. Un compte rendu erroné peut être lu plus tard par un autre professionnel, influencer la compréhension d’un antécédent ou créer une incohérence dans le suivi du patient. Même lorsqu’une erreur est finalement corrigée, sa détection demande du temps, ce qui réduit une partie du bénéfice initial de l’automatisation.

Les causes possibles sont multiples : qualité médiocre de l’enregistrement, silences prolongés, conversation qui se chevauche, bruit ambiant, accents, vocabulaire rare ou contexte linguistique incomplet. Un modèle de langage ne possède pas une compréhension clinique au sens humain. Il produit la suite textuelle qui lui paraît la plus vraisemblable à partir du signal et de son entraînement.

Une amélioration observée, mais pas une garantie d’exactitude

Le comportement d’un modèle peut évoluer après une mise à jour. Dans le test évoqué par les chercheurs, une mise à jour de Whisper intervenue à la fin de 2023 a réduit le problème : 12 segments sur 187 continuaient à produire des hallucinations. C’est une amélioration notable par rapport au constat initial, et elle montre que les défauts identifiés peuvent être mesurés puis partiellement corrigés.

Il serait pourtant imprudent d’en tirer la conclusion que le risque est réglé. Un modèle n’est pas utilisé dans un laboratoire avec des extraits parfaitement délimités, mais dans des environnements réels : une salle de consultation, des microphones différents, des interruptions, plusieurs locuteurs, des données de santé parfois très spécialisées. La performance ne se résume donc pas à un seul pourcentage.

Pour évaluer sérieusement un assistant vocal médical, un établissement ou un cabinet devrait notamment examiner les situations qui lui sont propres :

• les spécialités concernées et leur vocabulaire spécifique ;
• les langues parlées par les patients et les professionnels ;
• la qualité habituelle des équipements audio ;
• la manière dont les brouillons sont relus, corrigés et validés ;
• la possibilité de retrouver la source audio lorsqu’une transcription est contestée.

Que recommande OpenAI pour les contextes à haut risque ?

OpenAI appelle à la prudence pour les usages dans lesquels une erreur de transcription peut produire des conséquences graves. Sa recommandation est cohérente avec le fonctionnement même d’un système statistique : Whisper peut être très performant sans être infaillible. Dans les contextes à haut risque, il ne doit donc pas servir de seule source pour prendre ou justifier une décision.

En santé, cette précaution se traduit par une séparation claire des rôles. L’IA peut écouter, retranscrire et proposer un brouillon structuré. Le professionnel de santé doit vérifier les éléments importants, décider de ce qui est exact, compléter les informations manquantes et assumer la responsabilité du document final. Cette organisation évite de présenter un outil d’assistance administrative comme un dispositif capable de décider à la place du clinicien.

La vigilance concerne aussi les patients. Une consultation contient des données intimes, parfois très sensibles. Avant d’enregistrer et de traiter une conversation, les organisations doivent s’assurer que les règles de confidentialité, de sécurité, de conservation et d’information des personnes sont respectées. Il faut en particulier connaître le parcours des fichiers audio et des transcriptions, les personnes qui peuvent y accéder et les modalités de suppression ou d’archivage.

La confidentialité, l’autre condition d’une adoption responsable

Le débat sur Whisper ne porte pas uniquement sur le taux d’erreur. Pour qu’un outil vocal soit acceptable dans un parcours de soins, il faut pouvoir déterminer qui traite les données et à quelles fins. Le fait qu’un modèle puisse fonctionner localement ou être proposé via un service distant ne dispense pas l’utilisateur de ces vérifications : la configuration concrète choisie par l’éditeur et l’établissement reste déterminante.

La traçabilité est tout aussi importante. Un clinicien doit pouvoir distinguer ce qui provient directement de la conversation, ce qui a été généré automatiquement et ce qu’il a lui-même validé ou modifié. Cette transparence aide à corriger une erreur, à répondre à une question du patient et à conserver la confiance dans le dossier médical.

L’enjeu n’est donc pas d’opposer la technologie aux soignants. Bien conçue, la reconnaissance vocale peut retirer une partie de la saisie répétitive et redonner du temps à l’échange clinique. Mal encadrée, elle risque au contraire d’ajouter une nouvelle étape de contrôle, voire d’introduire des erreurs difficiles à voir parce qu’elles sont formulées avec assurance.

Ce qu’il faut surveiller avant de généraliser ces assistants

À la date du 29 octobre 2024, Whisper montre autant la promesse que la limite des IA génératives appliquées à la voix. Ses capacités de transcription ouvrent des possibilités utiles dans la santé, mais aussi dans les médias, l’éducation ou les services juridiques. Dans tous ces domaines, la même question demeure : quel niveau d’erreur est acceptable, et qui est chargé de repérer les exceptions ?

Les prochaines améliorations devront être évaluées non seulement sur la vitesse ou la qualité moyenne des transcriptions, mais aussi sur les cas rares et les erreurs silencieuses. Il faudra suivre la transparence des éditeurs sur leurs tests, la capacité des équipes médicales à signaler les anomalies et l’existence de procédures de relecture réellement appliquées.

La bonne mesure du progrès ne sera pas le nombre de mots produits automatiquement. Ce sera la capacité de ces outils à faire gagner du temps sans dégrader la fiabilité du dossier ni la relation de confiance entre le patient et son soignant.