Whisper d’OpenAI : les hallucinations qui inquiètent les transcriptions médicales

Transcrire automatiquement une consultation, une réunion ou un entretien peut faire gagner un temps précieux. Mais une transcription n’a de valeur que si elle restitue fidèlement ce qui a été dit. Or Whisper, le système de reconnaissance vocale publié par OpenAI, est accusé par plusieurs chercheurs de franchir une limite particulièrement préoccupante : non seulement mal entendre certains mots, mais aussi ajouter des phrases qui n’existent pas dans l’enregistrement.

Ce phénomène est connu sous le nom d’« hallucination ». Habituellement employé à propos des assistants conversationnels, le terme désigne ici un résultat dans lequel le logiciel produit une information plausible en apparence, mais absente de la source audio. Le problème prend une tout autre dimension lorsque l’outil est utilisé pour documenter une consultation médicale, résumer un échange sensible ou alimenter un dossier professionnel.

Des recherches qui documentent des contenus inventés

Les alertes portent sur des erreurs ordinaires de reconnaissance vocale, mais surtout sur leur nature. Confondre un nom propre et un autre, omettre un mot dans un passage couvert par du bruit ou mal découper une phrase sont des défauts connus des logiciels de dictée. Une hallucination est différente : le modèle génère du texte sans fondement dans l’audio.

Une recherche menée à l’Université du Michigan a ainsi relevé des erreurs factuelles dans 80 % des transcriptions audio étudiées. Un autre groupe d’informaticiens a analysé plus de 13 000 enregistrements et dénombré 187 hallucinations. Les méthodologies et les corpus ne sont pas les mêmes, ce qui interdit de résumer ces résultats à un taux unique applicable à tous les usages. Ils convergent néanmoins sur un point : Whisper peut, dans certaines conditions, insérer des éléments non prononcés.

Ces chiffres ne veulent pas dire que chaque transcription faite avec Whisper est erronée, ni que toutes les erreurs auraient les mêmes conséquences. Ils rappellent en revanche une règle essentielle : une transcription automatique est une proposition produite par un modèle statistique, pas un compte rendu certifié de l’audio.

Comment un outil de transcription peut-il « inventer » du texte ?

Whisper est un système de reconnaissance automatique de la parole. Son objectif est de convertir une séquence sonore en texte. Pour y parvenir, il ne se contente pas d’isoler chaque mot comme le ferait un dictionnaire : il mobilise aussi le contexte linguistique pour estimer la suite la plus vraisemblable d’une phrase.

Cette capacité contextuelle est utile lorsque l’audio est rapide, accentué ou imparfait. Elle peut aider le système à choisir entre plusieurs mots proches phonétiquement. Mais elle a une contrepartie. Lorsque le signal est faible, ambigu, silencieux, coupé ou parasité, le modèle peut privilégier une suite de mots qui semble cohérente sur le plan du langage plutôt que signaler qu’il ne comprend pas.

Autrement dit, un logiciel peut avoir tendance à « compléter » un passage incertain. Dans un texte de fiction ou un assistant de rédaction, cette aptitude peut être recherchée. Dans une transcription censée refléter fidèlement des paroles, elle constitue un risque : la priorité devrait être de ne rien ajouter à ce qui a été prononcé.

Les conditions d’enregistrement comptent également. Une conversation à plusieurs voix, un micro éloigné, des interruptions, des mots techniques, des noms de médicaments ou un mélange de langues augmentent mécaniquement la difficulté. Cela ne suffit pas à expliquer chaque hallucination observée, mais rappelle qu’aucun résultat automatique ne doit être détaché de la qualité de la source sonore.

Pourquoi les usages médicaux sont-ils particulièrement sensibles ?

Dans le secteur médical, une transcription peut servir à produire des notes de consultation, à préparer un compte rendu ou à faciliter la tenue d’un dossier. Les bénéfices potentiels sont importants : moins de saisie manuelle et davantage de temps consacré au patient. Mais les informations prononcées lors d’un rendez-vous peuvent concerner des symptômes, des antécédents, des traitements, des allergies ou des recommandations. Une phrase inventée n’est donc pas une simple maladresse éditoriale.

La société Nabla utilise Whisper pour transcrire des visites médicales et indique avoir enregistré environ sept millions de transcriptions. Cette ampleur ne prouve pas que ces transcriptions sont toutes défaillantes. Elle montre toutefois que les erreurs possibles d’un système de reconnaissance vocale ne relèvent plus seulement d’un usage expérimental ou personnel.

Martin Raison, responsable technique chez Nabla, explique que les enregistrements audio sont supprimés afin de protéger les données. Cette décision répond à une préoccupation légitime de confidentialité. Elle soulève cependant une difficulté pratique : si le fichier sonore n’est plus disponible, il devient plus difficile de comparer ultérieurement le texte à la parole d’origine lorsqu’une anomalie est signalée.

Les professionnels de santé travaillent par ailleurs dans des conditions de temps contraint. Une relecture rapide de textes générés automatiquement peut alléger certaines tâches, mais elle n’offre pas la même garantie qu’une vérification attentive des éléments cliniques importants. Le gain de productivité dépend donc de la qualité du contrôle, pas seulement de la vitesse à laquelle le texte apparaît à l’écran.

Des erreurs qui peuvent modifier profondément le sens d’un propos

Les exemples rapportés illustrent pourquoi les chercheurs ne considèrent pas toutes les hallucinations comme anodines. Une phrase banale peut être transformée en une affirmation grave. Dans un cas cité, un garçon est présenté comme ayant un couteau alors que l’enregistrement ne justifiait pas cette formulation.

Deux professeurs de l’université Cornell et de l’Université de Virginie ont estimé qu’environ 40 % des hallucinations qu’ils avaient étudiées pouvaient induire en erreur. Le danger ne tient pas seulement à l’apparition de mots superflus. Il tient au fait que certains ajouts peuvent infléchir l’interprétation d’une personne, de son comportement ou de sa situation.

Les critères raciaux et les références à l’identité ethnique ont également été mentionnés parmi les éléments susceptibles d’être modifiés à tort. Dans ce type de cas, l’erreur dépasse la seule fiabilité technique. Elle peut projeter sur une personne une caractéristique, une opinion ou une intention qu’elle n’a jamais exprimée, avec des effets sociaux ou professionnels potentiellement sérieux.

Une diffusion rapide malgré les alertes

Les réserves exprimées par les chercheurs n’ont pas empêché Whisper de s’imposer comme une brique technologique très utilisée. Le logiciel est accessible en open source, ce qui permet à des développeurs de l’intégrer dans leurs propres applications. La plateforme Hugging Face a enregistré plus de 4,2 millions de téléchargements de Whisper.

L’outil est aussi intégré dans des systèmes proposés par de grands acteurs, parmi lesquels Oracle et Microsoft. Cette diffusion s’explique par plusieurs atouts : il peut être installé et adapté dans des produits variés, il intéresse les équipes qui travaillent sur la dictée, les sous-titres ou l’archivage d’entretiens, et il répond à un besoin très concret de conversion de la parole en texte.

Cette popularité rend la question de la responsabilité plus urgente. OpenAI fournit le modèle, mais les intégrateurs choisissent ses réglages, la nature des données qu’ils lui confient, les avertissements adressés aux utilisateurs et les étapes de validation. L’organisation qui déploie l’outil dans un hôpital, une entreprise ou un service public doit, elle aussi, définir ce qui peut être automatisé et ce qui exige une vérification humaine.

Quelles protections mettre en place avant d’utiliser une transcription automatique ?

L’enjeu n’est pas nécessairement d’écarter tout recours à la reconnaissance vocale. Il est de distinguer les contextes dans lesquels un brouillon automatique est acceptable de ceux dans lesquels il ne doit jamais devenir une source de vérité autonome.

Dans un usage sensible, plusieurs principes s’imposent :

• conserver une possibilité de confronter le texte à l’audio d’origine, dans un cadre compatible avec les obligations de confidentialité ;
• faire relire les informations importantes par une personne compétente avant de les verser dans un dossier ou de prendre une décision ;
• prévoir une procédure claire pour corriger une transcription contestée ;
• tester l’outil sur les conditions réelles d’enregistrement, les accents, les vocabulaires et les langues rencontrés par les utilisateurs ;
• informer les personnes concernées lorsqu’un système automatique contribue à la production d’un document qui les décrit.

La vigilance ne doit pas se limiter au secteur médical. Dans la justice, l’éducation, le journalisme, les ressources humaines ou les services sociaux, une transcription peut influencer une évaluation, une décision ou la réputation d’une personne. Plus le document est susceptible d’avoir des effets concrets, plus le contrôle doit être exigeant.

Ce qu’il faut surveiller

L’affaire Whisper met en lumière une tension appelée à durer : les outils d’IA deviennent assez performants pour accélérer des tâches de bureau, mais leur aisance rédactionnelle peut masquer leurs erreurs. Dans une transcription, l’objectif n’est pas de produire le texte le plus naturel possible. C’est de restituer avec exactitude ce qui est audible, y compris lorsque la réponse honnête devrait être : « passage incertain ».

Les débats à venir porteront donc sur les normes de déploiement de ces outils dans les domaines à risque, sur les mécanismes d’audit, sur la conservation sécurisée des enregistrements et sur la répartition des responsabilités entre concepteurs, intégrateurs et utilisateurs. À mesure que la transcription automatisée se banalise, la question centrale restera simple : qui vérifie que les mots attribués à une personne sont bien les siens ?