IA médicale : pourquoi les médecins doivent rester au cœur de l’innovation

L’intelligence artificielle entre progressivement dans les cabinets, les laboratoires et les hôpitaux. Elle peut repérer des signaux dans des volumes considérables de données, aider à organiser des informations cliniques ou formuler des recommandations. Cette promesse est réelle, mais elle ne doit pas masquer une évidence : en médecine, une réponse produite par une machine n’a de valeur que si elle est comprise, vérifiée et replacée dans l’histoire singulière d’un patient.

Au 5 juin 2025, la question n’est donc plus seulement de savoir si l’IA peut accomplir certaines tâches médicales. Elle est de déterminer comment l’intégrer sans déplacer sur les cliniciens une responsabilité impossible à assumer. Car le médecin doit à la fois bénéficier de l’outil, en contrôler les résultats et rester comptable de la décision finale. L’enjeu est moins de choisir entre l’humain et la machine que d’organiser une coopération fiable entre les deux.

Ce que les machines intelligentes peuvent apporter aux soins

Dans le domaine médical, l’expression « machines intelligentes » recouvre des logiciels capables de traiter des données et de produire un résultat utile à une tâche précise. Selon leur conception et leur usage, ces systèmes peuvent classer des informations, détecter des régularités, estimer un risque ou proposer une aide à la décision. Ils ne « comprennent » pas un malade comme un soignant le ferait : ils calculent à partir des données sur lesquelles ils ont été entraînés ou qu’ils reçoivent.

Leur intérêt tient notamment à leur capacité à analyser rapidement des ensembles de données qu’une personne ne pourrait examiner seule dans le même délai. Imagerie, résultats biologiques, comptes rendus, données administratives ou historiques médicaux peuvent ainsi devenir plus faciles à parcourir. Utilisée de façon appropriée, l’IA peut contribuer à :

• repérer plus tôt des indices associés à une maladie ;
• soutenir la personnalisation d’un traitement ou d’un suivi ;
• aider à anticiper certaines complications ou infections ;
• alléger une partie du travail de tri, de documentation et d’analyse ;
• rendre des informations cliniques plus accessibles au moment de la consultation.

Ces usages ne produisent pas tous le même niveau de risque. Un outil qui organise des rendez-vous n’a évidemment pas les mêmes conséquences qu’un logiciel qui signale une anomalie ou influence une décision thérapeutique. Cette distinction est essentielle : plus une recommandation peut modifier la prise en charge d’un patient, plus son évaluation doit être rigoureuse.

Pourquoi une recommandation ne suffit jamais à décider

Une recommandation algorithmique peut paraître objective parce qu’elle est chiffrée ou formulée avec assurance. Pourtant, elle reste le produit d’un système technique : qualité des données, choix de conception, critères retenus, conditions d’utilisation et manière d’afficher le résultat influencent tous sa réponse. Un même outil peut s’avérer pertinent dans un service et moins fiable dans un autre si les patients, les pratiques ou les données disponibles diffèrent.

Le clinicien, lui, ne traite pas une moyenne statistique. Il prend en compte des symptômes parfois incomplets, les antécédents, les contre-indications, les préférences du patient, l’évolution d’une situation et le contexte humain. Une alerte peut être cohérente sur le plan informatique tout en étant inadaptée à la personne concernée.

C’est pourquoi l’IA doit rester une aide à la décision, et non une délégation de la décision. Le professionnel doit pouvoir interroger le résultat : sur quelles informations repose-t-il ? Quels éléments n’a-t-il pas pris en compte ? Le niveau de certitude est-il suffisant ? Le résultat correspond-il à l’examen clinique ? Cette démarche n’est pas une méfiance archaïque envers la technologie. Elle constitue précisément la condition de son bon usage.

Le risque inverse existe aussi. Si les équipes sont sollicitées par trop d’alertes, de scores ou de recommandations, l’outil destiné à faire gagner du temps peut devenir une source de surcharge cognitive. Une interface utile ne doit pas seulement produire davantage d’informations. Elle doit présenter, au bon moment, celles qui permettent réellement d’agir.

Faux positifs et faux négatifs : les erreurs que l’IA ne fait pas disparaître

Aucun système d’aide ne supprime l’incertitude médicale. Deux types d’erreurs illustrent bien cette limite. Un faux positif survient lorsqu’un outil signale un problème qui n’existe pas. Il peut inquiéter inutilement, entraîner des examens complémentaires ou détourner l’attention. Un faux négatif correspond au cas inverse : un problème réel n’est pas détecté. Il peut retarder une prise en charge nécessaire.

Ces notions ne sont pas propres à l’IA : elles existent dans de nombreux examens, tests et démarches de diagnostic. Mais elles prennent une dimension particulière avec des systèmes capables de traiter un grand nombre de cas à grande vitesse. Une erreur peut alors être répétée à grande échelle si personne ne l’identifie, ne la signale et ne corrige le dispositif.

La qualité d’un outil ne se résume donc pas à une promesse de précision. Il faut également se demander dans quelles conditions il fonctionne, pour quels patients il a été évalué, ce qu’il fait lorsque les données sont incomplètes et comment ses erreurs sont détectées après son déploiement. Les médecins ont besoin d’indicateurs compréhensibles, de procédures de recours et de la possibilité de contredire la machine sans que cela devienne une exception difficile à justifier.

Le « dilemme surhumain » qui pèse sur les médecins

L’intégration de l’IA peut créer une situation paradoxale pour les cliniciens. Lorsqu’un algorithme formule une recommandation, le médecin est invité à la considérer. S’il la suit et qu’elle est erronée, il peut devoir expliquer pourquoi il ne l’a pas écartée. S’il l’ignore et qu’un problème survient, il peut aussi devoir justifier pourquoi il n’a pas tenu compte de l’outil. L’expression de « dilemme surhumain du médecin » résume cette attente contradictoire : demander au praticien de juger instantanément la fiabilité d’un système complexe, tout en lui attribuant la responsabilité de son utilisation.

Cette pression est d’autant plus sensible que les patients peuvent percevoir l’usage de l’IA comme une promesse de performance accrue. Une erreur associée à un outil algorithmique risque alors d’être jugée plus sévèrement qu’une erreur issue du seul jugement humain. Or l’objectif réaliste n’est pas l’infaillibilité. La médecine demeure une pratique fondée sur des connaissances, des probabilités et une discussion éclairée avec le patient.

Pour éviter que l’IA ne devienne un piège de responsabilité, les établissements doivent préciser son statut dans le parcours de soins. Qui choisit l’outil ? Qui vérifie qu’il est adapté à l’usage envisagé ? Comment les anomalies sont-elles remontées ? Dans quelles situations la recommandation doit-elle être ignorée, confirmée ou discutée avec un spécialiste ? Ces questions doivent recevoir des réponses avant le déploiement, non après un incident.

Des règles claires pour utiliser l’IA sans perdre la confiance

L’arrivée rapide de nouveaux outils peut dépasser la capacité des organisations à fixer des règles homogènes. Pourtant, l’encadrement n’est pas un frein extérieur à l’innovation : il donne aux soignants et aux patients les conditions de confiance nécessaires à l’adoption d’une technologie.

En Europe, l’IA est appelée à s’inscrire dans un environnement réglementaire comprenant notamment le règlement européen sur l’intelligence artificielle, ainsi que les règles applicables aux produits et dispositifs médicaux lorsque l’usage du logiciel le justifie. Dans la pratique, cela ne dispense pas les hôpitaux et les professionnels de définir leurs propres procédures : un cadre général ne remplace pas une organisation concrète dans un service.

Quelques principes doivent guider cette organisation :

• définir l’usage prévu, afin de ne pas employer un outil au-delà de ce pour quoi il a été conçu ;
• préserver la confidentialité des données de santé, particulièrement sensibles ;
• documenter le rôle du professionnel, l’information disponible et les conditions d’utilisation ;
• surveiller l’outil dans la durée, car les pratiques, les données et les besoins évoluent ;
• prévoir un recours humain, notamment lorsque le résultat est incohérent, incertain ou susceptible de modifier fortement la prise en charge.

La transparence ne signifie pas que chaque médecin doit pouvoir reproduire le fonctionnement mathématique d’un modèle. Elle signifie qu’il doit disposer d’éléments suffisants pour savoir ce que l’outil fait, sur quelles données il s’appuie, dans quelles situations il est moins robuste et comment interpréter son résultat.

Former les cliniciens et concevoir avec eux

La formation est souvent présentée comme la dernière étape d’un projet d’IA. Elle devrait en être l’un des points de départ. Les cliniciens n’ont pas tous besoin de devenir spécialistes des algorithmes, mais ils doivent être capables d’évaluer une recommandation, de reconnaître les principales limites d’un système et de savoir quand demander une vérification.

Cette culture commune peut inclure les notions de faux positifs et de faux négatifs, les biais liés aux données, l’importance de la validation dans le contexte local, la protection des informations médicales et les règles d’escalade lorsqu’un doute apparaît. Elle permet surtout de sortir d’une opposition stérile entre enthousiasme technologique et rejet de principe.

Les développeurs ont, eux aussi, une responsabilité. Un outil conçu loin de la réalité des soins peut multiplier les clics, imposer des alertes inutiles ou fournir des réponses impossibles à interpréter dans le temps limité d’une consultation. Associer médecins, infirmiers, autres professionnels de santé et, lorsque cela est pertinent, patients, dès la conception améliore les chances de créer un système réellement utilisable.

L’interface compte autant que l’algorithme. Une recommandation doit être lisible, contextualisée et accompagnée d’informations permettant de comprendre son degré de pertinence. L’objectif n’est pas de submerger le soignant sous des détails techniques, mais de lui donner une prise effective sur l’outil.

Ce qu’il faut surveiller pour une innovation utile

La médecine de demain ne sera pas plus humaine parce qu’elle utilisera de l’IA, ni moins humaine parce qu’elle fera appel à des logiciels. Tout dépendra de la manière dont ces systèmes seront choisis, évalués et intégrés dans le soin. La technologie peut accélérer l’accès à l’information et soutenir certaines décisions. Elle ne remplace ni l’écoute, ni l’examen clinique, ni la responsabilité attachée à une relation de confiance.

Les prochains projets devront être jugés sur des critères simples : améliorent-ils réellement la qualité des soins ? Réduisent-ils une charge sans en créer une autre ? Leurs limites sont-elles compréhensibles ? Les professionnels peuvent-ils les contester ? Les patients savent-ils quelle place l’outil a tenue dans leur prise en charge ?

L’innovation la plus solide ne consistera pas à placer une machine à la place du médecin. Elle consistera à donner aux équipes de soins des outils dont elles comprennent les forces et les faiblesses, avec des règles claires pour les utiliser. C’est à cette condition que l’IA pourra devenir un soutien crédible pour la médecine, plutôt qu’une promesse technique ajoutant de l’incertitude à une pratique déjà exigeante.