Themis AI, la start-up du MIT qui apprend aux modèles à dire « je ne sais pas »

Une intelligence artificielle peut répondre avec aplomb à une question dont elle ne maîtrise pas la réponse. Cette apparente assurance est au cœur du problème des « hallucinations » : des contenus faux, imprécis ou insuffisamment étayés, formulés de manière souvent très convaincante. Pour les usages récréatifs, l’erreur peut être anodine. Dans la santé, la recherche pharmaceutique, les télécommunications ou l’industrie, elle peut coûter du temps, de l’argent, voire conduire à une mauvaise décision.

C’est ce point faible que veut attaquer Themis AI, une start-up issue du Massachusetts Institute of Technology, le MIT. Fondée en 2021 par la professeure Daniela Rus, elle entend donner aux systèmes d’IA une capacité qui semble élémentaire chez l’humain : reconnaître qu’ils sont face à une situation incertaine. Sa plateforme, appelée Capsa, est conçue pour alerter lorsqu’un modèle risque de s’aventurer au-delà de ce que ses données et son fonctionnement lui permettent réellement d’affirmer.

Pourquoi les hallucinations de l’IA posent-elles un problème ?

Le mot « hallucination » est surtout employé pour les IA génératives capables de produire du texte, des images ou du code. Un agent conversationnel peut, par exemple, inventer une référence, attribuer une affirmation à la mauvaise personne ou présenter comme établi un fait qu’il ne peut pas vérifier. Le résultat paraît crédible parce que le système est entraîné à produire une suite plausible, pas à garantir par lui-même la vérité de chaque phrase.

Le phénomène dépasse toutefois les chatbots. Tout système d’apprentissage automatique peut se tromper lorsqu’il reçoit des données différentes de celles sur lesquelles il a été entraîné, lorsque les informations disponibles sont incomplètes ou lorsque certains groupes sont sous-représentés dans ses données. Dans un outil de reconnaissance faciale, une telle faiblesse peut prendre la forme d’un biais de performance selon le genre ou l’origine des personnes. Dans un outil d’aide à la recherche médicale, elle peut conduire à surévaluer une piste insuffisamment documentée.

Le problème le plus délicat n’est donc pas seulement l’erreur. C’est l’absence de signal clair permettant à l’utilisateur de distinguer une prédiction robuste d’une réponse fragile. Or, plus un résultat est facile à lire et bien formulé, plus il est tentant de lui faire confiance sans demander de contrôle supplémentaire.

Themis AI veut ajouter un signal d’alerte aux modèles

Themis AI ne se présente pas comme le créateur d’un nouveau grand modèle généraliste. Son approche consiste plutôt à proposer un outil capable de s’intégrer à de nombreux systèmes d’IA existants. Avec Capsa, l’ambition est d’indiquer les moments où le modèle se trouve en terrain instable : confusion dans l’analyse, données insuffisantes ou partielles, ou encore risques de partialité.

En pratique, cette capacité revient à ajouter une couche de prudence au-dessus d’une prédiction. Au lieu de recevoir uniquement une réponse, une entreprise peut savoir si celle-ci semble suffisamment étayée par les informations disponibles. Elle peut alors décider de l’utiliser, de demander des données complémentaires ou de réserver le dossier à un examen humain.

Cette idée d’auto-évaluation répond à une question ancienne de la recherche en IA : comment permettre à une machine d’évaluer les limites de son propre jugement ? Pour Themis AI, cette faculté est particulièrement importante à mesure que les modèles quittent les laboratoires et entrent dans des processus de décision concrets.

Des réseaux télécoms aux données sismiques

La start-up met en avant des usages dans lesquels une prédiction incertaine peut avoir des conséquences opérationnelles immédiates. Dans les télécommunications, sa technologie a notamment été utilisée pour éviter des erreurs coûteuses dans la planification de réseaux. Dans ce domaine, un mauvais choix peut affecter le déploiement d’infrastructures et mobiliser inutilement des ressources importantes.

Themis AI cite aussi l’industrie pétrolière, où ses outils ont servi à analyser des données sismiques complexes. Ces jeux de données sont difficiles à interpréter et peuvent contenir des zones ambiguës. Un indicateur d’incertitude peut aider à ne pas confondre une inférence technique avec un résultat suffisamment fiable pour guider une décision industrielle.

La plateforme est également pensée pour les appareils aux ressources limitées. L’objectif est qu’ils puissent accomplir localement les tâches adaptées à leur puissance de calcul et solliciter un serveur plus puissant seulement lorsque c’est nécessaire. Cette répartition peut rendre l’usage de l’IA plus efficace sans demander à un appareil modeste de traiter seul les situations les plus complexes.

Pourquoi la santé et la découverte de médicaments sont des cas sensibles

Le potentiel de cette approche apparaît particulièrement net dans la recherche médicale et pharmaceutique. Les outils d’IA peuvent aider à explorer des molécules, à examiner des données biologiques ou à hiérarchiser des hypothèses de traitement. Mais une suggestion générée par un modèle ne vaut pas démonstration scientifique. Elle doit être confrontée à des expériences, à des essais et à l’expertise des professionnels.

Dans ce contexte, distinguer les prévisions fondées sur des preuves robustes de celles qui reposent davantage sur des hypothèses peut permettre de mieux répartir le temps et les ressources. Themis AI estime que cette capacité d’évaluation peut contribuer à optimiser les processus de découverte de médicaments.

L’enjeu est encore plus fort quand l’IA intervient à proximité d’une décision de soins, par exemple dans l’étude de traitements contre le cancer. Un logiciel ne doit pas être suivi parce qu’il répond avec assurance. Il doit pouvoir donner des éléments sur la fiabilité de son résultat, tandis que le professionnel conserve la responsabilité de l’interprétation et de la décision finale.

D’autres grands acteurs s’intéressent à l’IA appliquée à la santé. IBM et Roche se penchent notamment sur des usages liés à la gestion du diabète. Ces avancées nourrissent l’espoir d’une médecine plus personnalisée, mais elles renforcent aussi l’exigence de transparence, de validation et de contrôle des systèmes employés.

Réduire les biais passe aussi par les données

Les travaux à l’origine de Themis AI se sont aussi intéressés aux biais raciaux et de genre dans les systèmes de reconnaissance faciale. Ces biais peuvent être liés à des données d’entraînement déséquilibrées : si certaines catégories de personnes sont moins bien représentées, le modèle risque d’être moins performant pour elles.

L’approche de Themis ne se limite donc pas à relever un problème après coup. Elle vise aussi à identifier les zones où le modèle manque de fiabilité et à agir sur les données. Le rééquilibrage des jeux d’entraînement peut contribuer à réduire ces écarts, à condition d’être accompagné d’évaluations sérieuses sur des cas diversifiés.

Cette distinction est essentielle. Une IA peut afficher un niveau de confiance élevé et rester biaisée si ses données lui ont appris des régularités inéquitables. Inversement, un signal d’incertitude utile peut révéler que le modèle sort du périmètre où il a été correctement testé. L’enjeu consiste autant à améliorer le système qu’à empêcher son utilisation hors de ses limites connues.

Ce que l’auto-évaluation change, et ce qu’elle ne résout pas

Faire reconnaître ses limites à une IA modifie la manière de l’intégrer à un processus de décision. Dans un usage classique, la réponse du système peut arriver seule, sans indication claire sur les situations nécessitant une prudence particulière. Avec une couche d’évaluation, le résultat s’accompagne d’un signal qui peut déclencher une vérification ou une escalade vers un humain.

Cette approche ne remplace pourtant ni les tests, ni les garde-fous, ni les spécialistes. Une mesure d’incertitude doit elle-même être évaluée : si elle est mal réglée, elle peut sous-estimer un risque ou alerter trop souvent, au point de devenir inutile. Surtout, l’outil ne constitue pas un arbitre universel de la vérité. Il permet de mieux identifier les réponses sur lesquelles il serait imprudent de s’appuyer sans contrôle.

Pour les entreprises, la valeur d’une telle technologie dépendra donc de son intégration concrète. Il faut définir qui reçoit l’alerte, quelle vérification est demandée, quelles données peuvent être utilisées et dans quels cas l’IA ne doit tout simplement pas décider. Dans les secteurs critiques, la fiabilité se construit par l’ensemble de cette chaîne, pas par un seul indicateur.

Ce qu’il faut surveiller

Au 8 juin 2025, Themis AI illustre une évolution importante de l’intelligence artificielle : la recherche de systèmes moins catégoriques, capables d’exprimer leurs limites plutôt que de masquer leurs doutes derrière une réponse fluide. À mesure que l’IA sera déployée dans les infrastructures, la santé et la recherche, cette qualité pourrait devenir un critère central de confiance.

La question ne sera pas seulement de savoir si un modèle est performant en moyenne. Il faudra aussi mesurer sa capacité à reconnaître les cas pour lesquels il ne l’est pas, à traiter les biais présents dans ses données et à orienter les décisions incertaines vers une validation humaine. Pour les utilisateurs comme pour les organisations, la réponse « je ne sais pas » pourrait devenir l’une des réponses les plus utiles qu’une IA puisse fournir.