IA générative et thérapie : les pièges de la quête de certitude

Un chatbot ne dort pas, ne juge pas et répond en quelques secondes. Pour une personne anxieuse, isolée ou simplement traversée par un doute, cette disponibilité peut donner l’impression d’une présence rassurante. À mesure que les outils d’IA générative se diffusent, certains les utilisent pour mettre des mots sur leurs émotions, rejouer une conversation difficile ou obtenir un avis sur leur vie personnelle. Ce geste peut sembler anodin. Il soulève pourtant une question essentielle : que se passe-t-il lorsque la recherche de réconfort devient une recherche permanente de certitude auprès d’une machine ?

L’IA générative peut aider à formuler une pensée ou à découvrir des informations générales sur la santé mentale. Mais elle n’est pas un thérapeute. Elle ne connaît pas réellement la personne qui lui parle, ne suit pas son histoire dans un cadre clinique et ne peut pas garantir que ses réponses sont justes, adaptées ou sûres. Surtout, son apparente assurance peut encourager un mécanisme délicat : demander encore et encore une validation extérieure au lieu d’apprendre à tolérer le doute et à élaborer ses propres réponses.

Pourquoi les chatbots attirent-ils dans les moments de fragilité ?

Le succès des assistants conversationnels repose en partie sur trois qualités très concrètes : ils sont accessibles, rapides et conversationnels. Il n’est pas nécessaire de prendre rendez-vous, d’expliquer longuement son contexte à chaque échange ni de faire face au regard d’un interlocuteur. Pour certaines personnes, l’anonymat relatif et l’absence de jugement perçue abaissent aussi le seuil pour parler de sujets intimes.

Ces avantages répondent à de vrais besoins. L’accès à un accompagnement psychologique peut être difficile, pour des raisons de coût, de disponibilité ou de crainte d’être stigmatisé. Dans ce contexte, un chatbot peut apparaître comme une solution immédiate, voire comme une bouée de sauvetage lors d’un moment d’angoisse.

Mais cette disponibilité est aussi ce qui rend l’outil ambigu. Un assistant génératif est conçu pour poursuivre l’échange et produire une réponse plausible à partir des mots qui lui sont soumis. Il peut reformuler, proposer des pistes ou adopter un ton empathique. Cette fluidité ne signifie pas qu’il comprend les émotions, qu’il pose un diagnostic ou qu’il est capable de mesurer les conséquences de ses conseils dans une situation singulière.

Le risque central : confondre réassurance immédiate et travail thérapeutique

La thérapie ne vise pas toujours à faire disparaître rapidement l’inconfort. Elle peut au contraire amener à examiner des contradictions, des peurs, des habitudes relationnelles ou des souvenirs difficiles. Ce processus demande du temps, un cadre et parfois la capacité de rester un moment avec une question sans réponse définitive.

Un chatbot peut court-circuiter cette étape lorsqu’il devient le réflexe systématique face à chaque doute : « Est-ce que j’ai eu raison ? », « Que dois-je répondre ? », « Cette émotion est-elle normale ? », « Dis-moi avec certitude ce que cette personne pense de moi. » La personne reçoit alors une formulation claire, parfois apaisante, mais elle risque de revenir rapidement demander une nouvelle confirmation.

Dans le parcours de Tran, évoqué dans la publication d’origine, le recours au chatbot illustre cette tentation de remettre à une IA la délibération sur des situations émotionnellement chargées. L’enjeu n’est pas seulement la qualité de la réponse obtenue. Il concerne aussi la place donnée à l’outil : devient-il un appui ponctuel, ou l’instance qui valide les ressentis et oriente les décisions à la place de l’utilisateur ?

La difficulté est particulièrement grande pour les personnes sujettes à la rumination ou au besoin de réassurance. Une réponse catégorique peut calmer à court terme, tout en renforçant l’idée qu’il est impossible de faire face à l’incertitude sans consulter l’outil. À terme, cette habitude peut appauvrir l’introspection et retarder l’apprentissage de compétences essentielles : identifier ses émotions, les nuancer, les partager avec autrui et prendre des décisions malgré une part inévitable de doute.

Une IA ne garantit ni la vérité ni la neutralité

Les grands modèles de langage fonctionnent en prédisant, mot après mot, la suite la plus plausible d’un texte. Ce mécanisme permet des dialogues impressionnants, mais il comporte une limite fondamentale : produire une réponse cohérente n’équivaut pas à vérifier qu’elle est vraie.

Ces systèmes peuvent ainsi générer des hallucinations, c’est-à-dire des informations fausses ou des interprétations infondées présentées de façon convaincante. Dans une conversation sur la santé mentale, une erreur peut prendre plusieurs formes : explication hâtive d’un comportement, affirmation non fondée sur une relation, conseil inadapté, ou banalisation d’un symptôme qui mériterait une attention humaine.

Les biais constituent un second enjeu. Les modèles apprennent à partir de vastes ensembles de textes produits par des humains. Ils peuvent donc reproduire des représentations stéréotypées ou favoriser certaines manières de raconter la souffrance psychique. Une personne qui cherche une réponse sur son couple, son travail, son identité ou sa famille pourrait recevoir une formulation qui semble universelle alors qu’elle dépend de suppositions implicites.

Le problème n’est pas qu’un chatbot se trompe parfois, comme tout outil. C’est qu’il peut se tromper avec une aisance linguistique qui masque son incertitude. L’utilisateur doit garder à l’esprit qu’une réponse n’est pas une expertise, même si elle est détaillée, apaisante et formulée avec assurance.

Pourquoi la relation humaine reste au cœur de la thérapie

Un professionnel de santé mentale ne se limite pas à répondre à une question. Il installe un cadre, observe les évolutions dans le temps, revient sur les contradictions et adapte son approche à la personne. L’écoute ne passe pas uniquement par les phrases prononcées : les silences, les hésitations, les changements de ton et le contexte relationnel peuvent aussi avoir un sens.

Cette relation donne la possibilité d’explorer ce qui ne se formule pas encore clairement. Un thérapeute peut poser une question qui déplace le regard, relever un évitement ou aider à relier une émotion actuelle à une expérience passée. Il peut aussi reconnaître qu’une situation nécessite une prise en charge différente ou plus urgente. Ce travail s’inscrit dans une responsabilité et, selon le professionnel et le cadre d’exercice, dans des règles déontologiques et de confidentialité spécifiques.

Il ne s’agit pas d’opposer une conversation humaine parfaite à une machine nécessairement nocive. Les échanges humains peuvent eux aussi être difficiles, et entamer une thérapie demande parfois du courage. Mais la qualité thérapeutique ne se réduit pas à la disponibilité d’une réponse. Elle repose sur une alliance, c’est-à-dire une relation de confiance où l’on peut essayer, douter, désaccord et changement compris.

Quelles limites fixer si l’on utilise une IA pour son bien-être ?

L’IA générative peut avoir une utilité limitée et concrète. Elle peut aider à préparer des questions avant un rendez-vous, résumer des notions de psychoéducation, proposer des exercices généraux de respiration ou de journalisation, ou encore aider à organiser ce que l’on souhaite aborder avec un professionnel. Dans ces usages, elle reste un outil, non une autorité sur la vie psychique de son utilisateur.

Quelques repères permettent de réduire les risques :

• éviter de partager des informations identifiantes, des documents médicaux ou des détails très intimes sans avoir compris les règles de traitement des données du service ;
• ne pas utiliser les réponses du chatbot comme un diagnostic, une prescription ou une validation définitive d’une décision importante ;
• limiter les échanges répétitifs destinés à obtenir la même réassurance sous des formulations différentes ;
• confronter les informations importantes à un professionnel qualifié ou à des ressources de santé fiables ;
• parler de son usage de l’IA avec son thérapeute lorsque cet usage prend une place importante dans son quotidien.

La confidentialité mérite une vigilance particulière. Un chatbot grand public n’est pas, par nature, un cabinet de consultation. Les messages saisis peuvent être soumis aux conditions d’utilisation et à la politique de confidentialité de l’éditeur. Avant de confier des éléments sensibles, il est donc prudent de vérifier quelles données sont collectées, conservées ou susceptibles d’être utilisées selon les paramètres du service.

Dans quelles situations ne faut-il pas compter sur un chatbot ?

Une IA ne doit jamais être le seul recours face à une situation de danger ou à une détresse sévère. Les pensées suicidaires, le risque de passage à l’acte, les violences, la maltraitance, les symptômes psychiatriques graves ou une crise aiguë nécessitent une aide humaine immédiate et adaptée.

En France, en cas d’urgence, il faut contacter les secours, notamment le 15 ou le 112. Pour une prévention du suicide et une écoute spécialisée, le 3114 est accessible 24 heures sur 24 et 7 jours sur 7. Ces dispositifs ne sont pas interchangeables avec un assistant conversationnel, même si celui-ci emploie un langage empathique ou propose d’appeler à l’aide.

Il en va de même lorsqu’une personne envisage de modifier un traitement, de cesser un suivi ou d’interpréter des symptômes physiques et psychiques. Une réponse automatisée ne dispose ni du dossier médical complet ni des moyens d’évaluer l’urgence, les antécédents ou l’environnement de la personne.

Ce qu’il faut surveiller

L’enjeu des prochains usages de l’IA en santé mentale ne sera pas seulement technique. Il concernera la manière dont ces outils sont présentés, encadrés et intégrés dans les parcours de soin. Des services peuvent chercher à apporter du contenu de psychoéducation ou des fonctions d’organisation utiles. Ils devront néanmoins être clairs sur leurs limites, leurs données et la place irréductible de l’intervention humaine.

Pour les utilisateurs, le repère le plus simple reste le suivant : un outil peut aider à mettre de l’ordre dans une pensée, mais il ne doit pas devenir le lieu où l’on abandonne sa capacité de jugement. Le cheminement de Tran rappelle que retrouver une voix personnelle ne passe pas nécessairement par la réponse la plus fluide ou la plus rassurante. Il peut passer par l’acceptation de l’ambivalence, la discussion avec un proche ou un soignant, et la construction progressive de réponses qui appartiennent réellement à la personne concernée.