Désinformation : pourquoi les chatbots peinent encore à distinguer le vrai du faux

Les assistants conversationnels sont devenus, pour beaucoup d’internautes, une porte d’entrée vers l’actualité. On leur demande d’expliquer un conflit, de résumer une décision politique ou de vérifier une affirmation virale. Or une étude de NewsGuard, publiée en août 2025, invite à ne pas confondre réponse immédiate et information vérifiée : les grands outils d’IA générative testés ont relayé des récits faux dans environ 35 % des cas soumis à leur évaluation.

Le chiffre mérite d’être lu avec précision. Il ne signifie pas que 35 % de toutes les réponses d’une IA sont nécessairement fausses. Il mesure, dans un protocole ciblé sur des récits mensongers connus, la propension de ces systèmes à les reprendre au lieu de les identifier et de les réfuter. Mais la tendance observée est préoccupante : selon NewsGuard, cette proportion a presque doublé en un an.

Le problème dépasse l’erreur ponctuelle ou la faute de frappe. Lorsqu’un chatbot reprend avec assurance une intox sur une élection, une crise internationale ou une personnalité publique, il peut donner à un récit infondé une apparence de synthèse neutre. Sa formulation fluide, sa capacité à citer des pages web et le ton affirmatif de ses réponses rendent l’erreur plus difficile à repérer pour un lecteur pressé.

Ce que mesure le baromètre de NewsGuard

NewsGuard a audité dix outils d’IA parmi les principaux services disponibles en août 2025. Son baromètre mensuel s’intéresse à leur réaction face à des affirmations inexactes circulant en ligne. L’objectif n’est donc pas d’évaluer la qualité littéraire d’un texte ou les performances d’un modèle en programmation, mais une capacité essentielle dans les usages d’information : reconnaître qu’un récit est faux, incertain ou manipulé.

Les résultats soulignent à la fois une amélioration et une dégradation. Les systèmes refusent beaucoup moins de répondre qu’auparavant et parviennent davantage à contredire certaines intox. En revanche, lorsqu’ils se trompent, ils peuvent s’appuyer sur des contenus web peu fiables et les présenter comme des éléments d’information pertinents.

Ces chiffres appellent une prudence méthodologique. Un baromètre de ce type teste des situations précises et ne résume pas tous les usages possibles d’un chatbot. Il permet toutefois de comparer des comportements face à un risque concret : celui de transformer des contenus douteux trouvés sur internet en réponse apparemment crédible.

Les écarts sont importants selon les modèles

Tous les chatbots ne réagissent pas de la même façon aux faux récits. Le relevé de NewsGuard fait apparaître des différences sensibles entre les services, y compris parmi ceux qui disposent d’outils de recherche en ligne et de garde-fous contre les contenus problématiques.

Dans les résultats rapportés pour août 2025, Claude affiche un taux de diffusion de fausses informations de 10 %. Gemini atteint 16,67 %. À l’inverse, Perplexity, pourtant souvent apprécié pour la présentation de sources dans ses réponses, commet des erreurs dans 46,67 % des cas évalués par NewsGuard.

Ces pourcentages ne permettent pas de désigner un chatbot infaillible. Ils ne constituent pas non plus un classement général de l’intelligence des modèles. Ils montrent plutôt qu’un même scénario de désinformation peut être traité très différemment selon la manière dont un service recherche, classe et cite les informations disponibles.

Il faut aussi éviter une idée reçue : la présence de références au bas d’une réponse ne vaut pas validation automatique. Un lien peut conduire à une source primaire solide, comme une institution ou une étude, mais aussi à un site opaque, à un média imitant les codes de la presse locale ou à une page créée spécifiquement pour faire circuler une intox. Le chatbot peut correctement reproduire ce qu’il a lu tout en relayant une contre-vérité.

Pourquoi l’accès au web améliore et fragilise les réponses

Pendant longtemps, les assistants conversationnels se sont montrés réticents face aux questions portant sur l’actualité immédiate. Leurs connaissances pouvaient être anciennes et ils signalaient plus facilement leurs limites. D’après NewsGuard, avant l’intégration de la recherche sur le web, ils ne répondaient pas dans 31 % des cas examinés.

Cette retenue était frustrante pour l’utilisateur, mais elle réduisait aussi certaines occasions de répéter une rumeur récente. Avec la recherche en ligne, le taux de non-réponse tombe à 0 %. Les chatbots deviennent donc plus utiles pour traiter une information fraîche, mais aussi plus exposés aux défauts du web qu’ils consultent.

L’accès à internet n’est donc pas, en soi, une mauvaise évolution. Il explique aussi la hausse de la capacité de réfutation observée par NewsGuard, passée de 51 % à 65 %. Lorsqu’un chatbot consulte des sources solides et récentes, il peut corriger un récit obsolète ou faux qu’un modèle limité à ses données d’entraînement aurait eu plus de mal à traiter.

La difficulté est la hiérarchie des sources. Sur une requête d’actualité, un système doit distinguer une dépêche fiable, un document officiel, un média établi, un billet militant, un site de faible qualité et une page de propagande. Cette opération est complexe, notamment quand plusieurs pages reprennent la même affirmation erronée. La multiplication apparente des sources ne prouve pas qu’une information est corroborée : elles peuvent toutes dériver d’une même publication initiale.

Les campagnes de désinformation savent s’adapter

NewsGuard alerte sur une stratégie particulièrement efficace contre les systèmes de recherche et les assistants conversationnels : créer ou alimenter des sites qui imitent l’apparence de médias locaux ou spécialisés. Des acteurs situés à l’étranger peuvent ainsi publier des articles conçus pour sembler ordinaires, puis les faire remonter dans les résultats consultés par les IA.

Le mécanisme est simple. Un récit trompeur est mis en ligne, reformulé sur plusieurs sites, enrichi de titres plausibles et de détails secondaires. Lorsque l’utilisateur interroge un chatbot, celui-ci peut retrouver ces contenus et les incorporer à sa réponse. La machine ne cherche pas nécessairement à mentir : elle échoue à déterminer que les pages sur lesquelles elle s’appuie participent à une opération de manipulation.

Les sujets sensibles sont les plus exposés. Les conflits, les élections, les crises sanitaires ou les catastrophes sont propices à la circulation de fausses affirmations, parce que les informations évoluent vite, que les images sont sorties de leur contexte et que les publics cherchent des explications immédiates. Une réponse erronée peut alors circuler à son tour sous la forme d’une capture d’écran, détachée de ses éventuelles réserves.

Hallucination, erreur et désinformation : des problèmes liés mais distincts

On emploie souvent le mot « hallucination » pour toute erreur produite par une IA. Le terme désigne généralement une information inventée par le modèle : une date inexistante, une étude fictive, une citation attribuée à tort ou une référence introuvable. La désinformation étudiée ici est différente, même si le résultat est tout aussi problématique : le système reprend une fausse information qui existe déjà sur le web.

Dans le premier cas, l’IA fabrique une erreur en complétant une réponse de façon plausible. Dans le second, elle sélectionne mal les éléments de son environnement informationnel. Les deux risques peuvent se cumuler. Un chatbot peut citer un site peu fiable, résumer de travers son contenu, puis ajouter des détails non vérifiés afin de produire une réponse cohérente.

Cette distinction aide à comprendre pourquoi les mises à jour des modèles ne règlent pas tout. Améliorer le raisonnement, la compréhension des langues ou la fluidité du texte ne suffit pas à garantir la qualité des sources consultées. Il faut également renforcer les mécanismes de classement, la transparence sur les références employées, la détection des réseaux de sites trompeurs et la capacité du modèle à exprimer une incertitude plutôt qu’à répondre coûte que coûte.

Jensen Huang, PDG de Nvidia, a lui aussi souligné l’enjeu d’atteindre un niveau où les réponses des IA inspirent confiance. Les données publiées par NewsGuard près d’un an plus tard rappellent qu’une IA perçue comme performante ne devient pas automatiquement un intermédiaire informationnel fiable. La confiance ne repose pas seulement sur la rapidité ou le naturel d’une réponse, mais sur la possibilité d’en vérifier l’origine et le raisonnement.

Comment utiliser un chatbot sans relayer une intox

La prudence ne suppose pas de renoncer aux outils d’IA. Ils peuvent aider à comprendre un sujet, à générer des pistes de recherche ou à reformuler un document complexe. Mais l’utilisateur conserve un rôle actif, particulièrement sur l’actualité et les sujets controversés.

Quelques réflexes réduisent fortement le risque de prendre une réponse erronée pour un fait établi :

• demander les sources précises utilisées et ouvrir celles qui sont citées ;
• privilégier les documents officiels, les médias reconnus et les publications dont l’auteur, la date et la méthode sont identifiables ;
• vérifier si plusieurs sources réellement indépendantes confirment le même fait ;
• se méfier des formulations définitives lorsqu’un événement est récent, contesté ou en évolution ;
• demander au chatbot ce qui pourrait contredire sa réponse, sans considérer cette seconde réponse comme une vérification suffisante.

Pour les entreprises, les administrations et les établissements scolaires, le sujet est aussi organisationnel. Une réponse de chatbot ne devrait pas être intégrée telle quelle à une note, une communication ou une décision. Former les équipes à vérifier les sources, prévoir une validation humaine et définir les usages autorisés sont des mesures simples pour éviter qu’une erreur générée à grande vitesse ne se transforme en erreur collective.

Ce qu’il faut surveiller

Le principal enjeu des prochains mois sera moins la capacité des chatbots à répondre que leur capacité à reconnaître les situations dans lesquelles ils ne disposent pas d’éléments assez fiables. La baisse du refus de réponse améliore l’expérience utilisateur, mais elle peut créer une illusion de compétence universelle.

Les éditeurs de modèles devront démontrer que l’intégration du web ne se limite pas à ajouter des liens. Il leur faudra mieux distinguer les sources crédibles des sources manipulatrices, expliquer les références retenues et limiter la reprise de récits coordonnés. Les évaluations indépendantes, comme celles de NewsGuard, ont un rôle utile : elles rendent visibles des défaillances que les démonstrations de produits ne montrent pas toujours.

Pour le public, la règle reste simple : une IA peut accélérer la recherche d’information, mais elle ne remplace ni le recoupement ni l’esprit critique. Sa réponse est un point de départ. Elle ne doit pas devenir le dernier mot, surtout lorsqu’elle concerne une information sensible ou susceptible d’avoir des conséquences réelles.