Fake news : SmoothDetector mise sur l’incertitude pour repérer les contenus suspects

Les fausses informations ne prennent plus seulement la forme d’un texte trompeur partagé des milliers de fois. Sur les réseaux sociaux, une affirmation peut être accompagnée d’une photographie sortie de son contexte, d’un visuel manipulé ou d’un message dont le ton donne une impression de crédibilité. Cette combinaison complique le travail de détection, particulièrement lorsque l’actualité s’accélère ou que le débat public est sous tension, comme en période électorale.

Des chercheurs de l’école Gina Cody de l’Université Concordia proposent une piste nommée SmoothDetector. L’outil ne prétend pas découvrir une vérité absolue à partir d’une publication isolée. Son originalité tient plutôt à la manière dont il traite le doute : il combine un réseau de neurones profond et un algorithme probabiliste pour estimer dans quelle mesure un contenu est susceptible d’être fallacieux. Une nuance importante dans un domaine où les signaux sont souvent incomplets, contradictoires ou ambigus.

Pourquoi les fake news sont-elles difficiles à détecter ?

Le terme « fake news » recouvre des réalités différentes : une information entièrement inventée, un fait authentique déformé, une image ancienne présentée comme récente, ou encore une publication qui mélange plusieurs éléments pour conduire le lecteur à une conclusion erronée. La difficulté n’est donc pas uniquement de repérer un mot, une image ou un compte isolé. Il faut aussi interpréter leur relation et leur contexte.

Les plateformes sociales ajoutent plusieurs couches de complexité :

• les publications sont brèves et souvent dépourvues de sources explicites ;
• un même récit peut circuler sous des formulations très différentes ;
• les images peuvent être recadrées, sorties de leur contexte ou associées à un texte qui ne leur correspond pas ;
• les informations de dernière minute évoluent vite, et des messages contradictoires peuvent être partagés avant que les faits ne soient établis.

Dans ce paysage, un système qui répondrait seulement « vrai » ou « faux » risque de se montrer trop catégorique. Une publication peut contenir un détail plausible mais une interprétation trompeuse. À l’inverse, une information exacte peut sembler étrange parce qu’elle est formulée de manière inhabituelle ou qu’elle ne correspond pas aux exemples déjà vus par l’algorithme.

SmoothDetector, un modèle qui relie texte et image

Le projet SmoothDetector a été mis au point par des chercheurs de l’école Gina Cody de l’Université Concordia, avec la participation du professeur Nizar Bouguila, du Concordia Institute for Information Systems Engineering, ainsi que d’assistants professeurs de plusieurs universités. L’ambition est de dépasser les approches qui examinent une seule forme de donnée à la fois.

Le système s’appuie sur des publications annotées provenant de X aux États-Unis et de Weibo en Chine. Une annotation signifie que les exemples fournis au modèle ont été associés à une information servant de repère pendant son entraînement. À partir de ces exemples, SmoothDetector apprend à chercher des régularités dans le texte et les éléments visuels.

L’idée centrale est celle de représentations latentes partagées. Derrière cette expression technique se trouve un principe assez intuitif : le logiciel transforme les mots et les images en représentations mathématiques, puis cherche des liens entre elles. Si un texte et un visuel semblent raconter la même histoire, cette cohérence constitue une information utile. S’ils paraissent en décalage, le système peut y voir un signal à examiner.

Cette méthode ne revient pas à identifier automatiquement une photographie truquée, ni à déterminer qu’une phrase est fausse parce qu’elle contient certains mots. Elle vise à détecter des modèles cachés dans l’association de plusieurs indices. C’est précisément ce qui rend les approches multimodales intéressantes pour les réseaux sociaux, où le sens d’un message dépend fréquemment autant de son image que de sa légende.

Quel rôle joue l’encodage positionnel ?

Pour comprendre une phrase, il ne suffit pas de reconnaître tous ses mots. Leur ordre change le sens. L’encodage positionnel est une technique qui donne au modèle une indication sur la position des éléments qu’il analyse. Il l’aide ainsi à mieux saisir les relations entre les mots, le contexte d’une affirmation et la cohérence générale d’une phrase.

Dans SmoothDetector, cette capacité participe notamment à l’analyse de la tonalité et du sens contextuel. Le terme de « tonalité » ne doit pas être compris comme une lecture infaillible des intentions d’un auteur. Il désigne ici la faculté de ne pas traiter chaque mot de manière isolée, mais de l’interpréter en fonction de ceux qui l’entourent.

Selon la présentation du projet, le même principe d’analyse contextuelle est également appliqué aux images. Un visuel n’est alors pas réduit à une simple étiquette, comme « personne », « bâtiment » ou « véhicule ». Il entre dans une analyse plus large, mise en regard du contenu textuel associé. Cette articulation constitue l’un des éléments distinctifs du modèle.

Pourquoi ajouter une probabilité au verdict ?

La composante probabiliste est au cœur de SmoothDetector. Un classifieur traditionnel peut être conçu pour ranger un contenu dans une catégorie, par exemple « fiable » ou « fallacieux ». Dans la réalité, les données ne permettent pas toujours une séparation aussi nette. Les chercheurs proposent donc d’intégrer l’incertitude à l’évaluation.

Concrètement, au lieu de produire uniquement une décision binaire, le modèle cherche à évaluer la probabilité qu’un article ou une publication appartienne à un état donné. Cela permet de rendre compte du degré de confiance de l’algorithme. Un résultat incertain peut appeler une vérification humaine ou l’examen de sources complémentaires, plutôt qu’une suppression ou un étiquetage automatique trop rapide.

Cette approche entend aussi mieux prendre en compte les corrélations positives et négatives présentes dans les données. Certaines associations entre texte et image peuvent renforcer un soupçon, d’autres au contraire rendre une interprétation fallacieuse moins probable. L’enjeu est de donner au système une marge d’appréciation plus adaptée à des publications qui ne se ressemblent pas toutes.

Un score n’est pas une preuve de vérité

L’intérêt d’une probabilité est évident, mais son interprétation demande de la prudence. Un score élevé ne remplace pas des éléments vérifiables, tels que la provenance d’un document, sa date, les sources citées ou les témoignages disponibles. Il indique que le contenu ressemble, selon le modèle et les données dont il a appris, à des exemples associés à la désinformation.

Cette distinction est fondamentale. Un algorithme peut repérer une incohérence entre une image et un texte sans connaître toute l’histoire de cette image. Il peut aussi se tromper lorsqu’un événement inédit ne ressemble à rien de présent dans les données annotées. Les faux positifs, lorsqu’un contenu légitime est signalé à tort, et les faux négatifs, lorsqu’un contenu trompeur passe entre les mailles du filet, restent donc des risques réels.

Les informations de dernière minute illustrent particulièrement cette limite. Dans les premières heures d’un événement, les témoignages sont fragmentaires, les chiffres peuvent évoluer et les autorités elles-mêmes peuvent rectifier leurs communications. Un outil de détection doit alors être capable d’exprimer son incertitude, sans confondre une information encore incomplète avec une tentative délibérée de manipulation.

De X et Weibo à d’autres plateformes : un transfert à démontrer

L’entraînement de SmoothDetector repose sur des données issues de X et de Weibo. Ce choix permet d’étudier deux environnements sociaux distincts, avec leurs usages et leurs contenus propres. Il soulève aussi une question essentielle pour toute intelligence artificielle : un modèle entraîné sur certaines plateformes peut-il conserver sa pertinence sur d’autres ?

Les codes visuels, la longueur des messages, les langues employées, les pratiques de partage et les formes de modération changent d’un réseau à l’autre. Un système capable d’identifier certains signaux sur X ou Weibo ne peut donc pas être supposé automatiquement efficace sur l’ensemble du web. Les chercheurs envisagent un transfert du modèle vers d’autres plateformes, mais cette adaptation reste un chantier à explorer.

L’intégration de l’audio et de la vidéo fait également partie des perspectives annoncées. Elle serait importante à mesure que les messages trompeurs empruntent davantage de formats. Mais analyser ces contenus demande de réunir plusieurs informations à la fois : les paroles prononcées, les images, leur chronologie et leur contexte de diffusion. Au 9 avril 2025, SmoothDetector analyse le texte et les images, et l’extension aux formats audio et vidéo n’est pas présentée comme une capacité déjà opérationnelle.

Une recherche utile, mais pas un bouton anti-désinformation

La lutte contre les fake news ne peut pas reposer sur un seul outil. Les plateformes ont besoin de mécanismes de signalement, de règles de modération compréhensibles et de procédures de recours. Les rédactions et les organismes de vérification ont besoin de temps, de documents et d’accès aux sources. Enfin, les internautes ont besoin de réflexes simples : examiner l’auteur d’une publication, chercher l’origine d’une image, consulter plusieurs sources et se méfier des messages qui provoquent une réaction immédiate.

Dans cet ensemble, SmoothDetector pourrait servir d’outil de tri et d’aide à l’analyse. Son intérêt réside moins dans la promesse d’éliminer toute désinformation que dans sa tentative de mieux traiter l’ambiguïté. En combinant texte, image et incertitude probabiliste, il s’attaque à l’un des problèmes les plus concrets de la circulation de l’information : un contenu n’est pas toujours manifestement faux, mais il peut mériter une attention renforcée.

Ce qu’il faut surveiller

Les prochaines étapes du projet seront déterminantes pour juger de sa portée pratique. Il faudra notamment observer comment SmoothDetector se comporte face à des contenus inédits, à plusieurs langues, à d’autres plateformes et à des informations publiées dans l’urgence. La capacité à intégrer l’audio et la vidéo devra aussi être évaluée lorsqu’elle sera effectivement développée.

La question de l’usage est tout aussi importante que la qualité technique. Qui consulterait les scores produits par un tel système ? Dans quelles conditions un contenu serait-il signalé, revu ou éventuellement limité ? Quel niveau d’explication serait donné aux utilisateurs et aux personnes dont les publications sont concernées ? Une IA probabiliste peut rendre visible le doute, mais son déploiement devra éviter de transformer cette incertitude en décision opaque.

Pour les chercheurs, l’objectif est d’enrichir l’analyse des contenus multimodaux. Pour le public, l’enseignement est plus immédiat : face à une publication virale, l’apparence de cohérence entre un texte et une image ne suffit pas à garantir qu’elle est fiable. C’est précisément dans cet espace entre impression de crédibilité et vérification que des outils comme SmoothDetector cherchent à intervenir.