ChatGPT et Gemini face au risque des sources de propagande en ligne

Les réponses fluides de ChatGPT, Gemini et des autres assistants conversationnels peuvent donner l’impression qu’ils trient naturellement le vrai du faux. Leur fonctionnement est pourtant bien différent : ces systèmes apprennent des régularités dans des masses considérables de textes. Dans cet univers, la désinformation, les récits partisans et la propagande peuvent exister, comme ils existent sur le web. La question n’est donc pas seulement de savoir si un contenu douteux est accessible en ligne, mais de comprendre comment il peut influencer un modèle et quelles protections peuvent limiter ce risque.

Le point mérite d’être traité avec précision. À ce stade, les entreprises ne publient pas la liste exhaustive des pages, des livres, des bases de code ou des autres documents ayant servi à entraîner leurs modèles. Il n’est donc pas possible d’affirmer, sans éléments techniques vérifiables, qu’un site de propagande précis a nourri directement ChatGPT ou Gemini, ni de mesurer sa part dans leurs réponses. En revanche, le risque général lié aux corpus constitués à grande échelle est réel et fait partie des enjeux centraux de l’intelligence artificielle générative.

Pourquoi les corpus d’entraînement posent une question de fiabilité

Un grand modèle de langage est entraîné à partir d’un très vaste ensemble de contenus. Son objectif initial n’est pas de constituer une encyclopédie certifiée : il consiste à apprendre à prédire le mot, ou plus exactement le fragment de mot, susceptible de suivre une séquence de texte. À force d’exemples, il acquiert des capacités de rédaction, de résumé, de traduction et de raisonnement apparent.

Les développeurs combinent généralement plusieurs catégories de données : contenus publiquement accessibles, données sous licence et données produites ou annotées par des personnes. OpenAI indique ainsi que GPT-4 a été développé à partir de données publiquement disponibles, de données sous licence et de données créées par des formateurs humains. Google ne publie pas non plus l’inventaire complet des données ayant servi à entraîner la famille Gemini.

Cette absence d’inventaire détaillé ne signifie pas que les modèles absorbent indistinctement tout Internet. Les entreprises appliquent des filtres pour écarter une partie des contenus indésirables, dupliqués, pauvres en information ou manifestement dangereux. Mais filtrer des corpus de très grande taille est une tâche imparfaite : une même affirmation trompeuse peut être recopiée sur de nombreux sites, reformulée dans plusieurs langues et mêlée à des informations exactes.

Une source de propagande ne se reconnaît pas toujours par un signal technique simple. Elle peut emprunter l’apparence d’un média, sélectionner des faits réels pour orienter l’interprétation, citer des documents hors contexte ou relayer des récits coordonnés. Pour un système automatisé, la popularité ou la répétition d’une formulation ne constituent pas une preuve de vérité.

La présence potentielle d’un contenu ne prouve pas son influence

Parler de « sources d’inspiration » peut prêter à confusion. Un modèle ne consulte pas nécessairement une page donnée au moment où il répond. Durant l’entraînement, les textes servent à ajuster un très grand nombre de paramètres mathématiques. Le résultat n’est pas une bibliothèque dans laquelle l’assistant irait chercher mécaniquement une citation.

Il faut donc distinguer deux situations, souvent confondues par les utilisateurs : l’apprentissage initial du modèle et la recherche sur le web, lorsque cette fonction est proposée et activée. Dans le premier cas, il est difficile de retracer l’origine exacte d’une phrase générée. Dans le second, l’assistant peut présenter des références consultables, qui doivent néanmoins être vérifiées comme n’importe quelle source en ligne.

Cette distinction est essentielle pour évaluer une accusation ou une inquiétude. Si une réponse reprend un récit biaisé, cela ne permet pas à lui seul d’identifier son origine. Le modèle a pu rencontrer des formulations proches dans des contenus très différents, ou produire une synthèse erronée sans reproduire un texte précis. À l’inverse, l’exclusion d’un site particulier ne garantit pas que toutes les versions de son récit ont disparu du corpus.

Comment la désinformation peut-elle apparaître dans une réponse d’IA ?

Le premier danger tient à la vraisemblance. Un assistant conversationnel peut présenter un récit avec un ton assuré, une chronologie bien ordonnée et des explications détaillées. Cette qualité rédactionnelle peut masquer l’absence de vérification factuelle. Lorsqu’un sujet est sensible, géopolitique ou très récent, une information plausible n’est pas forcément une information fiable.

Le deuxième danger est celui des biais de cadrage. Une réponse peut omettre un élément déterminant, privilégier un vocabulaire chargé ou donner une importance excessive à une thèse marginale. Ces effets ne supposent pas nécessairement une intention malveillante du modèle : ils peuvent provenir de déséquilibres dans les données, des formulations de la question ou de la difficulté à arbitrer entre des versions contradictoires d’un événement.

Enfin, les assistants peuvent produire des erreurs de toutes pièces, souvent qualifiées d’« hallucinations ». Ils peuvent par exemple attribuer une déclaration à une personne, inventer une référence ou associer des faits exacts dans une relation qui ne l’est pas. Dans le domaine de la propagande, ce défaut est particulièrement préoccupant, car une fausse attribution peut donner une crédibilité artificielle à un récit politique.

Les utilisateurs risquent alors de devenir, sans le vouloir, des relais de désinformation. Copier une réponse dans un message, un travail scolaire ou une publication sociale peut accélérer la circulation d’une erreur. La confiance accordée au ton de l’outil ne doit donc pas remplacer le travail de vérification.

Quels garde-fous les éditeurs peuvent-ils mettre en place ?

La réduction des risques intervient à plusieurs étapes. Avant l’entraînement, les équipes peuvent dédupliquer les contenus, exclure certaines sources, retirer des données personnelles ou appliquer des critères de qualité. Après l’entraînement initial, elles peuvent entraîner les modèles à mieux suivre des consignes de sécurité, à refuser certains contenus et à exprimer davantage d’incertitude lorsqu’une réponse n’est pas suffisamment étayée.

Les tests internes et externes complètent ce dispositif. Ils cherchent notamment à repérer les comportements problématiques sur des sujets sensibles : informations électorales, conflits, santé, discours haineux ou contenus manipulés. Les outils de signalement proposés aux utilisateurs fournissent aussi des retours utiles pour identifier une réponse trompeuse ou inappropriée.

Ces protections ont toutefois des limites concrètes :

• Aucun filtrage automatique ne détecte parfaitement l’intention, le contexte et la fiabilité d’un texte.
• Les données douteuses circulent souvent sous des formes multiples, y compris dans des contenus qui ne paraissent pas ouvertement propagandistes.
• Un modèle peut reproduire une erreur sans avoir mémorisé sa source exacte, simplement parce qu’il a appris des associations de mots fréquentes.
• La modération doit éviter deux écueils, laisser circuler un récit trompeur et supprimer abusivement une information légitime ou un débat documenté.

Transparence et régulation : ce que prévoit l’Union européenne

Le débat sur les données d’entraînement dépasse les choix techniques des entreprises. Il concerne aussi la capacité des chercheurs, des régulateurs, des médias et du public à comprendre les limites d’un outil largement utilisé. La transparence ne signifie pas nécessairement la publication intégrale de chaque donnée, ce qui poserait des questions de confidentialité, de sécurité et de droits d’auteur. Elle implique en revanche de fournir des informations suffisamment utiles pour évaluer les risques.

Dans l’Union européenne, le règlement sur l’intelligence artificielle, souvent appelé AI Act, est entré en vigueur le 1er août 2024. Ses dispositions s’appliquent progressivement. Pour les modèles d’IA à usage général, le texte prévoit notamment de la documentation technique, une politique de respect du droit d’auteur de l’Union européenne et la publication d’un résumé suffisamment détaillé du contenu utilisé pour l’entraînement. Ces obligations sont appelées à s’appliquer à partir du 2 août 2025.

Le règlement ne crée pas une liste officielle de sources autorisées et n’impose pas que chaque information intégrée dans un corpus soit préalablement certifiée vraie. Une telle exigence serait difficile à mettre en œuvre à l’échelle du web. Son ambition est plutôt de renforcer la responsabilité des fournisseurs, la connaissance des risques et les moyens de contrôle.

Pour les contenus susceptibles d’influencer l’opinion publique, les experts appellent aussi à développer des évaluations ciblées : capacité d’un modèle à reprendre un récit trompeur, résistance aux instructions visant à contourner les garde-fous, qualité de l’attribution des sources et traitement des demandes portant sur des événements récents.

Comment utiliser ChatGPT ou Gemini avec esprit critique

Les assistants peuvent être utiles pour clarifier un sujet, résumer un document ou dégager des pistes de recherche. Ils ne doivent pas devenir l’unique arbitre d’une information contestée. Quelques réflexes simples réduisent fortement les risques.

D’abord, pour une affirmation importante, il faut demander des sources précises, puis les ouvrir et les lire. Une référence ne vaut que par son auteur, sa date, son contexte et les éléments qu’elle apporte réellement. Ensuite, il est préférable de comparer plusieurs sources indépendantes, en particulier une source primaire, comme un document officiel ou une étude, et des médias reconnus pour leur travail de vérification.

Il est également utile de reformuler la question. Au lieu de demander « Est-ce vrai ? », on peut demander quels faits sont établis, quelles affirmations sont contestées, quelles sources soutiennent chacune des versions et quelles informations manquent pour trancher. Cette méthode oblige l’outil à séparer davantage les niveaux de certitude.

Enfin, toute réponse relative à une crise, à une élection, à un conflit ou à une personnalité publique mérite une vigilance renforcée. Ce sont des domaines où l’information évolue vite et où la manipulation cherche précisément à exploiter l’émotion, l’urgence ou l’incertitude.

Ce qu’il faut surveiller

La question des sources controversées ne se résoudra pas par une promesse de filtrage total. Les modèles deviennent plus performants, mais leurs données, leurs méthodes de sélection et leurs mécanismes de sécurité restent des sujets de débat légitime. La capacité à produire un texte crédible ne doit jamais être confondue avec une garantie de vérité.

Les progrès les plus importants seront à rechercher dans trois directions : des informations plus précises sur les catégories de données utilisées, des évaluations indépendantes sur les récits trompeurs et des interfaces qui aident réellement les utilisateurs à examiner les sources. À mesure que ChatGPT, Gemini et leurs concurrents prennent place dans la recherche d’information quotidienne, la responsabilité est partagée : celle des entreprises qui conçoivent les systèmes, des régulateurs qui fixent les règles et des citoyens qui conservent le réflexe de vérifier avant de croire ou de relayer.