ChatGPT accuse à tort un Norvégien d’avoir tué ses enfants

Arve Hjalmar Holmen ne cherchait pas une information générale sur l’intelligence artificielle. Il a simplement demandé à ChatGPT qui il était. Le chatbot d’OpenAI lui a alors attribué une histoire criminelle totalement fausse, en le présentant comme un homme ayant tué deux de ses enfants. Une accusation imaginaire d’une gravité exceptionnelle, qui illustre un risque très concret des IA génératives lorsqu’elles produisent des informations sur des personnes réelles.

Le Norvégien a décidé de déposer plainte contre OpenAI avec le soutien de l’association de défense des droits numériques NOYB. Au-delà de son cas individuel, l’affaire soulève une question devenue centrale : que peut faire une personne quand un assistant conversationnel invente à son sujet des données personnelles fausses, et potentiellement destructrices pour sa réputation ?

Une biographie imaginaire, aux conséquences potentiellement très concrètes

En saisissant son nom dans ChatGPT, Arve Hjalmar Holmen a obtenu une réponse qui le décrivait comme un criminel responsable de la mort de deux de ses enfants. Cette affirmation est fausse. La réaction de l’intéressé est à la mesure de la situation : être associé à un meurtre, même dans la réponse isolée d’un chatbot, peut provoquer un profond sentiment d’injustice et d’insécurité.

Le problème ne tient pas seulement au caractère erroné de la réponse. Il tient à la nature même de l’erreur. Une confusion sur une date, un diplôme ou un lieu de naissance peut déjà être embarrassante. Une accusation de crime violent, elle, touche à l’honneur, aux relations familiales, à l’emploi et à la confiance que des proches, collègues ou inconnus peuvent accorder à une personne.

Il est important de distinguer deux réalités. ChatGPT ne publie pas automatiquement ses réponses dans les résultats d’un moteur de recherche, ni sur un réseau social. L’épisode ne démontre donc pas, à lui seul, que cette fausse accusation a été largement diffusée. Mais une réponse peut être reproduite, copiée, partagée ou obtenue par toute personne formulant une question similaire. C’est cette possibilité qui rend les informations personnelles inventées particulièrement préoccupantes.

Comment ChatGPT peut-il inventer une accusation aussi grave ?

ChatGPT est un modèle de langage. Son rôle premier consiste à générer la suite de mots la plus plausible au regard de la question posée et des régularités apprises pendant son entraînement. Il ne fonctionne pas, par défaut, comme un registre d’état civil, un dossier judiciaire ou une base de données journalistique dont chaque information serait validée avant affichage.

Lorsqu’un tel système manque d’éléments fiables ou mélange des informations provenant de contextes différents, il peut produire une réponse inventée mais cohérente en apparence. Ce phénomène est généralement appelé une hallucination. Le terme ne signifie pas que le logiciel a une intention ou une conscience : il décrit le fait qu’il génère une information fausse avec une formulation plausible.

Les informations sur les personnes sont un terrain particulièrement risqué. Plusieurs individus peuvent porter un nom proche ou identique. Des données publiques peuvent être incomplètes, obsolètes ou mal associées. Surtout, un modèle peut combler les vides en fabriquant un récit, au lieu de signaler clairement qu’il ne sait pas répondre.

Une réponse fluide peut renforcer l’illusion de fiabilité. Le lecteur voit un texte structuré, des détails précis et un ton affirmatif. Or ces qualités rédactionnelles ne constituent pas des preuves. Pour une accusation pénale, une information médicale, une identité professionnelle ou un fait familial, l’absence de source vérifiable doit être considérée comme un signal d’alerte majeur.

Les outils conversationnels peuvent aussi proposer des fonctions de recherche sur le web selon leurs versions et leurs réglages. Cela ne dispense pas l’utilisateur de vérifier les documents consultés. L’accès à des pages en ligne n’élimine ni les erreurs de sélection, ni les contenus trompeurs, ni le risque de résumé inexact.

Le RGPD peut-il obliger une IA à corriger ses erreurs ?

La plainte accompagnée par NOYB place l’affaire sur le terrain de la protection des données personnelles. Le Règlement général sur la protection des données, ou RGPD, s’applique dans l’Union européenne et dans l’Espace économique européen, dont fait partie la Norvège.

Deux principes sont particulièrement importants. D’une part, les données personnelles doivent être exactes et, si nécessaire, mises à jour. D’autre part, une personne dispose d’un droit de rectification lorsque des données la concernant sont inexactes. Ces règles ont été pensées bien avant l’essor des chatbots grand public, mais elles s’appliquent aux traitements de données, quelle que soit la technologie employée.

Dans ce dossier, l’enjeu est complexe : comment rectifier une information fausse quand elle ne se trouve pas seulement dans une fiche de base de données, mais peut être régénérée par un modèle de langage ? Supprimer une conversation de l’historique d’un utilisateur ne garantit pas, à lui seul, que le chatbot ne répétera jamais une affirmation semblable dans une autre réponse.

La difficulté technique ne fait pas disparaître l’obligation juridique. Elle pose plutôt une question de moyens : quelles mesures un fournisseur doit-il mettre en place pour éviter, corriger ou empêcher la répétition d’informations personnelles manifestement fausses ? Il peut s’agir de mécanismes de filtrage, de procédures de signalement plus efficaces, de restrictions sur certaines questions ou de réponses indiquant l’impossibilité de vérifier une information.

Au moment de la publication de cet article, aucune décision de l’autorité norvégienne de protection des données n’était signalée dans cette affaire. La plainte ne vaut donc pas condamnation d’OpenAI. Elle ouvre néanmoins un débat juridique important sur la manière d’appliquer les droits des personnes à des systèmes probabilistes, capables de reformuler sans cesse leurs réponses.

Pourquoi les erreurs sur les personnes exigent-elles une vigilance renforcée ?

Toutes les hallucinations ne se valent pas. Une IA qui se trompe sur la date de sortie d’un film appelle une correction. Une IA qui attribue un crime à une personne identifiable peut causer un dommage bien plus sérieux. Dans le second cas, la question n’est pas seulement la qualité du produit : elle concerne les droits fondamentaux et la protection de la réputation.

Les utilisateurs ont également un rôle à jouer. Demander à un chatbot de résumer une biographie, un litige ou un parcours professionnel ne doit pas remplacer la consultation de sources primaires et de médias reconnus. Si une réponse contient une accusation grave, il ne faut pas la relayer sans vérification. La prudence est d’autant plus nécessaire que les chatbots donnent souvent leurs réponses sous une forme très persuasive.

Ce qu’une réponse responsable devrait changer

Face à une question portant sur l’identité ou le passé d’une personne, une IA ne devrait pas chercher à compléter une biographie incertaine par des détails spectaculaires. L’attitude la plus utile consiste à reconnaître une absence de données fiables, à demander des précisions ou à renvoyer l’utilisateur vers des sources vérifiables.

La différence est essentielle : un assistant conversationnel peut être utile pour mettre en forme des informations déjà établies, mais il ne doit pas devenir un arbitre de la vérité sur une personne. La gravité des propos devrait influencer le niveau de prudence du système. Une affirmation pénale, médicale ou financière mérite des garde-fous beaucoup plus stricts qu’une question de culture générale.

Un dossier qui s’inscrit dans une série de plaintes en Europe

L’affaire Holmen n’est pas le premier signalement européen concernant des informations personnelles erronées générées par ChatGPT. En avril 2024, une plainte avait déjà été déposée en Autriche. Elle mettait elle aussi en lumière la difficulté d’obtenir la correction de réponses inexactes produites par un modèle de langage.

Ces contentieux arrivent dans un contexte réglementaire en pleine évolution. Le RGPD constitue déjà un cadre central pour les données personnelles. L’Union européenne a également adopté le règlement sur l’intelligence artificielle, souvent appelé AI Act, entré en vigueur en août 2024. Ses obligations sont appelées à s’appliquer progressivement selon les catégories de systèmes et de risques concernés.

L’AI Act ne remplace pas le RGPD. Les deux textes peuvent se compléter : le premier organise notamment une approche par les risques pour certains usages de l’IA, tandis que le second protège les données et les droits individuels. Pour les chatbots, les décisions des autorités nationales seront particulièrement suivies, car elles préciseront la manière dont les règles existantes peuvent s’appliquer à des contenus générés à la demande.

L’enjeu pour les éditeurs d’IA est autant technique qu’organisationnel. Ils doivent pouvoir recevoir les signalements, distinguer les demandes fondées des contestations abusives, éviter de créer de nouvelles erreurs et apporter des réponses compréhensibles aux personnes concernées. Les avertissements généraux sur le risque d’erreur ne suffisent pas nécessairement lorsqu’une information très précise porte atteinte à un individu identifiable.

Que faire si un chatbot diffuse une fausse information à votre sujet ?

La première précaution consiste à conserver une trace fidèle de la réponse : la question exacte, le texte affiché, la date, l’heure et, si possible, des captures d’écran. Les formulations d’un chatbot pouvant varier d’une requête à l’autre, ces éléments aident à documenter le problème.

Il est ensuite prudent de signaler l’erreur au fournisseur de l’outil par les canaux prévus. La demande doit être claire, factuelle et accompagnée, lorsque c’est pertinent, de documents permettant d’établir la réalité. Une personne peut aussi exercer ses droits liés aux données personnelles auprès de l’organisation concernée.

En cas d’absence de réponse satisfaisante, il est possible de se tourner vers l’autorité nationale de protection des données. Les situations les plus graves peuvent justifier de demander conseil à une association spécialisée ou à un professionnel du droit. La bonne démarche dépendra du pays, de la nature de l’information, de son éventuelle diffusion et du préjudice subi.

Enfin, il ne faut pas amplifier soi-même une accusation erronée en la rediffusant largement. Informer des proches ou un employeur peut parfois être nécessaire, mais relayer publiquement le contenu sans précaution risque d’augmenter sa visibilité. La priorité est de faire constater l’erreur, de demander sa correction et d’éviter qu’elle soit prise pour une source fiable.

Ce qu’il faut surveiller

La réponse des autorités norvégiennes à la plainte d’Arve Hjalmar Holmen sera scrutée bien au-delà de la Norvège. Elle pourrait contribuer à préciser ce qu’un fournisseur d’IA doit faire lorsqu’un chatbot génère des données personnelles gravement inexactes.

Il faudra également observer les choix techniques d’OpenAI et de ses concurrents. Les progrès ne se mesureront pas seulement à la capacité des modèles à rédiger des textes plus naturels, mais à leur aptitude à reconnaître leurs limites, à éviter les affirmations non vérifiées et à offrir des voies de recours effectives aux personnes concernées.

Pour le grand public, la règle reste simple : un chatbot est un outil de génération et de synthèse, pas une autorité de référence sur l’identité, le passé judiciaire ou la vie familiale d’une personne. Dans ces domaines, la vérification humaine et les sources fiables restent indispensables.