ChatGPT invente le meurtre de ses enfants : plainte d’un père norvégien

Une réponse de quelques lignes peut suffire à abîmer durablement une réputation. En Norvège, un père a découvert que ChatGPT l’associait à un crime atroce qu’il n’a jamais commis : le meurtre de deux de ses enfants et une tentative de meurtre sur un troisième. Le 20 mars 2025, l’association de défense de la vie privée noyb a annoncé avoir déposé une plainte contre OpenAI, l’entreprise qui édite ChatGPT.

L’affaire est particulièrement frappante par la gravité de l’erreur. Mais elle appelle aussi une précision essentielle : le père n’a pas été poursuivi par la justice pour ces faits. Il n’existe pas, à la date de publication de cet article, de procès pénal le visant pour ces accusations. Le problème vient d’un récit faux produit par un chatbot, à partir d’une simple question sur son identité.

Ce que ChatGPT a affirmé sur ce père norvégien

Selon noyb, une requête demandant qui était Arve Hjalmar Holmen a entraîné une réponse de ChatGPT présentant cet homme comme le père de trois garçons, impliqué dans le meurtre de deux d’entre eux et dans une tentative visant le troisième. Le chatbot ajoutait qu’il aurait été condamné à 21 ans de prison.

Ces affirmations sont fausses. Elles ne correspondent pas à une affaire judiciaire réelle concernant le plaignant. La réponse pouvait toutefois sembler crédible, car elle adoptait la forme narrative d’une notice biographique et mêlait des éléments personnels à une histoire criminelle inventée. C’est précisément ce mélange qui rend ce type d’erreur si préoccupant : une invention formulée avec assurance peut être prise pour un fait par une personne qui ne connaît pas le sujet.

La situation ne se réduit donc pas à une imprécision sur une date, un métier ou un lieu. ChatGPT a attribué à une personne identifiable des faits criminels d’une extrême gravité. Pour la personne concernée, le risque est concret : voir son nom recherché, recopié, relayé ou associé à une accusation infamante dans une conversation privée, un document ou une publication.

Ce n’est pas un procès pénal, mais une plainte sur les données personnelles

L’affaire a parfois été présentée comme un « procès ChatGPT » ou comme une accusation judiciaire fondée sur l’IA. Cette présentation est trompeuse. Aucun tribunal n’a engagé de poursuites contre Arve Hjalmar Holmen sur la base d’une réponse de ChatGPT. L’homme est au contraire le plaignant dans une procédure liée à la protection de ses données personnelles.

Noyb, association européenne spécialisée dans le respect de la vie privée, a saisi l’autorité norvégienne de protection des données, la Datatilsynet. La plainte vise OpenAI et s’appuie sur le règlement général sur la protection des données, le RGPD, qui s’applique dans l’Espace économique européen, dont fait partie la Norvège.

Le cœur juridique du dossier porte notamment sur le principe d’exactitude. L’article 5 du RGPD impose que les données personnelles soient exactes et, lorsqu’elles sont inexactes, corrigées ou supprimées sans délai. Un nom associé à une fausse condamnation pénale constitue bien une information personnelle, et sa gravité renforce l’enjeu.

La plainte ne préjuge pas de l’issue de la procédure. Il appartiendra à l’autorité norvégienne d’examiner les arguments avancés, les mesures mises en place par OpenAI et l’éventuelle conformité du service avec les obligations européennes.

Pourquoi une IA conversationnelle peut-elle inventer de tels faits ?

ChatGPT appartient à la famille des grands modèles de langage. Son rôle premier est de générer la suite de texte la plus probable au regard de la question reçue et des régularités apprises durant son entraînement. Ce fonctionnement lui permet de résumer, traduire, expliquer ou rédiger avec fluidité. Il ne garantit pas pour autant la vérité de chaque phrase.

Lorsqu’un modèle ne dispose pas d’une information fiable, ou lorsqu’il associe à tort des fragments de contenus distincts, il peut produire une réponse plausible mais erronée. Ce phénomène est généralement appelé une hallucination. Le mot ne signifie pas que le logiciel « imagine » au sens humain du terme. Il décrit un résultat qui semble factuel, mais qui n’est étayé par aucun fait vérifié.

Dans le cas d’une personne réelle, les risques sont plus élevés que pour une question générale. Un modèle peut associer un nom à une histoire existante, reconstruire des détails biographiques à partir de schémas fréquents dans les textes, ou combler ses lacunes par une formulation convaincante. Plus le sujet est sensible, plus la réponse devrait être traitée avec prudence.

Il faut également distinguer une IA conversationnelle d’un moteur de recherche. Un moteur de recherche renvoie en principe vers des pages dont le lecteur peut examiner l’origine, la date et l’auteur. Un chatbot fournit souvent une réponse synthétique, sans que l’utilisateur voie nécessairement quelles informations ont été retenues, écartées ou transformées pour la produire.

Le RGPD face à un problème difficile : comment rectifier une réponse générée ?

Le dossier norvégien soulève une difficulté nouvelle pour le droit des données personnelles. Dans une base de données classique, une personne peut demander la correction d’une ligne erronée : une adresse, un numéro de téléphone ou une date de naissance. Avec un modèle de langage, l’information problématique n’apparaît pas forcément comme une fiche stable, facile à modifier.

Une même demande peut donner lieu à des réponses différentes selon le moment, la formulation employée ou la version du système. À l’inverse, demander au chatbot de reconnaître une erreur dans une conversation ne garantit pas que l’information ne réapparaîtra jamais dans une autre discussion. C’est l’un des arguments importants de noyb : il ne suffit pas d’afficher un avertissement général sur les limites de l’outil si celui-ci peut diffuser de fausses informations personnelles aussi graves.

L’enjeu dépasse le seul droit de rectification. Le RGPD impose aussi aux organisations de mettre en œuvre des mesures adaptées pour protéger les données qu’elles traitent. Dans ce contexte, la question est de savoir quels garde-fous doivent empêcher un assistant conversationnel de présenter comme certains des faits criminels non vérifiés concernant une personne nommée.

Plusieurs pistes sont régulièrement évoquées dans ce débat : limiter les réponses biographiques sur les personnes privées, signaler plus explicitement l’incertitude, intégrer des mécanismes de contestation réellement efficaces et détecter les assertions potentiellement diffamatoires. Mais chaque mesure pose des questions pratiques : comment identifier correctement une personne, éviter de confondre des homonymes et corriger durablement un modèle sans créer de nouvelles erreurs ?

Quels réflexes adopter face à une information donnée par ChatGPT ?

L’affaire fournit un rappel utile aux utilisateurs, qu’ils consultent une IA pour leur travail, leurs études ou leurs recherches personnelles. Un chatbot peut être très efficace pour organiser une idée ou expliquer un concept, mais il ne doit pas être traité comme une autorité indépendante, surtout lorsqu’il est question de personnes identifiables.

Quelques réflexes simples réduisent le risque de relayer une information erronée :

• ne pas diffuser une accusation ou une biographie produite par une IA sans vérification indépendante ;
• consulter des documents officiels lorsqu’une information touche à la justice, à l’administration, à la santé ou aux finances ;
• se méfier des détails très précis lorsqu’aucun élément ne permet d’en contrôler l’origine ;
• éviter d’entrer inutilement dans un chatbot des données sensibles sur soi-même ou sur un tiers ;
• conserver une trace de la réponse problématique en cas de demande de correction ou de signalement.

Ces précautions ne signifient pas que l’IA générative est inutilisable. Elles rappellent que ses usages doivent correspondre à ses capacités réelles. Demander une reformulation, une liste d’idées ou une explication générale ne présente pas le même niveau de risque que solliciter un jugement sur une personne, un diagnostic ou une information judiciaire.

Une affaire qui ne prouve pas une justice pilotée par l’IA

Le récit de cette plainte peut nourrir une inquiétude légitime sur la désinformation automatisée. Il ne démontre pas pour autant que la justice norvégienne, ou les tribunaux en général, se fient à ChatGPT pour inculper des citoyens. Dans ce dossier, le préjudice allégué provient d’une réponse générée par le service, non d’une décision de justice prise par une IA.

La distinction est importante. Les magistrats, avocats, journalistes et enquêteurs ont l’obligation de contrôler leurs informations. Une réponse d’assistant conversationnel ne constitue ni un casier judiciaire, ni une pièce de procédure, ni une preuve. La valeur d’un élément dans un dossier dépend de son origine, de sa traçabilité, de sa possibilité de contradiction et de sa vérification.

En revanche, l’affaire illustre une difficulté plus large : une information fausse n’a pas besoin d’être admise par un tribunal pour causer un dommage. Elle peut peser sur la réputation d’une personne, inquiéter sa famille, influencer une recherche en ligne ou créer un doute injustifié auprès d’un employeur, d’un voisin ou d’un interlocuteur administratif.

Ce qu’il faut surveiller après la plainte

La première question sera la réponse de l’autorité norvégienne de protection des données. Une décision pourrait préciser la manière dont le principe d’exactitude du RGPD s’applique aux grands modèles de langage et à leurs réponses sur des personnes nommées. Elle pourrait aussi éclairer les obligations concrètes qui pèsent sur un éditeur d’IA lorsqu’une erreur personnelle grave lui est signalée.

Il faudra également observer si OpenAI met en place ou détaille des mécanismes permettant aux personnes concernées de signaler, contester et faire corriger plus efficacement des réponses erronées. Le défi n’est pas seulement technique : il est aussi juridique et humain. Une correction doit être accessible, compréhensible et suffisamment durable pour éviter que la même contrevérité ne se reproduise.

Enfin, cette affaire rappelle que le débat sur l’IA ne porte pas uniquement sur les performances des modèles. À mesure que ces outils répondent à des questions sur le monde réel et sur des individus, leur capacité à reconnaître l’incertitude, à éviter les affirmations non vérifiées et à protéger les droits des personnes devient un enjeu central de confiance.