ChatGPT accuse à tort un père norvégien : NOYB saisit le régulateur

Une intelligence artificielle peut formuler une contrevérité avec un aplomb troublant, jusque dans les détails d’une biographie. C’est ce qui est arrivé à Arve Hjalmar Holmen, un citoyen norvégien que ChatGPT a faussement présenté comme l’auteur du meurtre de deux de ses enfants. Face à cette accusation inventée, d’une gravité exceptionnelle, l’ONG autrichienne NOYB a décidé de saisir l’autorité norvégienne de protection des données.

La démarche, annoncée le 20 mars 2025, ne porte pas seulement sur une erreur embarrassante d’un chatbot. Elle pose une question très concrète : lorsqu’un outil d’IA générative fournit des informations personnelles fausses sur quelqu’un, quelles obligations pèsent sur l’entreprise qui l’exploite ? Au cœur du dossier se trouve le Règlement général sur la protection des données, le RGPD, qui impose notamment que les données personnelles traitées soient exactes.

Une accusation criminelle totalement inventée

Selon NOYB, Arve Hjalmar Holmen a interrogé ChatGPT à son sujet. La réponse du chatbot a alors produit un récit fictif le désignant comme un homme ayant tué deux de ses propres enfants. L’accusation est fausse.

Le caractère précis d’une telle réponse est précisément ce qui rend l’incident préoccupant. Un lecteur peut avoir tendance à faire confiance à un texte rédigé dans un langage fluide, cohérent et affirmatif. Pourtant, un modèle de langage ne vérifie pas automatiquement chaque élément qu’il formule dans une source fiable avant de l’afficher. Il prédit, mot après mot, la suite qui paraît la plus plausible compte tenu de sa requête et de son entraînement.

C’est le mécanisme couramment appelé une « hallucination » : le système fabrique une information qui semble crédible, mais qui n’est pas fondée. Le terme ne signifie pas que l’IA a une intention ou une conscience. Il décrit une limite technique : la capacité à générer du texte convaincant n’est pas la même chose que la capacité à établir la vérité d’un fait.

Dans ce cas, l’enjeu dépasse largement une imprécision sur une date ou une profession. Une accusation de meurtre peut toucher à la réputation, à la vie familiale, à l’emploi et à la sécurité d’une personne. Même si la réponse est donnée dans le cadre d’une conversation privée avec un assistant, elle peut être copiée, partagée ou prise pour une information vérifiée.

Pourquoi NOYB invoque le RGPD contre OpenAI

NOYB, pour « None Of Your Business », est une organisation de défense des droits numériques basée en Autriche. Elle est connue pour ses plaintes visant les pratiques de traitement des données de grands acteurs technologiques. Dans l’affaire Holmen, elle a déposé une plainte contre OpenAI auprès de l’autorité norvégienne compétente, le Datatilsynet.

Le raisonnement de l’ONG s’appuie notamment sur deux principes du RGPD : l’exactitude des données personnelles et la possibilité, pour les personnes concernées, d’obtenir la correction des données inexactes.

Une donnée personnelle ne se limite pas à une adresse, un numéro de téléphone ou une photographie. Une information qui permet de décrire ou d’identifier une personne, y compris une allégation sur ses actes supposés, peut également relever de cette notion. Dire d’un individu nommé qu’il a commis un crime constitue donc une information personnelle particulièrement sensible sur le plan de ses conséquences.

L’article 5 du RGPD prévoit que les données personnelles doivent être exactes et, si nécessaire, tenues à jour. L’article 16 consacre un droit de rectification. Pour NOYB, ces exigences ne peuvent pas être écartées au seul motif qu’une information erronée est générée par un modèle de langage plutôt que tirée d’une fiche classique dans une base de données.

L’ONG critique également l’idée selon laquelle un avertissement général indiquant que ChatGPT peut se tromper suffirait à régler le problème. Une mise en garde peut aider l’utilisateur à garder un regard critique. Elle ne fait pas disparaître, pour autant, les conséquences possibles d’une allégation criminelle fausse visant une personne identifiable.

Pourquoi rectifier une erreur d’IA est plus complexe que corriger une fiche

Dans une base de données traditionnelle, la correction semble relativement simple en théorie : une ligne contient une information erronée, elle est modifiée ou supprimée. Les grands modèles de langage fonctionnent différemment. Ils ne consultent pas nécessairement, à chaque réponse, une fiche individuelle que l’on pourrait éditer directement.

Leurs comportements résultent d’un très grand nombre de paramètres mathématiques acquis pendant l’entraînement, puis de mécanismes complémentaires qui peuvent encadrer les réponses. Modifier durablement une réponse problématique peut impliquer plusieurs leviers : adaptation du modèle, ajout de garde-fous, amélioration des mécanismes de recherche ou de vérification lorsqu’ils existent, et procédures de signalement plus efficaces.

Cette difficulté technique n’efface pas la question juridique. C’est au contraire l’un des points que cette affaire pourrait aider à éclaircir : comment rendre effectif le droit à la rectification lorsque l’information contestée n’apparaît pas comme une entrée clairement identifiable dans une base de données ?

Une affaire de données personnelles, mais aussi de réputation

Le terme de « diffamation » est souvent employé pour décrire les effets d’une fausse accusation sur l’honneur ou la réputation d’une personne. Toutefois, la procédure engagée par NOYB relève d’abord du droit de la protection des données : l’ONG demande à l’autorité norvégienne d’examiner si OpenAI respecte les obligations du RGPD dans cette situation.

Cette distinction est importante. La plainte ne signifie pas qu’une violation est déjà établie, ni qu’une sanction a été prononcée. À la date de publication de cet article, le 21 mars 2025, l’autorité doit encore examiner le dossier et déterminer les suites à lui donner.

L’affaire illustre néanmoins une zone de friction grandissante entre les outils conversationnels et les droits des personnes. Les assistants d’IA sont de plus en plus utilisés pour demander des renseignements sur des individus, des entreprises, des professions ou des événements locaux. Or, leur ton affirmatif peut masquer une information fabriquée de toutes pièces.

Pour les utilisateurs, la règle de prudence est claire : une IA conversationnelle ne doit pas être traitée comme un moteur de recherche fiable ni comme un registre public. Lorsqu’une réponse concerne une personne réelle, surtout si elle évoque une infraction, un litige, une sanction ou un fait médical, elle doit être vérifiée dans des sources sérieuses et indépendantes.

Que faire si un chatbot donne une fausse information sur vous ?

L’affaire portée par NOYB met aussi en lumière un problème pratique. Une personne qui découvre qu’un assistant IA lui attribue des faits erronés peut avoir l’impression de ne disposer d’aucun recours immédiat. Quelques réflexes peuvent toutefois être utiles.

D’abord, il est prudent de conserver une trace fidèle de l’échange : la formulation exacte de la question, la réponse reçue, la date, l’heure et, lorsque cela est possible, des captures d’écran. Le résultat d’un même prompt peut varier au fil du temps, selon les versions du service et les modifications apportées au système.

Ensuite, il convient d’éviter de diffuser largement le contenu faux pour le dénoncer, car cette diffusion peut paradoxalement amplifier le préjudice. Il est préférable de signaler la réponse via les canaux prévus par le service concerné et de demander une explication sur les mécanismes de correction ou de limitation disponibles.

Enfin, lorsque l’erreur porte sur des données personnelles ou sur une accusation grave, une personne peut se renseigner sur ses droits en matière de protection des données et, si nécessaire, contacter l’autorité compétente de son pays. La marche à suivre dépendra des circonstances, du service utilisé et de la législation applicable.

Les limites des avertissements affichés par les chatbots

Les éditeurs d’IA générative affichent généralement des avertissements invitant les utilisateurs à vérifier les réponses importantes. Ces messages sont utiles : ils rappellent que le service peut produire des erreurs. Mais le dossier norvégien montre la limite de cette approche lorsqu’une réponse concerne directement une personne identifiable.

Le problème ne se réduit pas à savoir si l’utilisateur a été informé de la possibilité d’une erreur. Il concerne aussi la conception du produit : quels garde-fous peuvent empêcher le modèle de produire des accusations non vérifiées ? Comment traiter un signalement crédible ? Comment limiter la répétition d’une affirmation déjà identifiée comme fausse ? Et dans quelle mesure une personne peut-elle obtenir une réparation effective ?

Ces questions sont d’autant plus importantes que les modèles sont intégrés à des services variés, depuis les moteurs de recherche jusqu’aux outils de travail. À mesure que leurs réponses gagnent en visibilité, la qualité des mécanismes de contestation et de correction devient un enjeu central de confiance.

Ce qu’il faut surveiller

La première étape sera la réponse de l’autorité norvégienne de protection des données à la plainte de NOYB. Son analyse pourra notamment porter sur la qualification des réponses de ChatGPT comme traitement de données personnelles, sur l’exigence d’exactitude et sur les moyens concrets permettant de corriger ou de prévenir des erreurs comparables.

L’issue du dossier intéressera bien au-delà de la Norvège. OpenAI propose ses services à des utilisateurs européens, et le RGPD s’applique dans l’ensemble de l’Espace économique européen. Une décision pourrait donc alimenter les discussions sur les responsabilités des entreprises qui développent et déploient des IA génératives.

Il faudra aussi suivre l’évolution des pratiques techniques. Des systèmes mieux conçus pour reconnaître les demandes portant sur des personnes réelles, refuser les affirmations criminelles non étayées ou renvoyer vers des sources vérifiables pourraient réduire certains risques. Mais aucune solution automatique ne remplacera totalement la vigilance humaine, surtout lorsqu’une machine formule une accusation susceptible de bouleverser la vie d’un individu.