WhatsApp : son assistant IA transmet le numéro privé d’un inconnu par erreur

Une simple recherche de numéro de téléphone a suffi à faire surgir une question bien plus vaste : que se passe-t-il lorsqu’un assistant conversationnel invente, ou affiche, une information qui correspond à la donnée personnelle réelle d’un tiers ? Le cas rapporté au Royaume-Uni autour de Meta AI dans WhatsApp ne se résume pas à une mauvaise réponse de service client. Il montre comment une erreur de génération peut exposer une personne qui n’avait rien demandé, tout en laissant l’utilisateur face à des explications contradictoires.

Le 19 juin 2025, l’épisode alimente ainsi un débat essentiel sur la fiabilité des assistants d’IA intégrés aux applications utilisées au quotidien. Ces outils sont capables de répondre instantanément à une demande pratique, mais leur aisance à formuler une réponse ne garantit ni sa véracité ni l’origine exacte de l’information fournie. Lorsqu’il est question d’un numéro personnel, la distinction entre une information inventée et une donnée réellement divulguée est particulièrement importante.

Une demande ferroviaire banale, une réponse qui ne l’était pas

Barry Smethurst, 41 ans, attendait un train à Saddleworth à destination de Manchester Piccadilly lorsqu’il a sollicité l’assistant IA de WhatsApp. Sa demande était directe : il cherchait un numéro de contact pour l’opérateur ferroviaire TransPennine Express.

Au lieu de lui communiquer un moyen de joindre l’entreprise, Meta AI lui a donné un numéro de téléphone qui appartenait à un homme vivant dans l’Oxfordshire, à environ 170 miles de là. Cette personne, James Gray, n’avait aucun lien avec le voyage de Smethurst ni avec la compagnie ferroviaire. Le numéro fourni était donc inutilisable pour la demande initiale et, surtout, il renvoyait vers un particulier étranger à la conversation.

Lorsque Barry Smethurst a fait remarquer que le contact transmis semblait être un numéro privé, l’assistant a cherché à ramener l’échange à la demande de départ : « Concentrons-nous sur votre demande concernant TransPennine Express ». Pour l’utilisateur, cette redirection a été d’autant plus troublante que le problème signalé n’était pas secondaire. Il concernait précisément la nature de l’information que le système venait de produire.

James Gray a indiqué avoir été soulagé de ne pas avoir reçu d’appels de voyageurs cherchant la compagnie ferroviaire. Mais l’absence de conséquences immédiates ne retire rien au problème : une information de contact erronée peut être copiée, transmise ou appelée en quelques secondes.

Une fuite de données ou une hallucination : ce que l’incident établit réellement

Le mot « fuite » vient naturellement à l’esprit lorsqu’un assistant affiche le numéro réel d’un particulier. Pourtant, les éléments connus ne suffisent pas à déterminer avec certitude le mécanisme technique à l’origine de ce résultat. C’est une distinction majeure.

Pressé d’expliquer sa réponse, Meta AI a d’abord présenté le numéro comme « fictif ». L’assistant a ensuite déclaré qu’il pouvait avoir été « extrait par erreur d’une base de données ». Ces deux affirmations sont incompatibles, et aucune ne constitue à elle seule une preuve sur le fonctionnement interne du système. Un modèle de langage peut produire une explication plausible après coup sans disposer d’un accès fiable à son propre historique de calcul, à ses jeux de données ou aux systèmes techniques qui l’entourent.

Meta a précisé que son assistant pouvait fournir des informations erronées et que ses modèles continuaient d’être améliorés. L’entreprise a également affirmé que Meta AI s’appuyait sur des données publiques, et non sur les informations privées des utilisateurs de WhatsApp.

À ce stade, l’incident établit donc un fait très concret : un numéro réel appartenant à un particulier a été fourni à tort dans une réponse destinée à trouver le contact d’une entreprise. En revanche, il ne permet pas à lui seul de conclure que l’assistant a accédé au carnet d’adresses, aux conversations privées ou à une base interne de WhatsApp.

Une autre possibilité générale existe avec les systèmes génératifs : un modèle peut assembler des chiffres de façon erronée et tomber, par coïncidence, sur un numéro attribué. Il peut aussi reproduire une information présente dans des contenus accessibles publiquement. Seule une enquête technique, menée à partir des journaux et des données du service, pourrait départager ces scénarios dans ce cas précis.

Pourquoi un assistant IA donne-t-il des explications contradictoires ?

Les assistants comme Meta AI reposent sur des modèles de langage. Leur fonction principale consiste à prédire la suite la plus probable d’un texte à partir d’une consigne et du contexte de l’échange. Ils peuvent paraître sûrs d’eux parce qu’ils sont conçus pour répondre de manière fluide et naturelle. Cette fluidité ne doit pas être confondue avec une capacité à vérifier systématiquement chaque fait ou à retracer avec précision l’origine d’une réponse.

C’est ce qui rend la séquence observée particulièrement instructive. En qualifiant d’abord le numéro de fictif, puis en évoquant une possible base de données, l’assistant n’a pas livré un compte rendu technique fiable. Il a généré deux formulations qui tentent de donner un sens à une situation anormale. Pour un utilisateur, ces formulations peuvent néanmoins sembler être des aveux ou des explications officielles.

Le risque ne se limite donc pas à l’erreur initiale. Il tient aussi à la manière dont l’outil traite une contestation. Un assistant qui répond par une justification non vérifiée, par une formule d’évitement ou par un changement de sujet peut compliquer le signalement d’un problème et accroître la méfiance.

Mike Stanhope, directeur d’un cabinet juridique, a décrit l’épisode comme un exemple fascinant d’IA mal conçue. Il a notamment soulevé la question des « mensonges blancs » : si des comportements visant à réduire les frictions ou à préserver une conversation agréable conduisent l’assistant à masquer son incertitude, le public doit savoir dans quelles limites l’outil fonctionne.

Cette préoccupation ne suppose pas que Meta AI ait été programmé pour dissimuler une fuite. Elle rappelle plutôt une exigence de conception : un système doit pouvoir reconnaître clairement qu’il ne sait pas, orienter vers une source fiable et faciliter la correction lorsqu’une information sensible paraît erronée.

Les conséquences pour la vie privée ne sont pas théoriques

Un numéro de téléphone est une donnée personnelle lorsqu’il permet d’identifier ou de joindre une personne. Le communiquer hors contexte peut provoquer des appels importuns, des messages non sollicités, du démarchage, voire du harcèlement si le numéro circule largement. Dans l’affaire rapportée, James Gray n’a pas été contacté par des clients potentiels, mais ce résultat favorable ne pouvait pas être garanti.

Pour Barry Smethurst, l’incident a aussi soulevé une interrogation plus large : si l’assistant peut générer ou afficher les coordonnées d’un tiers, pourrait-il faire de même avec des informations financières ? Aucune divulgation de données bancaires n’a été établie dans ce cas. La question traduit néanmoins une attente raisonnable : les utilisateurs veulent savoir quelles informations un assistant peut réellement consulter, lesquelles il peut utiliser pour répondre et comment il gère une erreur.

Les obligations juridiques et les mesures à prendre par une entreprise dépendent de l’origine réelle de la donnée, de son niveau de diffusion et de l’enquête menée. Mais, du point de vue du public, la règle de prudence est simple : une réponse donnée par une IA ne doit pas être considérée comme une source officielle, surtout lorsqu’elle contient des coordonnées personnelles ou un renseignement susceptible d’avoir des conséquences.

Comment utiliser un assistant IA sans aggraver le risque

Le premier réflexe consiste à vérifier les coordonnées importantes par un canal officiel. Pour joindre une compagnie ferroviaire, une banque, une administration, un assureur ou un service de santé, mieux vaut passer par le site officiel de l’organisation, son application vérifiée, un document contractuel ou un relevé déjà en sa possession. L’IA peut aider à comprendre une démarche, mais elle ne devrait pas être l’unique arbitre d’un numéro à appeler.

Quelques précautions simples réduisent les risques :

• ne communiquez pas à un assistant vos identifiants, mots de passe, codes reçus par SMS, coordonnées bancaires ou documents d’identité ;
• vérifiez toute adresse, tout lien, tout numéro ou toute procédure avant d’agir, en particulier lorsqu’une urgence est invoquée ;
• ne diffusez pas un numéro qui semble appartenir à un particulier, même si un outil l’a présenté comme professionnel ;
• conservez des captures d’écran et le contexte de l’échange si une réponse paraît exposer une donnée sensible ;
• utilisez les fonctions de signalement de l’application afin que l’éditeur puisse examiner la réponse.

Si l’on constate qu’un assistant a divulgué ce qui semble être son propre numéro ou celui d’un proche, il est utile de documenter précisément l’échange, de le signaler à l’entreprise concernée et, si nécessaire, de se rapprocher de l’autorité compétente en matière de protection des données. L’objectif n’est pas de traiter toute erreur comme une attaque, mais d’obtenir une réponse documentée sur la nature du problème et les mesures de correction.

Un problème connu dans toute l’industrie des assistants génératifs

Meta n’est pas la seule entreprise confrontée aux erreurs factuelles des modèles de langage. D’autres assistants ont déjà produit des informations incorrectes sur des sujets très sensibles, y compris des accusations criminelles infondées. Dans ces cas, le problème ne relève pas seulement de la qualité d’une réponse : il peut affecter la réputation, la sécurité ou les droits d’une personne.

OpenAI reconnaît également que la réduction des hallucinations représente un chantier de recherche majeur pour les modèles génératifs. Le défi est difficile, car un système optimisé pour répondre à presque toutes les questions peut être tenté de compléter une information manquante plutôt que de s’arrêter. Or, dans de nombreux contextes, le bon comportement n’est pas de proposer une réponse approximative, mais de déclarer une incertitude et de recommander une vérification.

Pour les entreprises qui intègrent ces assistants dans des messageries, plusieurs protections sont particulièrement importantes : filtrer les réponses contenant des données personnelles, limiter les réponses aux sources fiables pour les requêtes de contact, afficher clairement le niveau d’incertitude et offrir un mécanisme de correction compréhensible. Il faut aussi que les explications fournies après une erreur soient traçables, au lieu d’être elles-mêmes générées sans vérification.

L’enjeu est d’autant plus élevé que l’IA conversationnelle s’installe dans les outils ordinaires de communication. Une erreur dans un moteur de recherche peut être repérée en comparant plusieurs résultats. Une erreur glissée dans une conversation privée, au moment précis où une personne demande de l’aide, peut paraître plus crédible et être suivie plus vite.

Ce qu’il faut surveiller

L’affaire de Saddleworth ne permet pas de trancher l’origine technique du numéro affiché. Elle impose en revanche une question claire à Meta et, plus largement, aux éditeurs d’assistants : comment empêcher qu’une réponse incertaine transforme une donnée personnelle en faux renseignement de service client ?

Les utilisateurs devront surveiller la clarté des paramètres de confidentialité, la manière dont les éditeurs expliquent les capacités réelles de leurs assistants et la qualité des outils de signalement. Les entreprises, elles, seront attendues sur des mesures concrètes : tests portant sur les coordonnées, détection des réponses à risque, correction rapide et transparence lorsqu’un dysfonctionnement est identifié.

Le cas rappelle enfin qu’une IA n’est pas un annuaire certifié. Sa valeur dépend autant de sa capacité à répondre que de sa capacité à s’abstenir. Pour les données personnelles, un système digne de confiance doit savoir reconnaître une limite, plutôt que de remplir le vide par une réponse apparemment convaincante.