Chatbot IA à votre image : ce que vous contrôlez vraiment de vos données

Un chatbot capable de répondre « comme vous » n’est plus une idée réservée à la science-fiction. À partir de textes, de documents, de consignes ou de conversations, des outils d’IA générative peuvent imiter un vocabulaire, restituer des informations et adopter un ton qui évoque une personne réelle. Cette promesse de continuité numérique est séduisante, pour transmettre un savoir, assister une communauté ou automatiser un premier niveau de réponse. Elle oblige aussi à poser une question moins technique qu’il n’y paraît : qui contrôle réellement l’identité ainsi reconstituée ?

La réponse ne tient pas seulement dans les paramètres d’un logiciel. Elle dépend des données fournies, de leurs conditions de collecte, des choix de la plateforme et du contexte dans lequel le chatbot est utilisé. Surtout, un agent conversationnel, même très fluide, n’est pas la personne dont il reprend les mots. Comprendre cette différence est une première protection contre les malentendus, les abus et les décisions trop vite déléguées à une machine.

Un chatbot ne devient pas une personne, même s’il semble lui ressembler

Les grands modèles de langage, comme ceux qui alimentent ChatGPT, sont entraînés à repérer des régularités dans d’immenses ensembles de textes. Lorsqu’un utilisateur écrit une question, le système calcule, étape après étape, les suites de mots les plus plausibles compte tenu du contexte et de ses instructions. Il ne formule pas une opinion au sens humain du terme, ne possède pas d’expérience vécue et ne vérifie pas spontanément les faits qu’il avance.

C’est précisément ce mécanisme qui peut produire l’impression d’un dialogue naturel. Si l’on alimente un agent avec des écrits, une foire aux questions, des messages professionnels ou des transcriptions d’entretien, il peut retrouver des formulations proches, répondre à des demandes récurrentes et présenter une cohérence apparente. Mais cette cohérence ne prouve pas qu’il comprend l’intention de son interlocuteur, ni qu’il restitue fidèlement la pensée de la personne imitée.

Les erreurs dites « hallucinations » illustrent cette limite. Le modèle peut produire une réponse assurée, structurée et crédible, alors même qu’elle contient une information inexacte ou inventée. Dans le cas d’un chatbot présenté comme l’avatar d’une personne, le risque est particulier : l’utilisateur peut attribuer à cette personne des propos qu’elle n’a jamais tenus.

De quelles données a-t-on besoin pour créer un chatbot à l’image d’une personne ?

La matière première d’un chatbot est le langage. Textes publiés, courriels, échanges de service client, articles, documents internes, enregistrements ou transcriptions peuvent servir à constituer une base de connaissances ou à guider les réponses d’un modèle. Certains systèmes peuvent aussi exploiter des éléments vocaux, mais la voix, comme les conversations, peut contenir des données personnelles ou sensibles.

Tous les projets ne reposent pas sur le même degré de personnalisation. Un agent peut être simplement configuré avec quelques instructions, par exemple pour répondre avec un ton formel et à partir d’un manuel. Il peut aussi être relié à une collection de documents. Dans les cas les plus ambitieux, il est conçu pour simuler les connaissances et les manières de s’exprimer d’une personne précise. À chaque niveau, les exigences de prudence grandissent.

La première question à poser est simple : qui a fourni les données, et avec quel accord ? Publier un texte en ligne ne signifie pas nécessairement autoriser sa réutilisation pour fabriquer un interlocuteur artificiel. De même, le fait de participer à une conversation privée ne vaut pas consentement à voir cette conversation transformée en matériau pour un chatbot.

En Europe, le Règlement général sur la protection des données, ou RGPD, encadre le traitement des données personnelles. Une organisation qui traite de telles données doit notamment identifier une base légale, informer les personnes concernées et respecter leurs droits. Selon les circonstances, les personnes peuvent demander l’accès à leurs données, leur rectification ou leur effacement. Ces principes n’éliminent pas toutes les difficultés pratiques, mais ils rappellent que la donnée ne devient pas libre d’usage parce qu’elle est techniquement exploitable.

Le consentement doit être compréhensible et spécifique

Dans un projet fondé sur l’identité d’une personne réelle, un accord vague ou noyé dans des conditions générales est une protection insuffisante sur le plan éthique. La personne devrait savoir, de façon intelligible :

• quelles données seront utilisées, et si elles seront seulement consultées ou conservées ;
• à quelles fins le chatbot répondra et à quels publics il sera accessible ;
• si l’agent sera présenté comme un outil, un assistant ou une représentation de cette personne ;
• comment demander l’arrêt du service ou la suppression des données concernées.

Cette transparence est utile à toutes les parties. Elle permet d’éviter qu’un outil conçu pour répondre à des questions pratiques devienne, par extension, un faux porte-parole public, un dispositif de collecte excessive ou une machine à entretenir une relation ambiguë avec ses utilisateurs.

Pourquoi les réglages d’un chatbot ne suffisent pas à tout contrôler

Les plateformes proposent des options de personnalisation de plus en plus accessibles. Le GPT Builder d’OpenAI, par exemple, permet de créer des versions personnalisées de ChatGPT en donnant des instructions et, selon les usages, en ajoutant des connaissances. Ces outils facilitent la création d’agents spécialisés sans programmation avancée. Ils ne dispensent toutefois ni d’un cadrage précis, ni d’une vérification des réponses.

Le contrôle d’un créateur est réel, mais limité. Il peut choisir les documents fournis, rédiger des consignes, limiter certains sujets, définir un avertissement ou retirer un chatbot de la circulation. En revanche, il ne peut pas prévoir toutes les formulations des utilisateurs, toutes les interprétations possibles ni chaque réponse générée. Il doit aussi composer avec les règles, les paramètres de conservation des données et les évolutions du service qu’il utilise.

Il faut donc distinguer plusieurs responsabilités. La plateforme conçoit et exploite l’infrastructure. L’organisation ou l’individu qui déploie le chatbot décide de son objectif et des données qu’il lui confie. Enfin, l’utilisateur doit savoir qu’il échange avec un système automatisé et ne pas le confondre avec un humain. Cette répartition ne doit pas devenir un jeu de renvoi de responsabilité lorsque survient une erreur.

Un projet robuste prévoit, avant son lancement, des limites explicites : les questions auxquelles l’agent ne répondra pas, les sujets nécessitant une validation humaine, les modalités de signalement d’une réponse problématique et les personnes chargées de la corriger. Pour les domaines où une mauvaise information peut causer un préjudice, cette supervision ne constitue pas un supplément facultatif.

Les précédents montrent qu’un agent peut vite déraper

L’histoire des chatbots fournit un rappel utile. En 2016, Microsoft a lancé Tay, un agent conversationnel destiné à dialoguer avec des adolescents et de jeunes adultes sur Twitter. Le chatbot a rapidement publié des messages inappropriés après des interactions avec des internautes. Microsoft l’a retiré peu après son lancement.

L’épisode Tay ne se réduit pas à une anecdote sur un programme mal conçu. Il révèle un défi durable : un système conversationnel placé dans un environnement ouvert peut être exposé à des comportements hostiles, à des tentatives de manipulation ou à des contenus qu’il n’était pas censé relayer. Les modèles récents disposent de dispositifs de modération et de règles plus élaborés, mais aucun dispositif ne justifie de renoncer aux tests et à la surveillance.

Les échecs viennent également d’attentes irréalistes. Une entreprise peut vouloir un assistant disponible en permanence, expert de tous les sujets et parfaitement aligné sur son image. Or un chatbot performant dans une démonstration peut se révéler moins fiable face à des demandes imprévues, des données incomplètes ou des clients mécontents. Sans soutien de la direction, budget pour la maintenance et équipe capable de corriger le système, le projet risque de s’essouffler ou de produire plus de frustration que de valeur.

Recrutement : accélérer certaines tâches sans automatiser le jugement

Les ressources humaines sont l’un des domaines où les chatbots promettent des gains d’efficacité immédiats. Ils peuvent répondre aux questions fréquentes des candidats, orienter vers une offre, aider à organiser un entretien ou présenter les étapes d’un processus. Dans ce rôle d’assistance, ils peuvent réduire des tâches répétitives et améliorer la disponibilité de l’information.

Le problème apparaît lorsqu’un système influe directement sur l’évaluation des personnes sans transparence suffisante. Les données historiques utilisées pour concevoir ou paramétrer un outil peuvent refléter des inégalités déjà présentes. Un algorithme peut alors contribuer à les reproduire, notamment si ses résultats sont pris pour des verdicts objectifs plutôt que pour des signaux à examiner.

Un chatbot ne connaît ni le parcours réel d’un candidat ni les nuances d’une situation professionnelle. Il traite des informations disponibles dans son contexte, selon des règles et des probabilités. Un recruteur, lui, reste responsable de la décision et doit pouvoir expliquer le processus. Informer les candidats de l’usage d’un outil automatisé, vérifier les critères employés et conserver une intervention humaine significative sont des précautions essentielles.

Depuis le 1er août 2024, le règlement européen sur l’intelligence artificielle, souvent appelé AI Act, est entré en vigueur. Sa mise en application est progressive. Il introduit une approche fondée sur les risques et prévoit des obligations renforcées pour certaines utilisations de l’IA. Il ne remplace pas le RGPD : la protection des données, l’équité et la transparence restent des questions distinctes, qui doivent être traitées ensemble.

Ce qu’il faut surveiller avant de confier son identité à un agent

La possibilité de créer un chatbot à l’image d’une personne va continuer de se banaliser. Cela peut rendre des connaissances plus accessibles, préserver des réponses utiles ou assister des équipes débordées. Mais l’utilité d’un tel outil ne doit jamais reposer sur une confusion organisée entre une personne et un modèle statistique.

Pour les utilisateurs, quelques réflexes comptent : ne pas confier d’informations sensibles sans avoir compris les règles du service, vérifier les réponses importantes auprès de sources compétentes et rechercher les options de contrôle ou d’effacement disponibles. Pour les créateurs, l’enjeu est de ne collecter que les données nécessaires, de documenter clairement l’objectif du chatbot et de prévoir un interlocuteur humain lorsque l’outil se trompe ou atteint ses limites.

La question centrale n’est donc pas seulement de savoir si n’importe qui peut être transformé en chatbot. Techniquement, des traces textuelles ou vocales peuvent permettre de bâtir une imitation. La véritable question est de savoir dans quelles conditions cette imitation est légitime, clairement signalée, réversible et placée sous une responsabilité identifiable. C’est à ces conditions que l’IA conversationnelle peut assister les échanges sans confisquer le contrôle des personnes qu’elle prétend représenter.