ChatGPT à Whitehall : ce que l’usage ministériel révèle des risques pour l’État

Le recours à ChatGPT par le secrétaire d’État britannique chargé des technologies fait émerger une question qui dépasse largement le choix d’un logiciel : que peut-on confier à une intelligence artificielle générative lorsque l’on travaille au cœur de l’État ? À Whitehall, nom donné à l’administration centrale britannique, cette pratique nourrit des inquiétudes sur la confidentialité, la sécurité et la qualité des décisions publiques.

L’enjeu n’est pas de considérer qu’un agent conversationnel prendrait, à lui seul, le contrôle de la politique britannique. ChatGPT produit du texte à partir d’une consigne et de probabilités apprises sur de très grands ensembles de données. Il peut aider à reformuler une note, résumer un document ou proposer des pistes de recherche. Mais il peut aussi se tromper avec aplomb, omettre un élément déterminant ou livrer une réponse impossible à justifier par des sources solides.

Le cas signalé en mars 2025 illustre donc une tension très concrète. Le gouvernement britannique veut encourager l’innovation et tirer parti des outils numériques. Dans le même temps, il doit protéger les informations dont il a la garde et préserver un principe essentiel de l’action publique : les décisions doivent rester explicables et imputables à des responsables humains.

Ce que l’on sait, et ce que ce cas ne permet pas d’affirmer

L’article à l’origine de ces interrogations fait état de l’usage de ChatGPT par le secrétaire d’État chargé des technologies et de réactions contrastées au sein de Whitehall. Certains y voient une manière d’améliorer l’efficacité des opérations administratives. D’autres redoutent l’exposition d’informations sensibles, une dépendance aux recommandations algorithmiques et une moindre place laissée au jugement humain.

Ces préoccupations sont fondées sur des risques réels, mais elles demandent à être distinguées des suppositions. La simple utilisation d’un outil d’IA ne prouve pas qu’une donnée confidentielle y a été saisie, qu’une fuite a eu lieu ou qu’une décision politique a été automatisée. Le sujet ne précise ni les requêtes saisies, ni le type de compte employé, ni les données éventuellement transmises.

Or ces précisions changent tout. Demander à un assistant de proposer un plan générique pour une réunion n’a pas les mêmes conséquences que lui confier le contenu d’une note ministérielle, des informations sur un appel d’offres, des données personnelles ou des éléments relatifs à la sécurité nationale.

Pourquoi les données saisies dans un chatbot sont un sujet sensible

Un modèle conversationnel ne « devine » pas les documents internes d’un ministère. Il ne peut les exploiter que si un utilisateur les copie dans une conversation, téléverse un fichier ou active une connexion avec d’autres services. C’est précisément à ce moment que se pose la question de la maîtrise de l’information.

Les services d’IA générative ne proposent pas tous les mêmes garanties. Les conditions de conservation des conversations, l’usage des contenus pour améliorer les modèles, les contrôles administrateurs, le lieu d’hébergement des données et les possibilités d’audit varient selon le produit et l’abonnement. Employer une version grand public et employer un environnement professionnel spécifiquement configuré constituent donc deux situations très différentes.

Pour une administration, les catégories de données à protéger sont particulièrement nombreuses :

• les données personnelles de citoyens ou d’agents publics ;
• les projets de textes, positions de négociation et informations budgétaires non publiées ;
• les éléments commerciaux communiqués dans le cadre de marchés publics ;
• les informations touchant à la défense, à la sécurité ou aux infrastructures critiques.

Au Royaume-Uni, ces données ne sont pas laissées sans protection juridique. Le UK GDPR et le Data Protection Act 2018 imposent notamment des obligations de licéité, de sécurité et de minimisation pour le traitement des données personnelles. Les administrations doivent aussi appliquer leurs règles internes de classification de l’information et de cybersécurité. En revanche, l’existence de ces règles ne dispense pas de décider, outil par outil, quelles informations peuvent être utilisées et sous quelles conditions.

Le cadre gouvernemental britannique consacré à l’IA générative invite les organismes publics à évaluer les risques avant tout déploiement, à prévoir une gouvernance claire et à maintenir une supervision humaine. Dans un ministère, une telle démarche implique normalement de définir des usages autorisés, d’interdire certains types de saisies, de former les agents et de contrôler les fournisseurs.

Une réponse plausible n’est pas une information fiable

Le second risque se situe dans le contenu même des réponses. ChatGPT est conçu pour générer la suite de texte la plus pertinente en apparence au regard d’une demande. Cette capacité explique sa fluidité. Elle ne signifie pas que chaque phrase est exacte, complète ou appuyée par une source authentifiable.

L’outil peut produire ce que l’on appelle couramment des « hallucinations » : des faits inexacts, des références qui n’existent pas, des chiffres erronés ou une interprétation trop assurée d’une question ambiguë. Il peut aussi reproduire des biais présents dans les données à partir desquelles il a été entraîné ou dans la formulation de la requête.

Dans le secteur public, les conséquences ne sont pas seulement théoriques. Un résumé inexact peut orienter une note de préparation. Une réponse incomplète peut faire oublier les effets d’une politique sur une catégorie de population. Une recommandation opaque ne permet pas à un décideur de rendre compte de son raisonnement devant le Parlement, la justice ou les citoyens.

La bonne pratique consiste à traiter l’IA comme un outil d’assistance, jamais comme une autorité. Toute information factuelle obtenue par ce biais doit être vérifiée dans des documents fiables. Les chiffres doivent être retrouvés à leur source. Les conseils juridiques, financiers, scientifiques ou politiques doivent être examinés par les professionnels compétents. Enfin, l’auteur humain d’une note demeure responsable de ce qu’il signe, même si une partie du texte a été mise en forme par un chatbot.

L’IA peut-elle décider à la place d’un ministère ?

La crainte d’une « déshumanisation » de la décision publique mérite d’être formulée avec précision. Un outil tel que ChatGPT ne détient aucun mandat électif, aucune responsabilité juridique propre et aucune compréhension autonome de l’intérêt général. Il ne décide pas à la place d’un ministre tant qu’un humain conserve le pouvoir de choisir, de vérifier et de motiver la décision.

Le danger apparaît lorsqu’une réponse automatique devient, dans les faits, difficile à contester. Cela peut arriver si les équipes manquent de temps pour contrôler les productions de l’IA, si les critères employés par un système ne sont pas documentés, ou si l’automatisation est étendue à des décisions qui ont des conséquences importantes pour les personnes.

Dans une démocratie, une décision administrative doit pouvoir être expliquée. Un citoyen doit savoir qui a pris la décision, sur quels éléments elle repose et par quels recours il peut la contester. L’utilisation d’une IA ne doit pas créer une zone grise où personne ne serait réellement comptable du résultat.

Une efficacité réelle, à condition d’encadrer les usages

L’intérêt de l’IA générative dans une administration ne se limite pas à un effet de nouveauté. Lorsqu’elle est déployée dans un cadre sûr, elle peut alléger certaines tâches répétitives : mise en forme de documents, préparation de premières synthèses, traduction, classement d’informations non sensibles ou génération de brouillons. Ces gains potentiels expliquent que les avis exprimés à Whitehall soient partagés plutôt qu’unanimement hostiles.

Mais l’efficacité doit être mesurée au regard de son coût de contrôle. Une note rédigée en quelques secondes perd tout avantage si elle doit ensuite faire l’objet d’une vérification longue et complexe, ou si elle contient une donnée qui n’aurait jamais dû quitter le système d’information du ministère.

Pour éviter cet écueil, une administration peut organiser les usages autour de règles simples :

• réserver les outils publics aux demandes sans donnée sensible ni personnelle ;
• privilégier, pour les usages professionnels, des solutions dont les garanties de confidentialité, d’accès et d’audit ont été évaluées ;
• imposer une relecture humaine et une vérification des sources avant toute diffusion ;
• consigner les usages à risque et désigner des responsables de la gouvernance ;
• former les agents aux erreurs possibles des modèles et aux règles de sécurité.

Ces principes ne freinent pas nécessairement l’innovation. Ils permettent au contraire de distinguer les expérimentations utiles des pratiques improvisées. Un assistant qui aide un fonctionnaire à préparer un brouillon ne pose pas le même problème qu’un système intégré à une procédure affectant directement les droits d’une personne.

Quel cadre réglementaire au Royaume-Uni en mars 2025 ?

L’idée selon laquelle l’IA évoluerait dans un vide juridique doit être nuancée. Les lois sur la protection des données, les obligations de sécurité, le droit de l’égalité, les règles de marchés publics et les devoirs propres à l’administration s’appliquent déjà aux projets d’IA. L’Information Commissioner’s Office, l’autorité britannique de protection des données, a par ailleurs publié des orientations sur l’intelligence artificielle et la protection des données.

En mars 2025, le Royaume-Uni ne dispose toutefois pas d’un équivalent général et unifié de l’AI Act européen, spécifiquement conçu pour encadrer les systèmes d’intelligence artificielle selon leur niveau de risque. L’approche britannique repose largement sur les régulateurs existants et sur des principes d’usage sûr, transparent et responsable.

Ce choix rend la gouvernance interne particulièrement importante. Sans règle unique couvrant chaque cas d’usage, les ministères doivent traduire les principes généraux en procédures opérationnelles. Qui peut utiliser quel outil ? Quelles données sont exclues ? Quel niveau de validation est nécessaire ? À quel moment le responsable de la protection des données ou les équipes de sécurité doivent-ils être saisis ? Ces questions, moins visibles qu’un grand texte de loi, déterminent concrètement la sûreté des pratiques.

Ce qu’il faut surveiller à Whitehall

L’affaire ne se résume pas à savoir si un responsable politique peut ouvrir ChatGPT. L’enjeu sera de savoir si l’administration britannique peut démontrer que ses usages de l’IA sont proportionnés, documentés et contrôlés. La confiance du public dépendra moins de la promesse d’un État « augmenté » que de garanties compréhensibles sur les données, les erreurs et les responsabilités.

Plusieurs points méritent une attention particulière dans les prochains déploiements : la publication de règles d’usage accessibles aux agents, la transparence sur les fournisseurs et les catégories de données traitées, la capacité à corriger une décision affectée par une erreur, et l’existence d’un contrôle humain réel plutôt que symbolique.

L’IA générative peut devenir un outil administratif parmi d’autres. Elle ne peut pas devenir une excuse pour abaisser les exigences de confidentialité, de rigueur et de responsabilité qui s’imposent à l’État. À Whitehall comme ailleurs, l’innovation n’est durable que lorsqu’elle reste au service d’une décision publique humaine, vérifiable et protégée.