Royaume-Uni : l’IA sous surveillance pour moderniser les services publics

L’intelligence artificielle entre progressivement dans les rouages de l’administration britannique, là où elle peut avoir des effets très concrets : une réponse consulaire plus rapide, une meilleure compréhension du parcours d’un justiciable ou un accompagnement ciblé d’entreprises prêtes à exporter. Mais, dans les services publics, la performance ne suffit pas. Le gouvernement du Royaume-Uni veut aussi montrer quels outils sont employés, sur quelles informations ils reposent et quelles garanties encadrent leurs décisions.

Cette ambition se traduit, en décembre 2024, par la publication de nouveaux enregistrements relevant de l’Algorithmic Transparency Recording Standard, ou ATRS, la norme britannique d’enregistrement de la transparence algorithmique. L’objectif est double : démontrer que les technologies numériques peuvent améliorer les services rendus aux citoyens et établir des règles de visibilité et de responsabilité pour éviter que les algorithmes ne deviennent des boîtes noires administratives.

Des registres publics pour rendre les algorithmes visibles

Un algorithme est, au sens large, une série d’instructions permettant de traiter des informations afin d’aboutir à un résultat. Il peut classer des dossiers, repérer des tendances, produire une recommandation ou estimer la probabilité d’un événement. L’IA, et notamment l’apprentissage automatique, permet à certains de ces systèmes d’identifier des régularités dans de grands volumes de données.

Appliqués à l’action publique, ces outils peuvent aider des agents à traiter davantage d’informations et à consacrer du temps à des situations complexes. Ils soulèvent toutefois des questions particulières : un citoyen sait-il qu’un système automatisé intervient dans son parcours ? Peut-il comprendre le rôle joué par cet outil ? Les données manipulées sont-elles adéquates et protégées ? Qui répond d’une décision préjudiciable ?

L’ATRS a précisément vocation à documenter ces éléments. Les enregistrements publiés par les administrations ne sont pas de simples annonces de projets technologiques. Ils doivent fournir un cadre de description des systèmes algorithmiques utilisés par le secteur public, de leur finalité et de leurs garde-fous. Le gouvernement britannique cherche ainsi à faire de la transparence une pratique concrète de gestion publique, plutôt qu’un principe abstrait.

Quels usages de l’IA sont documentés dans les ministères ?

Les dossiers récemment dévoilés illustrent des applications très différentes de l’IA et des outils algorithmiques. Au Foreign, Commonwealth and Development Office, l’administration chargée notamment des affaires étrangères et de l’assistance consulaire, des outils sont utilisés pour apporter des réponses plus rapides aux ressortissants britanniques qui demandent de l’aide à l’étranger.

Au ministère de la Justice, des algorithmes sont mobilisés pour mieux comprendre les interactions des citoyens avec le système judiciaire. Il ne s’agit donc pas nécessairement de laisser une machine trancher une affaire, mais d’analyser des informations afin d’éclairer le fonctionnement d’un service public particulièrement complexe.

Le Department for Business and Trade met pour sa part en avant un outil capable de prédire quelles entreprises sont les plus susceptibles d’exporter des biens à l’international. L’administration peut alors concentrer son accompagnement sur les sociétés dont le potentiel à l’export paraît le plus élevé, au lieu de s’appuyer exclusivement sur des méthodes manuelles lourdes.

Ces exemples ont un point commun : l’algorithme est présenté comme un outil de soutien à l’action administrative. Il peut accélérer l’analyse ou aider à orienter des ressources, mais son utilisation doit rester lisible lorsque ses résultats ont une incidence importante sur les personnes concernées.

La nouvelle règle : publier les outils qui comptent pour les citoyens

Le gouvernement renforce ses directives relatives aux enregistrements de transparence algorithmique. Les organismes centraux de l’État doivent publier un enregistrement pour tout outil algorithmique qui interagit directement avec les citoyens ou qui influence de manière significative des décisions les concernant.

Cette formulation est importante. Elle cible les cas dans lesquels un dispositif automatisé dépasse le simple usage interne, par exemple l’organisation technique d’un service, et joue un rôle perceptible ou potentiellement déterminant dans la relation entre l’administration et la population. Des exceptions limitées sont prévues, notamment lorsqu’une publication serait incompatible avec des impératifs de sécurité nationale.

Les enregistrements doivent être rendus publics après la phase pilote d’un outil ou une fois celui-ci opérationnel. Ils sont appelés à inclure des informations sur les données utilisées pour entraîner les modèles d’IA, ainsi que sur les mesures prises pour atténuer les risques. La supervision humaine reste un élément central du dispositif de décision.

Cette exigence répond à une difficulté récurrente avec les technologies algorithmiques : leur apparente neutralité. Un système traite des données selon des règles, mais les choix faits avant son déploiement ont des conséquences. Quelles données sont retenues ? Quel résultat cherche-t-on à prédire ? Quelle marge de manœuvre laisse-t-on aux agents ? Quels biais peuvent affecter les résultats ? Rendre ces paramètres plus visibles est indispensable dans un État de droit.

Transparence ne veut pas dire publication de toutes les données

La transparence algorithmique ne signifie pas que les administrations doivent exposer les données personnelles des usagers ni révéler des éléments susceptibles de compromettre la sécurité publique. Elle consiste à donner des explications utiles sur le fonctionnement et la gouvernance d’un outil : sa finalité, le contexte de son emploi, les données considérées, les risques identifiés et les contrôles prévus.

Ce compromis est essentiel. Les services publics détiennent souvent des informations sensibles, qu’il s’agisse de situations personnelles, de dossiers judiciaires ou de données économiques. La protection des données, le consentement éclairé lorsque celui-ci est nécessaire et des contrôles d’accès rigoureux font donc partie des conditions d’une IA réellement responsable.

Efficacité administrative et confiance publique : un équilibre à construire

Peter Kyle, secrétaire d’État à la Science, à l’Innovation et à la Technologie, met en avant le potentiel de transformation de ces technologies pour les services publics. Le message du gouvernement est clair : l’IA doit contribuer à rendre l’État plus efficace et plus réactif, sans affaiblir la confiance du public.

Cette confiance ne se décrète pas. Un outil prédictif peut paraître utile parce qu’il permet de traiter rapidement un très grand nombre d’informations. Pourtant, si les critères qu’il utilise sont opaques ou si ses recommandations sont appliquées sans recul, il peut reproduire ou amplifier des inégalités déjà présentes dans les données. Une décision publique n’est pas seulement une opération de calcul : elle doit aussi respecter des règles, pouvoir être expliquée et tenir compte des cas individuels.

Le cas de l’outil du Department for Business and Trade illustre bien cette tension. Prévoir quelles entreprises ont le plus de chances d’exporter peut aider à attribuer plus vite les ressources d’accompagnement. Mais une prédiction n’est pas une certitude. Elle dépend des données sur lesquelles elle s’appuie et des critères retenus par l’administration. L’enjeu est donc de faire de cette estimation une aide à l’action, et non un mécanisme automatique qui fermerait l’accès à un soutien pour les entreprises ne correspondant pas à un profil statistique.

Pourquoi les experts insistent sur l’éthique et la protection des données

La démarche britannique s’inscrit dans un débat plus large sur l’usage de l’IA dans le secteur public. Le Dr Antonio Espingardeiro, membre de l’IEEE, souligne le potentiel de ces technologies pour transformer des tâches traditionnellement réalisées par des humains, notamment lorsqu’il faut analyser des volumes massifs d’informations. Associé à l’apprentissage automatique, ce traitement peut augmenter fortement les capacités d’analyse des administrations.

Mais ce gain de capacité impose des responsabilités supplémentaires. Eleanor Watson, ingénieure spécialisée dans l’éthique de l’IA, plaide pour des standards permettant de concevoir des systèmes sûrs. La question ne se limite pas à l’exactitude technique d’un modèle. Il faut aussi vérifier que son usage est proportionné à l’objectif, que les droits des personnes sont respectés et que les risques sont identifiés en amont.

Dans les services publics, les conséquences d’une erreur peuvent être particulièrement sensibles. Un mauvais classement, une recommandation biaisée ou une interprétation inadaptée peuvent affecter l’accès à une aide, à un service ou à une opportunité économique. C’est pourquoi la documentation des risques et des mesures d’atténuation, prévue par les enregistrements ATRS, compte autant que la promesse d’efficacité.

Une modernisation de l’État au service du Plan pour le changement

Le gouvernement relie cette politique de transparence à son ambition plus générale de modernisation. Jonathan Reynolds, secrétaire d’État aux Affaires et au Commerce, souligne le rôle attendu de l’IA dans le Plan pour le changement, notamment pour soutenir la croissance économique et accroître les possibilités d’exportation des entreprises britanniques.

L’argument est aussi budgétaire. Si un outil aide les services à repérer plus efficacement les besoins ou à réduire des tâches manuelles répétitives, il peut permettre une meilleure allocation des ressources publiques. Mais l’utilisation responsable des fonds ne se mesure pas seulement au temps gagné : elle implique aussi de financer des dispositifs contrôlables, sécurisés et réellement utiles aux citoyens.

Pat McFadden, chancelier du Duché de Lancastre, réaffirme de son côté que les bénéfices de la technologie, et particulièrement de l’IA, doivent concerner à la fois les secteurs public et privé. Le développement d’un centre numérique au sein du gouvernement doit soutenir cette orientation vers une administration plus capable d’utiliser les technologies de manière responsable.

L’ambition britannique est également de faire des enregistrements ATRS une référence susceptible d’inspirer d’autres gouvernements. Cette portée dépendra moins de la quantité de fiches publiées que de leur qualité, de leur mise à jour et de l’usage qu’en feront les administrations elles-mêmes.

Ce qu’il faut surveiller

La publication d’enregistrements de transparence constitue une étape, pas un point final. Pour que l’initiative remplisse son objectif, plusieurs éléments devront être observés : la clarté des informations mises à disposition, la fréquence de leur actualisation lorsque les outils évoluent, la précision des évaluations de risques et l’effectivité de la supervision humaine.

Il faudra aussi examiner si les citoyens disposent de voies simples pour demander des explications lorsqu’un outil algorithmique a joué un rôle important dans leur relation avec l’administration. La transparence est d’autant plus utile qu’elle peut être comprise par les personnes concernées, et pas seulement par des spécialistes.

Le Royaume-Uni fait ainsi le pari qu’une IA publique peut être à la fois plus efficace et plus responsable. Ses registres ATRS donnent une forme concrète à cette promesse : faire connaître les outils employés, expliciter leurs limites et maintenir l’humain au cœur des décisions qui comptent.