Royaume-Uni : l’IA publique se déploie plus vite que son registre de transparence

L’intelligence artificielle n’est plus une promesse lointaine dans l’administration britannique. Elle aide déjà à traiter des documents liés aux prestations, accompagne des procédures d’immigration, analyse des avis de patients et équipe certaines forces de police de dispositifs de reconnaissance faciale. Mais, au 28 novembre 2024, les citoyens ne disposent toujours pas d’une vision complète de ces outils, de leur rôle exact et de leurs conséquences possibles.

Le décalage est particulièrement visible dans le registre public que le gouvernement britannique entend utiliser pour documenter ses systèmes algorithmiques. En février 2024, l’exécutif avait annoncé que l’enregistrement deviendrait obligatoire pour l’ensemble des départements gouvernementaux. Or, aucun département de Whitehall n’avait, depuis cette annonce, consigné son utilisation de l’IA dans ce registre. Une lacune qui pose une question simple : comment contrôler des technologies publiques lorsqu’il reste difficile de savoir où, et pour quoi, elles sont déployées ?

Un registre obligatoire qui reste très peu alimenté

Un registre algorithmique public ne constitue pas une interdiction de l’IA, ni un mécanisme d’autorisation préalable. Son objectif est d’apporter des informations essentielles sur les systèmes employés par les administrations : leur finalité, le service responsable, le type de décision concerné ou encore le rôle conservé par les agents humains. Cette transparence permet aux élus, aux chercheurs, aux associations et aux personnes concernées de demander des explications lorsque nécessaire.

En novembre 2024, neuf systèmes algorithmiques avaient été soumis au registre public. Ce total reste très faible au regard des nombreux programmes numériques utilisés dans la protection sociale, au Home Office ou par les forces de police. Le constat est d’autant plus marquant que l’usage du registre devait devenir une exigence pour les départements gouvernementaux.

Les chiffres disponibles renvoient à des périmètres et à des périodes différents, mais ils vont dans la même direction : la publication d’informations est restée limitée. Depuis la fin de 2022, seuls trois algorithmes avaient notamment été inscrits à l’échelle nationale. Parmi eux figuraient un outil du Cabinet Office pour repérer des archives numériques, une caméra assistée par IA chargée d’analyser des passages piétons à Cambridge, ainsi qu’un dispositif analysant les retours de patients sur les services du NHS.

Des usages de l’IA déjà présents dans les décisions publiques

L’absence d’inscription systématique ne signifie pas que l’IA est absente des services de l’État. Au contraire, plusieurs usages concernent déjà des domaines où les décisions administratives peuvent avoir des effets très concrets sur la vie des personnes.

Au Département du Travail et des Pensions, ou DWP, l’IA générative est employée pour analyser chaque jour plus de 20 000 documents. Le système sert à résumer les correspondances pertinentes afin de transmettre les informations importantes aux agents chargés des décisions. Dans cet exemple, l’outil est présenté comme une aide au traitement et à la circulation de l’information. Mais l’ampleur des volumes concernés rend particulièrement importante la possibilité de comprendre comment les synthèses sont produites et vérifiées.

Le Home Office, ministère chargé notamment de l’immigration, utilise pour sa part un système d’application des règles d’immigration alimenté par l’IA. Selon les inquiétudes exprimées autour de ce dispositif, il contribue à des décisions concernant le retour de personnes vers leur pays d’origine. Le gouvernement indique que ce système repose sur des règles. Cette précision ne lève pas toutes les interrogations : même lorsqu’un outil applique des règles définies, il faut savoir qui les a fixées, comment les cas particuliers sont traités et quelle responsabilité humaine s’exerce sur la décision finale.

Les forces de police britanniques utilisent également des logiciels de reconnaissance faciale pour identifier des suspects. Un contrat susceptible d’atteindre 20 millions de livres sterling a été attribué pour cette technologie. La reconnaissance faciale peut accélérer l’identification d’une personne recherchée dans certaines situations. Elle soulève toutefois des questions spécifiques, car elle repose sur l’analyse de données biométriques et peut concerner des personnes présentes dans l’espace public qui ne sont pas nécessairement soupçonnées d’une infraction.

Santé, démarches en ligne : l’IA gagne aussi les services du quotidien

L’IA publique ne se limite ni aux contrôles ni aux procédures administratives les plus sensibles. Elle s’étend aussi aux services de santé et aux outils numériques destinés au grand public.

NHS England a conclu avec Palantir un contrat de 330 millions de livres sterling afin de créer une nouvelle plate-forme de données. Ce partenariat a suscité des préoccupations sur la confidentialité des informations médicales. Palantir affirme que les données restent sous le contrôle de ses clients. Dans la santé, où les informations sont particulièrement sensibles, cette question de gouvernance est centrale : la performance technique d’une plate-forme ne remplace pas des règles claires sur l’accès, l’usage et la protection des données des patients.

Le service numérique du gouvernement expérimente aussi un chatbot destiné à aider les internautes à naviguer sur le site gov.uk. Le projet s’appuie sur la technologie ChatGPT d’OpenAI. Une telle interface peut simplifier l’accès à des informations administratives souvent complexes. Elle implique néanmoins de veiller à la fiabilité des réponses, à la protection des échanges avec les usagers et à la possibilité de se tourner facilement vers un interlocuteur humain.

Ces cas n’ont pas tous le même niveau de risque. Résumer des courriers, aider un usager à trouver une page ou contribuer à une décision d’immigration ne produisent pas les mêmes effets. C’est précisément pourquoi une information publique détaillée est nécessaire : elle permet d’évaluer chaque usage selon sa finalité et les droits potentiellement en jeu, plutôt que de traiter toute IA comme une technologie uniforme.

Pourquoi un registre change la nature du débat

La transparence ne garantit pas, à elle seule, qu’un système sera juste, fiable ou proportionné. Elle crée toutefois une condition minimale du contrôle démocratique. Sans liste publique, il devient plus difficile de savoir quelles administrations utilisent des outils algorithmiques, de demander des explications sur leurs critères et de repérer d’éventuelles erreurs répétées.

Peter Kyle, secrétaire d’État à la Science et à la Technologie, a reconnu que le secteur public n’avait pas suffisamment accordé d’importance à la transparence sur l’usage gouvernemental des algorithmes. Sa position est claire : lorsque le gouvernement utilise ces technologies, le public doit pouvoir savoir comment elles sont appliquées.

Pour les défenseurs des libertés publiques, l’enjeu est particulièrement aigu lorsque la technologie touche à l’identité ou aux déplacements. L’organisation Big Brother Watch a critiqué l’attribution du contrat de reconnaissance faciale aux forces de police, alors que des parlementaires avaient déjà alerté sur l’absence de règles suffisamment précises. L’association y voit le symptôme d’un manque de transparence sur l’IA et d’un risque pour les droits liés aux données personnelles.

Les risques : biais, erreurs et perte de confiance

Un système algorithmique peut aider une administration à absorber un volume important de dossiers. Mais il peut aussi reproduire ou amplifier des problèmes préexistants si ses données, ses règles ou ses résultats ne sont pas suffisamment examinés. Des erreurs de classement, une mauvaise interprétation d’un document ou une logique statistique mal adaptée peuvent avoir des conséquences très différentes selon le domaine : retard de prestation, difficulté administrative, contrôle injustifié ou atteinte à la vie privée.

L’Institute Ada Lovelace a averti que les systèmes d’IA peuvent certes faciliter la gestion administrative, mais aussi réduire les bénéfices attendus et éroder la confiance publique lorsque leurs prédictions sont discriminatoires ou inefficaces. Cette question de confiance est déterminante. Une personne qui ne sait pas qu’un système a contribué à traiter son dossier, ou qui ne peut pas comprendre pourquoi une recommandation a été produite, aura plus de difficultés à la contester utilement.

Le scandale lié au logiciel Horizon de la Poste britannique constitue un rappel majeur des dégâts qu’un système informatique défaillant peut causer lorsqu’il est traité comme infaillible. Horizon n’est pas un exemple d’IA au sens strict. Mais son histoire illustre un principe essentiel pour les outils algorithmiques contemporains : un logiciel ne doit jamais faire disparaître le jugement humain, le droit à l’explication et la possibilité de corriger une erreur.

L’adoption accélérée par les contrats et les promesses d’économies

Alors que le registre avance lentement, les achats publics liés à l’IA se multiplient. Selon la société Tussell, 164 contrats mentionnant l’IA ont été conclus avec des organismes publics depuis février 2024. Cette dynamique traduit l’intérêt des administrations pour des outils capables d’automatiser certaines tâches, de traiter des documents ou de répondre aux usagers.

Les grandes entreprises technologiques encouragent activement cette adoption. Microsoft et Meta poussent notamment leurs systèmes d’IA auprès des administrations. Google Cloud a financé un rapport estimant qu’une utilisation accrue de l’IA générative pourrait permettre jusqu’à 38 milliards de livres sterling d’économies dans le secteur public britannique d’ici 2030.

Cette estimation doit être lue pour ce qu’elle est : une projection issue d’un rapport financé par un fournisseur de services cloud, et non une économie déjà constatée par l’État. Surtout, la recherche d’économies ne répond pas à toutes les questions d’intérêt général. Une solution peut réduire le temps consacré à une tâche tout en créant de nouveaux coûts de contrôle, de formation, de recours ou de correction des erreurs.

Le débat britannique ne porte donc pas sur une opposition simpliste entre innovation et réglementation. Il porte sur l’ordre des priorités. Si les administrations achètent et testent des systèmes à grande vitesse, les règles de transparence et de responsabilité doivent suivre le même rythme.

Ce qu’il faut surveiller après l’annonce d’une obligation

La principale question pour le gouvernement britannique est désormais celle de l’exécution. L’annonce d’un registre obligatoire ne produira d’effet que si les départements savent quels systèmes déclarer, si les informations publiées sont suffisamment précises et si l’absence de déclaration entraîne des conséquences concrètes.

Plusieurs points méritent une attention particulière :

• la publication des usages existants dans les domaines à forts enjeux, notamment l’immigration, les prestations et la police ;
• la distinction entre un outil qui assiste un agent et un outil qui influence directement une décision individuelle ;
• les garanties offertes aux personnes pour connaître l’intervention d’un système et demander un réexamen humain ;
• l’encadrement de la reconnaissance faciale et des données de santé, deux usages où la vie privée est particulièrement exposée ;
• la cohérence entre les promesses d’économies liées à l’IA et les moyens consacrés à l’audit, à la sécurité et à la transparence.

En novembre 2024, l’administration britannique se trouve ainsi face à un test de crédibilité. L’IA est déjà entrée dans des services qui concernent des millions de personnes. Rendre ces usages visibles n’empêchera pas l’innovation, mais donnera au public les moyens de comprendre, de questionner et, lorsque c’est nécessaire, de contester les outils employés en son nom.