Au Royaume-Uni, l’IA du Home Office inquiète dans les décisions d’immigration

Lorsqu’un logiciel intervient dans la gestion d’un dossier d’immigration, l’enjeu ne se limite pas à gagner du temps dans une administration sous pression. Une orientation erronée, une priorité mal attribuée ou une recommandation suivie sans recul peuvent influer sur le droit de rester dans un pays, de retrouver sa famille ou d’être renvoyé vers son pays d’origine. C’est pourquoi l’utilisation d’un outil d’intelligence artificielle par le Home Office britannique suscite, en novembre 2024, une vive controverse.

Le ministère de l’Intérieur du Royaume-Uni utilise un système nommé Identify and Prioritise Immigration Cases, ou IPIC. Sa vocation est de contribuer au traitement de dossiers d’immigration concernant des adultes et des enfants. Pour le gouvernement, il s’agit d’un appui administratif destiné à rendre les procédures plus efficaces. Pour les défenseurs des droits des migrants, l’outil risque au contraire de déplacer, loin du regard du public, des décisions humaines particulièrement sensibles vers des mécanismes opaques.

IPIC, un outil de traitement et de priorisation des dossiers

Le nom du système donne une indication sur sa fonction : identifier et prioriser les dossiers d’immigration. Dans une administration confrontée à des volumes importants de demandes, un logiciel peut, en théorie, aider à organiser les informations, repérer des cas ou proposer un ordre de traitement. Cela ne signifie pas nécessairement qu’il tranche seul un dossier, mais son influence en amont peut peser sur la suite de la procédure.

Les éléments rendus publics à la faveur d’une démarche fondée sur la liberté d’information ont permis de mieux cerner l’existence de cet outil. Ils n’ont toutefois pas dissipé les interrogations sur son fonctionnement concret, les critères qu’il mobilise ni l’importance réelle de ses recommandations dans le travail quotidien des agents.

Le chiffre avancé dans ce débat illustre la pression qui s’exerce sur l’administration : le nombre de demandeurs d’asile est alors d’environ 41 000 personnes. Face à un tel volume, la promesse d’outils capables de faciliter le tri et la gestion des dossiers est compréhensible. Mais l’efficacité administrative ne répond pas, à elle seule, à la question de l’équité.

Pourquoi les critiques parlent-elles d’un « robo-caseworker » ?

Des critiques ont surnommé IPIC le « robo-caseworker », autrement dit un travailleur social ou instructeur de dossier robotisé. L’expression vise moins à décrire un fonctionnaire remplacé par une machine qu’à mettre en lumière un risque : celui d’une automatisation progressive de décisions où la situation personnelle de chaque individu devrait rester centrale.

Un outil algorithmique n’est jamais neutre par nature. Il dépend des données dont il dispose, des catégories retenues pour classer les cas et des objectifs fixés par ses concepteurs. Si des données historiques reflètent déjà des traitements inéquitables, un système entraîné ou paramétré à partir de ces informations peut reproduire, voire renforcer, ces inégalités. Les critiques redoutent ainsi que l’algorithme n’« encode des injustices » existantes sous une apparence de rationalité technique.

Cette inquiétude est particulièrement forte dans le champ migratoire. Les dossiers peuvent mêler des récits de persécution, des vulnérabilités médicales, des parcours familiaux complexes ou des risques encourus en cas de retour. Réduire ces éléments à des variables comparables est délicat. Même lorsqu’un logiciel ne produit qu’une recommandation, celle-ci peut orienter la manière dont un agent lit et évalue le dossier.

La garantie humaine suffit-elle à protéger les demandeurs ?

Le Home Office défend son dispositif en affirmant qu’un agent humain reste responsable de chaque décision. Cette précision est essentielle : officiellement, IPIC n’est donc pas présenté comme un juge autonome de l’immigration. L’agent doit examiner le cas individuel et ne devrait pas se contenter d’appliquer mécaniquement une sortie informatique.

Mais les organisations de défense des libertés s’interrogent sur la réalité de ce contrôle. Des responsables de Privacy International alertent sur le risque de rubberstamping, une validation de routine des recommandations algorithmiques. Leur préoccupation repose sur une possible asymétrie pratique : accepter le résultat proposé par le système demanderait peu d’efforts, tandis que le rejeter imposerait à l’agent de rédiger une justification.

Dans une organisation qui doit gérer beaucoup de dossiers, cette différence peut avoir un effet puissant. Elle crée une incitation à suivre la recommandation par défaut, non forcément par conviction, mais faute de temps ou parce que la procédure rend la contestation plus lourde. L’intervention humaine peut alors devenir une simple étape de validation, plutôt qu’un véritable examen indépendant.

La transparence, condition d’un contrôle réel

La contestation ne porte pas seulement sur la technologie elle-même, mais sur l’information disponible à son sujet. Les documents obtenus par la voie de la liberté d’information ont alimenté les inquiétudes autour de l’opacité d’IPIC. Les personnes dont le dossier est concerné ne seraient pas spécifiquement informées qu’un algorithme participe au processus.

Cette absence d’information soulève une difficulté très concrète. Comment une personne peut-elle demander des explications, corriger une donnée erronée ou contester un traitement discriminatoire si elle ignore qu’un outil algorithmique a été utilisé ? Dans les procédures d’immigration, où les personnes concernées ne maîtrisent pas toujours les règles administratives ni la langue du pays, l’opacité peut accroître les obstacles déjà rencontrés.

La transparence ne signifie pas nécessairement divulguer intégralement un logiciel. Elle suppose au minimum de pouvoir comprendre à quelles étapes un système intervient, quels types de données l’alimentent, quelles conséquences ses résultats peuvent avoir et quels recours sont disponibles. Sans ces informations, il devient difficile d’évaluer si la promesse d’efficacité s’accompagne de garanties suffisantes contre l’erreur et l’injustice.

Des données sensibles au cœur des préoccupations

IPIC s’appuie sur des informations personnelles particulièrement sensibles. Parmi les catégories citées figurent les données biométriques, l’ethnicité, des indicateurs de santé et les antécédents criminels. Chacune de ces données peut avoir une forte incidence sur la manière dont une personne est perçue par une administration, surtout lorsqu’elles sont agrégées dans un système de tri ou de recommandation.

La biométrie, par exemple, permet d’identifier une personne à partir de caractéristiques physiques. Les informations de santé peuvent signaler une vulnérabilité, mais risquent aussi d’être mal interprétées si elles sont sorties de leur contexte. Quant à l’ethnicité, sa présence dans un système algorithmique est particulièrement sensible dans un domaine où des militants redoutent déjà des discriminations structurelles.

Fizza Qureshi fait partie des voix qui mettent en garde contre le risque de partialité raciale. Si un outil est mal conçu ou si ses données de référence intègrent des biais, il pourrait perpétuer des stéréotypes et aggraver des disparités dans le traitement des demandes d’asile. Le danger n’est pas qu’un algorithme développe une opinion personnelle. Il est qu’il transforme des corrélations et des choix administratifs en résultats qui paraissent objectifs, alors qu’ils peuvent refléter des inégalités préexistantes.

Une réforme de la protection des données qui inquiète les associations

Le débat sur IPIC s’inscrit aussi dans une discussion plus large sur le cadre britannique de la protection des données. Le développement d’un nouveau projet de loi dans ce domaine pourrait ouvrir davantage la voie à l’automatisation de décisions dans de nombreux contextes administratifs.

Pour ses partisans, une telle évolution peut rendre les procédures plus fluides. Les administrations y voient une manière de réduire des retards, de mieux répartir les tâches et de gérer des flux importants. Ces objectifs ne sont pas négligeables, notamment pour des demandeurs qui attendent parfois longtemps une réponse.

Les détracteurs y voient cependant un risque de normalisation : ce qui commence comme un outil de soutien administratif peut progressivement devenir une infrastructure de décision difficile à auditer. Dans le domaine de l’immigration, cette évolution interroge la responsabilité en cas d’erreur. Si un agent suit une recommandation nuisible produite par un système, qui doit rendre des comptes : l’agent, le service qui a déployé l’outil, ou les personnes qui l’ont conçu ?

L’enjeu juridique et éthique est donc double. Il faut pouvoir attribuer clairement une responsabilité humaine à chaque décision, mais aussi garantir que les personnes touchées disposent d’une voie effective pour comprendre et contester le processus. Une décision qui ne peut pas être expliquée est, par nature, plus difficile à remettre en cause.

L’IA peut-elle améliorer les décisions d’immigration ?

La critique d’IPIC ne conduit pas tous les experts à rejeter tout usage de l’IA dans l’immigration. Madeleine Sumption, du Migration Observatory, estime que ces outils pourraient avoir des effets bénéfiques s’ils permettent d’améliorer les décisions humaines. Cette réserve est importante : l’automatisation peut aussi être employée pour aider des agents à retrouver une information pertinente, éviter des oublis ou mieux organiser des dossiers.

La question n’est donc pas seulement de savoir s’il faut utiliser un outil d’IA, mais comment, avec quelles données et sous quel contrôle. Un système utile devrait compléter le jugement humain plutôt que le remplacer dans les faits. Il devrait aussi faire l’objet d’évaluations régulières, notamment pour vérifier que ses recommandations ne produisent pas de désavantages injustifiés pour certains groupes.

Pour que les bénéfices annoncés deviennent crédibles, les critiques réclament davantage de clarté sur les mécanismes à l’œuvre. La transparence constitue ici une condition de confiance, autant pour les personnes concernées que pour les agents chargés de prendre des décisions qui peuvent bouleverser une vie.

Ce qu’il faut surveiller

Au 11 novembre 2024, le dossier IPIC met en évidence un dilemme appelé à dépasser le seul Home Office : comment utiliser des outils algorithmiques dans les services publics sans rendre leurs décisions plus rapides au prix d’une perte de compréhension, de nuance et de recours ?

Plusieurs points seront déterminants. Le premier est la capacité du Home Office à détailler le rôle exact d’IPIC et à informer les personnes concernées. Le deuxième est la réalité du contrôle humain : il doit être possible, concret et suffisamment doté en temps pour ne pas devenir une formalité. Le troisième concerne les données sensibles, leur usage et le risque de biais raciaux ou sociaux.

L’intelligence artificielle peut alléger certaines tâches administratives. Mais dans l’immigration, où chaque dossier représente une trajectoire humaine singulière, l’efficacité ne peut être le seul indicateur de réussite. La qualité d’une décision se mesure aussi à son équité, à son explication et à la possibilité, pour la personne qui la subit, de la contester réellement.