Au Département des anciens combattants, l’IA de DOGE inquiète sur la sécurité

L’intelligence artificielle peut-elle rendre les services publics plus efficaces sans mettre en danger les personnes qui en dépendent ? Au Département américain des anciens combattants, ou VA pour Veterans Affairs, cette question prend une dimension particulièrement sensible. Des collaborateurs liés à DOGE y poussent l’usage d’outils d’automatisation, dont OpenHands. Mais, au 4 avril 2025, des employés de l’agence et le représentant démocrate Gerald Connolly alertent sur les risques d’une transformation menée trop vite, avec des conséquences possibles sur les soins, les prestations et les données des vétérans.

Le sujet ne se résume pas à l’introduction d’un nouveau logiciel. Le VA gère des parcours où une erreur administrative, une interruption informatique ou une donnée mal protégée peut retarder un remboursement, une reconnaissance d’invalidité, un accès à un soin ou le versement d’une aide. Dans ce contexte, la recherche d’efficacité doit être conciliée avec des exigences élevées de continuité de service, de contrôle humain et de cybersécurité.

Ce qui change au Département des anciens combattants

DOGE s’est imposé dans le débat américain comme une structure associée à une volonté de réduction des dépenses et de réorganisation de l’administration fédérale. Au sein du VA, les actions de collaborateurs liés à cette initiative suscitent des interrogations sur leur connaissance des systèmes, des missions et des contraintes propres au service des anciens combattants.

Gerald Connolly, membre du Comité de surveillance de la Chambre des représentants, a exprimé des inquiétudes sur la capacité des nouveaux responsables à préserver l’accès aux soins nécessaires. Selon l’élu, des décisions prises sans compétence suffisante dans ce domaine pourraient priver les vétérans de services essentiels.

Cette critique vise moins le principe abstrait d’une modernisation technologique que les conditions de son déploiement. Un organisme tel que le VA n’est pas une entreprise où l’on peut remplacer un outil interne en acceptant quelques dysfonctionnements temporaires. Ses systèmes portent sur des droits individuels, des traitements médicaux et des démarches administratives dont dépendent des millions de personnes et leurs familles.

Des salariés anonymes de l’agence ont également confié leurs préoccupations. L’un d’eux a déclaré que les nouveaux intervenants n’avaient « aucune idée » des enjeux auxquels ils étaient confrontés. Cette appréciation ne constitue pas, à elle seule, une preuve d’incident ou de défaillance. Elle révèle néanmoins un problème déterminant dans toute transformation numérique publique : l’expertise métier des agents qui connaissent les procédures, les exceptions et les situations humaines ne peut être écartée au profit de la seule promesse d’automatisation.

OpenHands, l’outil d’IA évoqué dans cette initiative

L’outil cité dans les discussions est OpenHands, un projet accessible sur GitHub. Il est présenté comme une solution pouvant automatiser certaines tâches, notamment en assistant des activités habituellement réalisées manuellement. Dans le cadre rapporté au VA, l’intérêt de cet outil semble tenir à sa capacité potentielle à rationaliser le travail et les dépenses de l’agence.

L’automatisation n’implique pas nécessairement qu’une machine décide seule du sort d’un dossier. Elle peut, par exemple, aider à traiter des documents, à rédiger du code, à retrouver une information dans une base ou à préparer des tâches répétitives. Mais le niveau de risque dépend entièrement de l’usage réel : un assistant qui travaille sur des données fictives ou publiques n’a pas les mêmes conséquences qu’un système connecté à des données administratives et médicales identifiantes.

Le terme d’IA recouvre en outre des réalités très différentes. Certains outils suivent des règles explicites. D’autres, fondés sur des modèles de langage, génèrent des réponses ou des instructions à partir de grandes quantités de texte. Dans tous les cas, une automatisation doit être testée sur des cas concrets, soumise à des autorisations précises et accompagnée de mécanismes permettant à une personne qualifiée de vérifier, corriger et annuler ses effets.

Pourquoi les données des vétérans exigent-elles une protection renforcée ?

Les préoccupations formulées par des employés portent d’abord sur la sécurité. Le VA détient des informations parmi les plus sensibles qu’une administration puisse traiter : identité, coordonnées financières, historique médical, situation de handicap ou demandes d’indemnisation. La source des inquiétudes n’est pas l’existence avérée d’une fuite au 4 avril 2025, mais le risque qu’un outil insuffisamment vérifié crée une nouvelle faille dans un environnement déjà complexe.

Les données en jeu et les effets potentiels peuvent être résumés ainsi :

Dans un système fédéral, tout outil amené à manipuler des informations sensibles doit normalement passer par des vérifications de sécurité adaptées. Il faut notamment déterminer qui peut accéder aux données, où celles-ci sont stockées, si elles quittent ou non l’environnement prévu, comment les accès sont enregistrés et comment une anomalie est détectée. Les agents interrogés redoutent précisément que l’introduction d’OpenHands ne respecte pas suffisamment ces standards institutionnels.

Le danger ne vient pas uniquement d’un vol de données. Un mauvais paramétrage peut aussi accorder des droits d’accès trop larges, faire transiter un document dans un environnement non autorisé, produire une instruction erronée ou dégrader une application indispensable. Pour des services qui assurent des versements, des rendez-vous ou le suivi de dossiers médicaux, une indisponibilité temporaire peut déjà avoir des effets importants.

Une automatisation utile, mais sous conditions strictes

L’IA peut avoir une utilité concrète dans le service public si elle est employée avec prudence. Des tâches répétitives, des recherches documentaires ou des opérations techniques peuvent parfois être accélérées. Les agents peuvent alors consacrer davantage de temps aux situations complexes, à l’écoute des usagers et aux décisions qui exigent un jugement humain.

Mais ce potentiel ne justifie pas de contourner les protections nécessaires. Les craintes exprimées au VA illustrent un principe simple : plus un système traite des droits essentiels et des données personnelles sensibles, plus il doit être déployé progressivement. Cela suppose d’identifier précisément les tâches visées, de limiter les accès accordés à l’outil, de procéder à des essais contrôlés et de prévoir des procédures de retour en arrière.

Le point décisif : préserver l’accès aux soins et aux prestations

Pour les anciens combattants, l’enjeu le plus concret n’est pas de savoir si l’administration emploie un outil d’IA moderne. Il est de savoir si leur dossier sera traité de manière fiable, si leur paiement arrivera à temps et s’ils pourront joindre une personne lorsque leur situation sort du cadre prévu.

Les salariés du VA qui s’inquiètent des changements craignent une défaillance systémique susceptible de réduire l’accès aux prestations. Le mot est fort, mais il renvoie à une réalité administrative : plusieurs systèmes, équipes et procédures sont souvent imbriqués. Une modification apportée à l’un d’eux peut avoir des effets en cascade, surtout si elle est réalisée sans connaître les dépendances techniques ou les pratiques de terrain.

Les bénéfices des vétérans recouvrent des enjeux matériels et médicaux majeurs. Une procédure automatisée mal conçue peut classer un document dans la mauvaise catégorie, ne pas détecter une exception, créer un retard de traitement ou orienter un usager vers une réponse inadaptée. C’est pourquoi la présence d’agents formés, capables de reprendre la main et d’expliquer une décision, reste indispensable.

Le manque de transparence nourrit les inquiétudes

Le VA n’a pas fourni de commentaire immédiat sur ces développements. Cette absence de réponse publique renforce les demandes de transparence formulées par des employés, qui estiment ne pas disposer d’informations suffisantes sur les décisions prises, les objectifs des outils et leurs conséquences possibles.

La transparence ne consiste pas à révéler des détails qui fragiliseraient la sécurité d’un système. Elle implique plutôt de rendre compréhensibles les règles de gouvernance : quelles données peuvent être utilisées, quelles tâches sont concernées, qui valide les outils, quels contrôles indépendants sont prévus et comment les usagers sont protégés en cas de problème.

Un dialogue avec les agents, les représentants des vétérans, les experts en sécurité et les spécialistes de l’IA permettrait d’anticiper des défauts que les décideurs ne voient pas toujours. Les employés de première ligne connaissent les situations atypiques, les erreurs récurrentes dans les dossiers et les moments où l’automatisation risque de laisser une personne sans réponse. Les associer au déploiement est donc une précaution opérationnelle, pas un simple geste de communication.

Ce qu’il faut surveiller dans les prochains mois

La controverse autour de l’IA au VA dépasse le cas d’OpenHands. Elle pose une question appelée à se multiplier dans les administrations : comment moderniser les outils publics sans transformer les citoyens les plus dépendants de ces services en variables d’ajustement d’une politique d’économies ?

Plusieurs éléments seront déterminants. D’abord, le VA devra préciser si et comment des outils d’IA sont réellement intégrés à ses systèmes, ainsi que les catégories de données auxquelles ils peuvent accéder. Ensuite, les évaluations de sécurité et les mécanismes de contrôle humain devront être suffisamment solides pour prévenir les erreurs, les accès non autorisés et les interruptions de service. Enfin, les vétérans devront pouvoir conserver des voies de recours claires et un interlocuteur humain en cas de difficulté.

L’objectif d’une IA éthique dans ce cadre ne se limite pas à employer une technologie performante. Il consiste à s’assurer que l’innovation renforce effectivement la qualité du service rendu, sans affaiblir les droits, la confidentialité ou la sécurité des personnes qui ont servi le pays. Pour le VA, la confiance ne se décrète pas par une promesse d’efficacité : elle se construit par des garanties vérifiables et par une mise en œuvre prudente.