Contrats des vétérans : comment l’IA de DOGE a fragilisé le tri

Dans l’administration américaine, supprimer un contrat ne revient pas seulement à rayer une ligne dans un tableau budgétaire. Derrière un marché public peuvent se trouver une inspection de sécurité dans un établissement médical, un service d’information destiné aux anciens combattants ou encore le recrutement de médecins. C’est pourquoi les révélations sur l’usage d’un outil d’intelligence artificielle par DOGE, au sein du département des Affaires des anciens combattants des États-Unis, la VA, soulèvent une question bien plus large que celle des économies promises : peut-on confier à un système automatisé le premier tri de dépenses liées à la santé et aux droits des vétérans ?

L’enquête met en cause un outil développé par l’ingénieur Sahil Lavingia pour repérer les contrats qualifiés de « munchables », un terme interne employé pour désigner ceux qui paraissaient superflus au regard de la mission de l’agence. Or, les critères utilisés étaient imprécis, la lecture des documents très partielle et le modèle employé n’était pas conçu pour rendre de tels arbitrages. Des contrats importants ont ainsi pu être considérés comme supprimables sur la base d’une analyse incomplète.

Ce que faisait exactement l’outil utilisé par DOGE

DOGE, pour Department of Government Efficiency, cherchait à identifier des dépenses publiques qui pourraient être réduites ou supprimées. À la VA, l’outil conçu par Sahil Lavingia avait pour rôle d’examiner des contrats et de signaler ceux qui ne semblaient pas relever des missions essentielles de l’administration.

Le problème n’était donc pas qu’une IA signait seule des contrats ou les annulait par elle-même. Elle intervenait en amont, pour produire des recommandations dans un processus de sélection. Mais cette étape de tri est déterminante : lorsqu’un document est marqué comme dispensable, il risque d’orienter l’attention des décideurs et d’accélérer une procédure de résiliation.

Sahil Lavingia a lui-même reconnu que le système n’avait pas été conçu pour décider quels contrats devaient être supprimés. Selon les éléments révélés, les dossiers désignés comme « munchables » devaient ensuite faire l’objet d’une vérification par d’autres personnes. Cette précaution ne fait toutefois pas disparaître le risque : une recommandation erronée, surtout lorsqu’elle concerne des centaines de contrats, peut peser sur l’ensemble de l’examen.

Pourquoi la limite des 10 000 caractères est-elle si problématique ?

Un contrat public n’est pas un simple descriptif de service. Sa portée dépend fréquemment de multiples éléments : objet détaillé de la prestation, obligations de sécurité, calendrier, critères de résultat, modalités de renouvellement, responsabilités des fournisseurs ou articulation avec d’autres marchés. Une lecture limitée aux 10 000 premiers caractères ne permet pas d’en avoir une vision complète.

Dans le cas étudié, cette contrainte technique a conduit l’outil à qualifier de « munchables » des documents pourtant associés à des besoins importants de la VA. Parmi les fonctions potentiellement concernées figuraient des inspections de sécurité dans des installations médicales, des communications directes avec les vétérans au sujet de leurs prestations et le recrutement de médecins.

Ce point est essentiel. Un contrat peut sembler périphérique s’il est évalué uniquement à partir de son intitulé ou de ses premières pages. Pourtant, il peut soutenir indirectement les soins : assurer la conformité d’un bâtiment, permettre à des bénéficiaires de recevoir une information utile ou contribuer à pourvoir des postes médicaux. Déterminer ce qui relève des « soins médicaux de base » exige donc une connaissance concrète de l’organisation des établissements et des parcours des patients.

L’outil ne disposait pas de cette connaissance institutionnelle. Sa limite ne résidait pas seulement dans une erreur ponctuelle de calcul, mais dans l’écart entre la nature de la tâche et les informations réellement mises à sa disposition.

Des critères flous et des estimations qui peuvent être fictives

L’enquête montre également que des consignes vagues ont été données au système. Des notions telles que « soins médicaux de base » ou « bénéfices » n’étaient pas suffisamment définies. Or, une IA générative ne comble pas cette absence de règles par un raisonnement administratif fiable : elle produit une réponse plausible à partir de la formulation qui lui est soumise.

La difficulté est apparue notamment lorsqu’il était demandé de considérer si les prix de contrats de maintenance paraissaient raisonnables. Pour répondre sérieusement à cette question, il faudrait comparer les tarifs au périmètre précis de la prestation, à la durée du marché, à la localisation, aux contraintes de sécurité, au niveau de service attendu et aux prix pratiqués dans des contrats comparables. Sans ces repères, le système est susceptible de proposer des montants sans fondement solide.

C’est ce qui s’est produit : le modèle a généré des évaluations fictives, parfois très élevées, pour des contrats qui ne représentaient que des montants bien plus faibles. Ce type d’erreur est couramment appelé une « hallucination » dans le domaine de l’IA. Le terme peut sembler anodin, mais dans le contexte d’un achat public, il désigne un défaut sérieux : l’outil énonce une information comme si elle était établie alors qu’elle ne correspond pas aux données du dossier.

De 875 contrats annoncés à environ 585 contrats annulés

Les chiffres communiqués par la VA donnent la mesure de l’enjeu. En février 2025, l’administration avait prévu l’annulation de 875 contrats présentés comme non essentiels. Des organisations de défense des anciens combattants ont alors alerté sur les conséquences possibles pour la sécurité des installations médicales et pour la qualité des services rendus.

Les inquiétudes portaient moins sur une technologie abstraite que sur des effets opérationnels. En supprimant trop vite un contrat lié à une inspection, à une prestation de soutien ou à une communication avec les bénéficiaires, l’administration peut désorganiser des fonctions indispensables au quotidien, même si elles ne correspondent pas directement à un acte médical.

Une révision des décisions est intervenue par la suite. En mars 2025, le nombre de contrats annulés a été ramené à environ 585. Près de 900 millions de dollars devaient être réorientés par la VA. La différence entre les deux étapes illustre les difficultés rencontrées pour distinguer les dépenses redondantes ou non critiques des contrats qui contribuent réellement à la mission de l’agence.

La baisse du nombre de résiliations ne permet pas, à elle seule, de tirer un bilan définitif sur les effets des mesures. Elle montre néanmoins que la première sélection exigeait un réexamen, dans un contexte marqué par une communication difficile entre les conseillers de DOGE et les responsables de la VA.

Pourquoi une IA généraliste ne suffit pas pour cet usage

L’affaire ne signifie pas qu’aucun outil numérique ne peut aider une administration à analyser ses contrats. Les systèmes de recherche documentaire, de classement ou de détection de doublons peuvent être utiles lorsqu’ils sont correctement paramétrés et placés sous supervision humaine. Mais l’outil décrit ici reposait sur un modèle généraliste, inadapté à une décision qui demande une compréhension fine des soins, des missions de la VA et de son fonctionnement interne.

Le professeur Cary Coglianese, de l’Université de Pennsylvanie, a souligné que l’évaluation de ce qui pourrait être fait par un employé de la VA nécessitait une connaissance approfondie à la fois des soins médicaux et de la gestion institutionnelle. Cette expertise ne se réduit ni à des mots-clés ni à un résumé de contrat.

La question de la responsabilité compte tout autant. Un agent public ou un spécialiste des achats peut expliquer pourquoi il recommande de maintenir, modifier ou résilier un marché. Il peut confronter son analyse aux règles applicables, aux besoins des équipes et aux conséquences pour les usagers. Une IA, elle, ne répond pas de ses approximations et ne perçoit pas les effets concrets d’une interruption de service.

L’expertise humaine doit encadrer le tri automatisé

Le cas de la VA met en lumière une règle de prudence applicable à toutes les administrations : plus une décision peut affecter la sécurité, l’accès aux droits ou la continuité des soins, plus le contrôle humain doit être approfondi. Il ne suffit pas qu’une personne valide rapidement une liste générée par une IA. Cette personne doit avoir accès au contrat complet, maîtriser les critères de décision et pouvoir contredire l’outil sans pression liée à ses recommandations initiales.

Un cadre de contrôle robuste devrait notamment séparer les usages. L’IA peut servir à organiser un corpus documentaire ou à signaler des passages à examiner. En revanche, l’identification d’un contrat comme supprimable suppose de documenter les motifs, de vérifier les données budgétaires, de consulter les services concernés et d’évaluer les répercussions pour les vétérans.

La transparence est également décisive. Dans une administration, les termes employés doivent être définis de manière opérationnelle. Dire qu’un contrat est « non essentiel » ou « munchable » ne suffit pas. Il faut savoir selon quels critères cette étiquette a été attribuée, qui l’a validée et quelles garanties protègent les services indispensables.

Le parcours de Sahil Lavingia et les failles de gouvernance révélées

Sahil Lavingia a travaillé environ 55 jours pour DOGE. Il a ensuite été renvoyé après avoir communiqué à des journalistes des éléments sur les décisions prises. Son rôle est devenu le symbole d’un problème plus vaste : le recours à des ingénieurs extérieurs, qui ne disposent pas forcément d’une connaissance préalable du fonctionnement des institutions qu’ils sont chargés d’aider à transformer.

L’enjeu n’est pas de nier l’utilité de compétences techniques dans le secteur public. Les administrations ont besoin d’experts capables de moderniser leurs outils et de traiter de grands volumes de données. Mais une compétence en programmation ne remplace pas l’expérience des personnels qui connaissent les contraintes d’un hôpital, les obligations d’un marché public ou les besoins des bénéficiaires.

Dans ce dossier, l’absence de critères clairs, la faiblesse du contexte transmis au modèle et les difficultés de communication entre DOGE et la VA ont créé un terrain propice aux erreurs. C’est précisément le type de situation où la gouvernance de l’IA devient concrète : qui fixe l’objectif, qui vérifie les résultats, qui assume la décision et qui peut l’arrêter si elle menace un service essentiel ?

Ce qu’il faut surveiller dans l’usage de l’IA par les administrations

Au 6 juin 2025, l’épisode de la VA rappelle que l’automatisation des économies budgétaires ne peut pas être évaluée seulement à l’aune du volume de contrats examinés ou du montant annoncé des réductions. Les décideurs doivent aussi mesurer les conséquences pour les personnes qui dépendent des services publics.

Trois points méritent une vigilance particulière. D’abord, la qualité des données fournies au système : un contrat tronqué produit nécessairement une analyse tronquée. Ensuite, la précision des instructions : des catégories aussi larges que les soins essentiels ou les prix raisonnables doivent être traduites en critères contrôlables. Enfin, l’existence d’une validation humaine compétente, indépendante et traçable est indispensable.

L’IA peut devenir un outil utile de préparation et de recherche pour les administrations. Mais l’affaire des contrats de la VA montre qu’elle ne doit pas transformer une décision complexe, liée à la santé et aux droits des vétérans, en simple étiquette générée à partir d’un extrait de texte.