New York impose transparence et contrôle humain sur l’IA des agences publiques

Dans les administrations, l’intelligence artificielle ne se limite pas aux assistants conversationnels. Elle peut aussi servir à trier des dossiers, repérer des priorités, orienter des demandes ou soutenir des décisions ayant des conséquences concrètes pour les habitants. C’est sur ce terrain sensible que l’État de New York choisit d’installer de nouveaux garde-fous. À la fin de décembre 2024, la gouverneure Kathy Hochul a signé une législation qui impose davantage de transparence et maintient un contrôle humain sur certains usages publics de l’IA.

Le texte ne prohibe pas l’intelligence artificielle dans les services de l’État. Il organise plutôt son utilisation autour de trois principes : connaître les outils employés par les agences, rendre compte publiquement de leur emploi et éviter qu’une personne soit soumise à une décision sensible prise uniquement par une machine. Il prévoit aussi une protection explicite pour les agents publics concernés par l’arrivée de ces outils.

Ce que la nouvelle loi change pour les agences de l’État

La mesure portée par la sénatrice de l’État Kristen Gonzalez oblige les agences new-yorkaises à procéder à une évaluation systématique de tout logiciel faisant appel à des algorithmes, à des modèles computationnels ou à d’autres techniques liées à l’intelligence artificielle.

Cette obligation est importante parce que les systèmes automatisés sont parfois intégrés dans des logiciels administratifs sans être immédiatement identifiés comme de l’IA par les personnes qui les utilisent. La loi cherche donc à éviter un déploiement discret de ces technologies dans les rouages de l’État, sans examen ni information du public.

Chaque évaluation devra être transmise aux dirigeants législatifs et mise à disposition en ligne. Les citoyens, les élus et les organisations pourront ainsi savoir quels outils sont utilisés et dans quelles administrations. Le dispositif vise à renforcer la responsabilité des services publics face aux décisions techniques qu’ils prennent.

L’évaluation d’un logiciel n’est pas, à elle seule, une interdiction ni une garantie que l’outil sera sans erreur. Elle crée en revanche une étape formelle de contrôle. En obligeant les agences à documenter leurs recours à l’IA, l’État met fin à l’idée qu’un outil technique puisse être adopté comme une simple mise à jour informatique, sans débat sur ses effets.

Pourquoi les prestations sociales ne pourront pas être décidées par une IA seule

La législation place une limite nette sur les décisions automatisées concernant certaines prestations sociales. Une décision portant, par exemple, sur l’accès à des allocations de chômage ou à une aide liée à l’enfance ne pourra pas être entièrement confiée à une intelligence artificielle. Une supervision humaine constante devra être assurée.

Cette disposition répond à un enjeu très concret. Dans l’administration, un dossier peut être incomplet, comporter une situation familiale inhabituelle ou nécessiter l’interprétation d’une règle. Un système automatisé peut traiter rapidement un grand nombre de demandes, mais il ne doit pas devenir le seul arbitre lorsqu’une décision peut affecter les revenus, l’accès à une aide ou la protection d’un enfant.

Le texte ne signifie donc pas qu’aucun logiciel ne pourra assister les agents chargés de ces dossiers. Il interdit qu’une personne reçoive une décision entièrement automatisée dans les domaines concernés. La différence est essentielle : un outil peut contribuer à organiser ou analyser une demande, mais un humain doit conserver un rôle de surveillance et de responsabilité.

Cette exigence de contrôle humain répond également à une question de recours. Lorsqu’un administré conteste une décision, il doit pouvoir comprendre qu’elle émane d’un processus supervisé par un service public, et non d’un mécanisme opaque auquel personne ne peut répondre. Les informations disponibles sur la loi ne détaillent toutefois pas les modalités précises de cette supervision, ni le niveau d’intervention attendu des agents dans chaque cas.

La transparence, un outil de contrôle plutôt qu’une simple formalité

La publication en ligne des évaluations est l’un des éléments centraux du dispositif. Elle doit permettre d’éclairer les usages de l’IA par l’État de New York au lieu de les laisser dans la seule sphère administrative. Cette visibilité peut aider les élus à exercer leur rôle de contrôle, mais aussi donner aux citoyens des éléments pour comprendre les technologies mobilisées par les services dont ils dépendent.

Dans le débat sur l’IA, la transparence est souvent invoquée de façon abstraite. Ici, elle prend une forme administrative précise : les agences doivent produire une évaluation, la communiquer aux responsables législatifs et la rendre publique. Cette chaîne n’empêche pas automatiquement les erreurs ou les abus, mais elle rend plus difficile l’utilisation d’un outil sans laisser de trace institutionnelle.

Il faut néanmoins distinguer la publication d’une évaluation de la divulgation intégrale d’un logiciel. La mesure décrite concerne les rapports sur les outils d’IA. Elle ne signifie pas nécessairement que le code informatique, les données utilisées ou les détails techniques de chaque système seront publiés. Sa portée dépendra donc beaucoup de la qualité, de la précision et de l’accessibilité des évaluations mises en ligne.

Une protection spécifique pour les employés de l’État

L’arrivée de l’IA dans les organisations suscite aussi une inquiétude professionnelle : les gains de productivité promis par l’automatisation peuvent-ils se traduire par une réduction du travail confié aux humains ? La législation new-yorkaise apporte une réponse ciblée pour les employés de l’État.

Selon ses dispositions, aucun agent ne pourra voir ses heures de travail ou ses responsabilités réduites en raison de l’implantation d’outils d’intelligence artificielle. La règle vise à empêcher qu’un logiciel soit directement utilisé comme justification pour diminuer le temps de travail ou le périmètre de mission d’un salarié public.

Cette protection ne revient pas à interdire les outils numériques dans les services de l’État. L’objectif est plutôt de dissocier l’adoption de l’IA d’une dégradation immédiate des conditions ou du contenu de l’emploi des agents. Dans un contexte où l’automatisation est souvent présentée comme un moyen de faire plus avec moins, le texte rappelle que la modernisation administrative ne peut pas ignorer ses conséquences sociales.

Les informations disponibles ne précisent pas les sanctions applicables aux agences qui ne respecteraient pas ces obligations, ni les procédures concrètes dont disposeraient les employés pour faire valoir cette protection. Ces points seront déterminants pour mesurer l’effectivité de la mesure au-delà de son principe.

Une loi centrée sur l’État, pas sur toutes les entreprises de New York

Cette législation concerne l’usage de l’IA par les agences gouvernementales de l’État de New York. Elle ne doit pas être confondue avec une règle générale applicable, du seul fait de ce texte, à l’ensemble des entreprises privées, des plateformes numériques ou des employeurs présents dans l’État.

Son intérêt réside dans la place particulière de l’administration. Les services publics prennent ou préparent des décisions qui peuvent toucher un très grand nombre de personnes, parfois dans des situations de dépendance à l’égard d’une aide publique. Lorsqu’un logiciel intervient dans ces décisions, les exigences d’explication, de responsabilité et de traitement équitable deviennent particulièrement importantes.

À la fin de 2024, la régulation de l’IA aux États-Unis se construit largement par strates : initiatives des États, règles sectorielles, politiques internes des administrations et débats nationaux. Le choix de New York illustre une voie concrète : réguler non pas seulement la technologie elle-même, mais aussi les conditions dans lesquelles le gouvernement peut l’employer.

La démarche s’inscrit dans un mouvement plus large de réflexion sur les systèmes algorithmiques utilisés par les institutions publiques. Elle pose une question simple, mais décisive : avant de confier une partie d’un processus administratif à une machine, l’État doit-il pouvoir expliquer ce que fait l’outil, pourquoi il l’utilise et qui reste responsable du résultat ? La réponse apportée par New York est clairement affirmative.

Ce qu’il faudra surveiller lors de la mise en œuvre

La portée réelle de la loi dépendra désormais de son application par les agences. Plusieurs éléments mériteront une attention particulière dans les prochains mois.

D’abord, la qualité des évaluations publiées sera essentielle. Des documents trop généraux pourraient remplir l’obligation formelle sans permettre au public de comprendre les risques ou les effets des outils concernés. À l’inverse, des rapports clairs et détaillés peuvent devenir un véritable instrument de contrôle démocratique.

Ensuite, la supervision humaine dans les décisions liées aux prestations sociales devra être concrète. La présence d’un agent ne suffit pas si celui-ci ne dispose ni du temps ni de l’autorité nécessaires pour examiner un résultat produit par un logiciel. La manière dont les administrations définiront cette intervention humaine donnera sa substance à l’interdiction des décisions entièrement automatisées.

Il faudra aussi observer la mise en œuvre de la protection des employés de l’État. La règle sur les heures et les responsabilités constitue un signal politique fort, mais son efficacité reposera sur sa traduction dans les pratiques de gestion, les procédures internes et les relations de travail.

Enfin, d’autres États pourraient suivre avec attention l’expérience new-yorkaise. La loi ne dessine pas à elle seule une réglementation nationale de l’IA, mais elle offre un exemple de cadre public fondé sur la transparence, l’intervention humaine et la prise en compte des travailleurs. Son influence dépendra de sa capacité à produire des contrôles réels, compréhensibles et durables.