Régulation et éthique

Agents d’IA : Microsoft lance une coalition pour vérifier ce qu’ils font, sans norme encore

Microsoft a lancé le 17 novembre 2026, lors de sa conférence Ignite, une initiative réunissant plus de 40 organisations pour définir des normes ouvertes permettant de voir, vérifier et contrôler ce que font les agents d’IA. Une réponse à un vrai problème de confiance, mais encore sans spécification ni calendrier. Principes, limites et questions utiles pour les entreprises.

Un agent d’IA lumineux marche dans un couloir de verre, ses pas consignés dans un registre de cristal
Illustration : Actu.ai

Les agents d’IA, ces assistants capables d’agir à la place de leurs utilisateurs, se multiplient dans les entreprises. Mais quand un agent envoie un courriel, modifie un fichier ou valide une commande, qui peut reconstituer précisément ce qui s’est passé ? Le 17 novembre 2026, lors de sa conférence Ignite, Microsoft a lancé l'AI Transparency Initiative, une coalition de plus de 40 organisations chargée de définir des normes ouvertes pour rendre l’activité des agents visible, vérifiable et contrôlable. L’ambition est réelle, mais le projet n’en est qu’à ses débuts.

Un problème de confiance bien réel

Le point de départ est simple. Selon Microsoft, les organisations observent une grande partie de l’activité autour des modèles d’IA, mais ne parviennent souvent pas à reconstituer ce qui s’est passé entre une demande et son résultat : quel modèle a traité la requête, qui a autorisé l’action, quelles données ont été consultées.

Le sujet n’a rien de théorique. Ces derniers mois, des agents d’IA ont accompli des actions imprévues sur de vrais sites web, comme l’a reconnu Anthropic à propos de Claude, auteur d’un faux signalement à la police et de demandes de visa. Dans ces situations, pouvoir retracer chaque étape est indispensable pour comprendre l’incident, en déterminer la responsabilité et éviter qu’il se reproduise.

Voir, vérifier, contrôler

L’initiative s’organise autour de trois principes, résumés en anglais par See, Verify et Control :

PrincipeObjectif
VoirSavoir ce que fait un agent : quelles données il consulte, quels outils il utilise, quelles actions il déclenche
VérifierRecouper les informations avec des preuves indépendantes, plutôt que de se fier au seul récit du modèle
ContrôlerPouvoir limiter et encadrer ce qu’un agent a le droit de faire

Le cœur technique du projet tient dans l’origine des preuves. Selon Tech Times, Microsoft distingue trois sources : ce que l'agent lui-même déclare, ce qu’enregistre l'environnement d’exécution, et ce que consignent des systèmes indépendants, comme le service d’identité qui a délivré les accès de l’agent ou le moteur de règles qui a autorisé une action.

Microsoft affirme ainsi que les organisations devraient vérifier l’activité de l’IA avec leurs propres outils de sécurité et de conformité, plutôt que de s’en remettre au compte rendu du fournisseur de modèle. L’entreprise souhaite aussi que les preuves puissent être conservées lorsqu’un client change de modèle ou de fournisseur.

Qui participe

Microsoft cite parmi les participants Accenture, Adobe, KPMG, Mastercard et Volvo Cars. Les autres membres de la coalition, sur plus de 40 annoncés, n’ont pas été nommés. Microsoft indique aussi qu’il élargira sa participation au programme de normes pour les agents de l'Institut national américain des normes et de la technologie (NIST), et qu’il intégrera les futurs travaux dans ses produits Microsoft AI, Foundry et Copilot.

L’annonce prolonge des positions publiques de Satya Nadella, le directeur général de Microsoft, qui a plaidé ces derniers mois pour des journaux impossibles à modifier après coup et pour une supervision qui ne soit pas contrôlée par un petit nombre d’acteurs.

Le rôle des normes publiques américaines

Le programme du NIST auquel Microsoft entend contribuer est piloté par le CAISI, le centre de l’institut consacré aux normes de l’IA, lancé en février 2026. Selon Tech Times, il repose sur trois piliers : faciliter des normes portées par l’industrie, encourager des protocoles issus de la communauté et financer la recherche. Le NIST a déjà mené une consultation sur la sécurité des agents, close en mars 2026, et soumis à commentaires jusqu’en avril un document de réflexion sur l’identité et les autorisations des agents. Ses travaux débouchent sur des recommandations volontaires, et non sur des obligations légales.

Cette articulation entre initiative privée et normes publiques est importante. Une norme élaborée par un éditeur et ses partenaires risque de refléter leurs intérêts ; une norme publique, discutée largement, a davantage de chances d’être adoptée par l’ensemble du marché, y compris par les concurrents de Microsoft. Reste à savoir quels volets du programme Microsoft rejoindra : l’annonce ne le précise pas.

La coalition mêle par ailleurs fournisseurs et clients. KPMG, l’un des partenaires cités, a annoncé en juin étendre Microsoft 365 Copilot à plus de 276 000 professionnels, selon Tech Times : un participant est donc à la fois un grand client et un soutien de l’initiative.

Les limites de l’annonce

Le projet suscite toutefois des réserves. Selon Tech Times, l’annonce ne comporte ni spécification technique, ni format de journal, ni date de livraison. Il s’agit d’un cadre de principes et d’une coalition, avec une intégration dans les produits promise mais pas planifiée.

Une autre question reste ouverte : qui gère les systèmes « indépendants » chargés de la vérification ? Microsoft vend lui-même les principaux outils d’identité, de conformité et de supervision des agents. Si la couche de vérification indépendante est fournie par le même éditeur que celui qu’elle doit contrôler, l’indépendance devient relative.

Tech Times rappelle enfin un précédent : en 2025, un chercheur avait découvert qu’il pouvait empêcher Microsoft 365 Copilot d’enregistrer certaines interactions de résumé de fichiers dans ses journaux d’audit. Microsoft avait corrigé le problème en août 2025. Un incident ancien et isolé, mais qui montre pourquoi une vérification indépendante a besoin d’une norme précisant ce qui doit être enregistré.

Les bonnes questions à poser à ses fournisseurs

En attendant une spécification, les entreprises qui déploient des agents peuvent s’appuyer sur les principes de l’initiative pour interroger leurs fournisseurs :

  • d’où vient chaque trace : du modèle lui-même, de l’environnement d’exécution ou d’un système d’identité et de règles indépendant ?
  • qui gère et audite les systèmes présentés comme indépendants ?
  • les journaux sont-ils inaltérables et complets, et comment le fournisseur le démontre-t-il ?
  • les preuves peuvent-elles être exportées vers les outils de sécurité d’un autre éditeur sans perte d’informations ?
  • l’agent dispose-t-il d'identifiants propres, distincts de ceux de l’utilisateur, pour que ses actions soient clairement attribuables ?

Des outils permettent déjà de réduire les risques, par exemple en laissant les agents se connecter à des comptes sans voir les mots de passe.

Vers des normes pour les agents

L’initiative de Microsoft s’ajoute à d’autres efforts pour encadrer les agents d’IA, qu’il s’agisse des travaux du NIST, des protocoles comme Poppy pour définir ce qu’un agent peut faire chez un commerçant, ou des règles de signalement d’incidents mises en place par certains régulateurs. Tous partent du même constat : les agents ne pourront se généraliser que si l’on peut savoir précisément ce qu’ils ont fait, et au nom de qui. Les prochaines étapes à surveiller sont la publication de la liste complète des participants, d’une gouvernance du projet et d’un premier projet de spécification, ainsi que l’arrivée éventuelle d’autres éditeurs de modèles et de fournisseurs de cloud.

Questions fréquentes

Qu’est-ce que l’AI Transparency Initiative de Microsoft ?

C’est une coalition lancée par Microsoft le 17 novembre 2026, lors de sa conférence Ignite, avec plus de 40 organisations. Elle vise à définir des normes ouvertes pour voir, vérifier et contrôler ce que font les agents d’IA, quels que soient le modèle et le fournisseur utilisés.

Quelles entreprises participent à l’initiative de Microsoft sur les agents ?

Microsoft cite Accenture, Adobe, KPMG, Mastercard et Volvo Cars parmi les plus de 40 organisations participantes. Les autres membres n’ont pas été nommés. Microsoft prévoit aussi d’élargir sa participation au programme de normes pour les agents de l’institut américain des normes, le NIST.

Pourquoi faut-il pouvoir auditer les agents d’IA ?

Parce qu’un agent agit à la place de son utilisateur : il envoie des messages, modifie des fichiers ou déclenche des achats. En cas d’erreur ou de manipulation, il faut pouvoir retracer chaque étape, savoir qui a autorisé l’action et quelles données ont été utilisées, sans se fier au seul récit du modèle.

L’initiative de Microsoft propose-t-elle déjà des normes ?

Non. Selon Tech Times, l’annonce ne contient ni spécification technique, ni format de journal, ni calendrier. Il s’agit pour l’instant de principes et d’une coalition. Microsoft promet d’intégrer les futurs travaux dans ses produits Microsoft AI, Foundry et Copilot, sans date annoncée.

Sources

Références consultées pour la rédaction de cet article. Les adresses sont indiquées à titre informatif et ne sont pas des liens.

  1. Microsoft, Microsoft and organizations across industries launch AI Transparency Initiative, 17 novembre 2026news.microsoft.com/source/2026/11/17/microsoft-and-organizations-across-industries-launch-ai-transparency-initiative-to-strengthen-enterprise-trust-in-ai-models-and-agents
  2. Tech Times, Microsoft unveils AI agent audit standards initiative with no spec, log format or deadline, 18 novembre 2026www.techtimes.com/articles/330991/20261118/microsoft-unveils-ai-agent-audit-standards-initiative-no-spec-log-format-deadline.htm

Signaler une erreur ou une imprécision dans cet article