Inesia : la France se dote d’un institut pour évaluer les risques de l’IA

L’intelligence artificielle s’installe rapidement dans les entreprises, les administrations et les usages quotidiens. Mais à mesure que ses capacités progressent, les interrogations se multiplient sur sa fiabilité, sa sécurité, ses effets sur la société ou encore son empreinte environnementale. La France veut se doter d’un point d’appui public pour analyser ces sujets : le gouvernement a annoncé, le 31 janvier 2025, la création de l’Institut national pour l’évaluation et la sécurité de l’intelligence artificielle, baptisé Inesia.

L’ambition affichée ne consiste pas à freiner l’innovation, ni à créer une nouvelle autorité chargée de sanctionner les entreprises. L’Inesia doit plutôt organiser et renforcer une expertise déjà présente dans plusieurs administrations et organismes publics. Son rôle sera d’étudier scientifiquement les effets des systèmes d’IA, notamment sous l’angle de la sécurité, et de fédérer les acteurs français travaillant sur leur évaluation.

Ce que la France annonce avec l’Inesia

L’Inesia est présenté comme un institut national consacré à l’évaluation et à la sécurité de l’intelligence artificielle. Ces deux termes recouvrent une même idée : avant de déployer largement des outils d’IA, il faut pouvoir examiner leurs comportements, leurs limites et les dommages éventuels qu’ils peuvent occasionner.

Évaluer une IA ne revient pas seulement à mesurer la qualité de ses réponses. Cela peut aussi signifier tester sa robustesse face à des usages imprévus, comprendre les risques qu’elle fait peser sur un système informatique, étudier les biais susceptibles d’affecter certains publics ou mesurer les ressources nécessaires à son fonctionnement. Plus les modèles sont intégrés à des services importants, plus ces questions deviennent concrètes.

L’annonce du 31 janvier 2025 intervient dans un contexte de mobilisation internationale autour de ces enjeux. Paris doit accueillir les 10 et 11 février 2025 le sommet mondial « pour l’action sur l’intelligence artificielle ». La sécurité de l’IA, les conditions d’une innovation de confiance et la coopération entre États y figurent parmi les thèmes majeurs.

Pourquoi évaluer les risques de l’intelligence artificielle ?

L’intelligence artificielle n’est pas une technologie unique. Cette expression recouvre notamment des assistants conversationnels, des outils de génération d’images, des logiciels d’aide à la décision et des systèmes capables d’analyser de grands volumes de données. Le niveau de risque dépend donc fortement de l’usage, du public concerné et du degré d’autonomie confié au système.

Dans ce paysage, anticiper ne signifie pas prédire avec certitude tous les problèmes futurs. Il s’agit de disposer de méthodes, de compétences et de retours d’expérience pour identifier les vulnérabilités avant qu’elles ne se transforment en incidents à grande échelle. Cette approche concerne en particulier les usages sensibles, ceux qui peuvent avoir des conséquences importantes pour les personnes, la sécurité des organisations ou le fonctionnement de services essentiels.

Le gouvernement met aussi en avant la nécessité de concilier deux objectifs : soutenir l’innovation française en IA et veiller à ce que cette innovation s’inscrive dans un cadre responsable. La qualité de l’évaluation peut, dans cette perspective, devenir un atout : une entreprise, une administration ou un laboratoire a besoin de savoir dans quelles conditions un système peut être utilisé avec un niveau de confiance adapté.

La création de l’Inesia ne remplace pas les obligations qui peuvent déjà découler des textes européens ou nationaux. Elle vise d’abord à mieux documenter les risques et à mettre en commun des compétences techniques, scientifiques et réglementaires.

Quatre organismes publics au cœur du dispositif

L’Inesia rassemble quatre administrations et organismes déjà existants. Leur association reflète la diversité des sujets liés à la sûreté de l’IA : recherche fondamentale, cybersécurité, essais techniques et expertise de la régulation numérique.

L’Agence nationale de la sécurité des systèmes d’information, plus connue sous le nom d’Anssi, est l’acteur français de référence pour la sécurité numérique. Sa présence souligne que les outils d’IA ne doivent pas être considérés seulement comme des logiciels de productivité ou de création : ils peuvent aussi être exposés à des attaques, exploités de manière malveillante ou introduire de nouvelles failles dans une organisation.

L’Institut national de recherche en sciences et technologies du numérique, Inria, apporte pour sa part la dimension scientifique. Comprendre et évaluer une IA suppose de pouvoir analyser ses mécanismes, ses performances et ses limites avec des méthodes rigoureuses, au-delà des démonstrations commerciales.

Le Laboratoire national de métrologie et d’essais, LNE, est spécialisé dans les mesures, les tests et les démarches d’évaluation. Enfin, le Pôle d’expertise de la régulation numérique, PEReN, est mobilisé pour son expertise sur les politiques numériques et la régulation. Réunir ces quatre structures doit permettre de croiser des approches qui, isolées, ne couvriraient qu’une partie du problème.

Le pilotage de l’Inesia doit relever du Secrétariat général de la défense et de la sécurité nationale, le SGDSN, avec l’assistance de la Direction générale des entreprises, la DGE. Cette organisation traduit l’importance accordée à la fois aux questions de sécurité nationale, de politique industrielle et de développement économique.

L’Inesia sera-t-il un régulateur de l’IA ?

Non. Le gouvernement précise que l’Inesia n’a pas vocation à être un régulateur. Cette distinction est essentielle pour comprendre ce que les citoyens, les entreprises et les administrations peuvent en attendre.

Un régulateur est une institution susceptible de contrôler l’application de règles, d’imposer des obligations ou, selon ses compétences, de prononcer des sanctions. L’Inesia doit, lui, étudier les effets de l’IA, contribuer à l’évaluation des risques et fédérer un écosystème national. Il se situe donc en amont de la décision réglementaire, en apportant de la connaissance et des capacités d’analyse.

Cette fonction d’expertise peut néanmoins peser dans les choix publics. Des méthodes d’évaluation solides, des tests partagés ou une meilleure connaissance des risques peuvent aider les administrations et les organisations à prendre des décisions plus éclairées. Le rôle précis que prendra l’institut dans la durée dépendra toutefois de ses travaux et de l’organisation qui sera mise en place.

L’environnement, un enjeu également pris en compte

L’annonce évoque aussi un outil déjà mis en ligne pour aider à évaluer l’impact environnemental d’une requête adressée à des systèmes d’IA tels que ChatGPT ou Gemini. Cette initiative illustre une préoccupation de plus en plus présente dans le débat public : une interaction avec une IA générative mobilise des infrastructures informatiques, des centres de données et de l’électricité.

L’impact réel d’une requête ne se résume toutefois pas à un chiffre universel. Il dépend notamment du modèle utilisé, de la longueur de la demande et de la réponse, du matériel informatique, de l’emplacement des infrastructures et du mix électrique qui les alimente. Un outil d’estimation doit donc être lu comme un moyen de rendre visible un ordre de grandeur, pas comme une mesure absolue valable dans toutes les situations.

Intégrer cette dimension à la réflexion sur la sécurité et l’évaluation rappelle que les effets de l’IA ne sont pas uniquement numériques. La technologie soulève aussi des questions de consommation de ressources, d’organisation des infrastructures et de choix collectifs sur les usages à privilégier.

Une initiative inscrite dans une dynamique internationale

La France rattache l’Inesia à la Déclaration de Séoul, adoptée en mai 2024. Ce texte promeut une intelligence artificielle à la fois sûre, innovante et inclusive. Il s’inscrit dans une période où de nombreux pays cherchent à combiner développement technologique, protection des populations et coopération internationale.

Cette dimension internationale compte pour une raison simple : les grands modèles d’IA sont développés, distribués et utilisés au-delà des frontières. Les risques associés, qu’ils concernent la cybersécurité, la désinformation, la protection des données ou la fiabilité des systèmes, ne se limitent pas à un seul territoire. Des méthodes communes et des échanges entre institutions peuvent donc faciliter la comparaison des résultats et l’adoption de bonnes pratiques.

L’Europe constitue également un cadre incontournable. Les discussions sur la régulation de l’IA y portent notamment sur les obligations applicables en fonction du niveau de risque des systèmes. L’Inesia ne se substituera pas à ce cadre, mais il pourra contribuer à l’expertise nécessaire pour en comprendre les conséquences techniques et pratiques.

Ce qu’il faut surveiller après l’annonce

L’annonce de l’Inesia fixe une orientation, mais plusieurs éléments seront déterminants pour mesurer son influence réelle. Il faudra d’abord observer les méthodes d’évaluation que l’institut contribuera à développer : quels types de systèmes seront étudiés, avec quels indicateurs et selon quels critères de sécurité ?

La capacité à faire travailler ensemble recherche, administrations, entreprises et autres acteurs de l’écosystème sera tout aussi importante. Fédérer ne signifie pas simplement réunir des institutions autour d’une même table. Il faut pouvoir partager des connaissances, confronter des approches et transformer les résultats scientifiques en outils utiles pour les décideurs.

Enfin, la lisibilité des travaux produits sera un enjeu majeur. Pour inspirer confiance, une démarche de sécurité de l’IA doit pouvoir être comprise au-delà du cercle des spécialistes, par les organisations qui déploient ces outils comme par les citoyens concernés par leurs effets. Avec l’Inesia, la France fait le choix d’installer cette question de l’évaluation au cœur de sa stratégie sur l’intelligence artificielle.