Appel de Paris sur la sécurité de l’IA : ce que signent OpenAI, Anthropic et Mistral AI

Pour la première fois, selon l’Élysée, des entreprises d’intelligence artificielle ont apposé leur signature au bas d’un texte international sur la sécurité de leurs modèles. Le 9 novembre 2026, Emmanuel Macron a réuni à Paris des chefs d’État et de gouvernement, les dirigeants des principaux laboratoires, dont Sam Altman (OpenAI), Dario Amodei (Anthropic) et Arthur Mensch (Mistral AI), ainsi que des chercheurs comme Yoshua Bengio. Il en est sorti l'Appel de Paris pour la sécurité de l’intelligence artificielle, un texte qui vise les modèles dits « de frontière », les plus avancés du moment.

Qui a signé, qui manque

La liste publiée par l’Élysée réserve quelques surprises. Plusieurs pays présents autour de la table ne figurent pas parmi les signataires, et certains géants de l’IA sont absents des deux listes.

L’ONU et l’OCDE étaient également représentées. Côté entreprises, Google, Meta et xAI n’apparaissent ni dans la liste des participants ni dans celle des signataires. Aucun laboratoire chinois n’y figure non plus. L’Élysée précise que la déclaration « reste ouverte à de nouveaux soutiens » et sera mise à jour : la liste pourrait donc s’allonger.

Premier engagement : évaluer les modèles selon des règles communes

Les signataires s’engagent à bâtir un cadre commun d’évaluation et de gestion des risques des modèles de frontière, en s’appuyant sur ceux qui existent déjà. Ce cadre doit reposer sur des normes techniques, des outils et des méthodes partagés, capables de suivre le rythme des progrès des modèles.

Le texte cible en priorité deux familles de risques :

• les usages malveillants dangereux, en particulier dans le domaine cyber et dans le domaine NRBC (nucléaire, radiologique, biologique et chimique) ;
• les risques liés à l'autonomie croissante des modèles ou à un défaut d’alignement, c’est-à-dire un écart entre ce que fait le modèle et ce que veulent ses concepteurs, jusqu’à la perte de contrôle.

Mesure concrète : les signataires conviennent de publier les conclusions non sensibles de leurs évaluations dans un format standardisé, pour qu’elles soient comparables, et de créer un répertoire partagé accessible au public. Il pourrait rassembler des protocoles de « red-teaming » (attaques simulées pour trouver les failles d’un modèle), des tests de référence, des évaluations de risques et des résultats de tests de résistance. Le texte s’appuie sur le Réseau international pour la mesure, l’évaluation et la science de l’IA avancée (NAAIMES).

Deuxième engagement : la responsabilité de chacun

C’est la partie la plus ambitieuse. Le texte affirme un principe de responsabilité de chaque acteur de l’écosystème, selon son rôle. Les développeurs de modèles de frontière s’engagent notamment à :

• divulguer les capacités, les limites et les risques connus de leurs modèles ;
• faciliter, lorsque c’est approprié et proportionné au risque, l'évaluation par des évaluateurs indépendants qualifiés ;
• mettre en place des mécanismes de sécurité permettant d'interrompre le fonctionnement des modèles, y compris pendant l’entraînement et l’usage interne (restrictions, pauses ou arrêts) ;
• se doter d’une gouvernance interne avec des responsabilités définies, un contrôle indépendant et des circuits de signalement qui protègent les chercheurs.

Les États, de leur côté, reconnaissent la nécessité de clarifier les responsabilités juridiques en cas de dommages à grande échelle, y compris quand ils franchissent les frontières. Objectif affiché : protéger les victimes et offrir aux entreprises une sécurité juridique.

Le texte aborde aussi, avec prudence, la question des modèles à poids ouverts, que chacun peut télécharger et modifier. Il reconnaît le risque que leurs garde-fous soient supprimés ou contournés, tout en voulant préserver leurs bénéfices pour la recherche, l’innovation et la sûreté. Une formulation d’équilibre qui n’est sans doute pas étrangère à la présence de Mistral AI et de Hugging Face parmi les signataires.

Troisième engagement : signaler les incidents et protéger les lanceurs d’alerte

Le dernier volet porte sur le partage d’informations. Les signataires veulent renforcer les dispositifs existants pour s’accorder sur une classification des incidents et échanger rapidement les informations sur les incidents graves, de nature cyber ou liés au contrôle de l’IA, entre entreprises, entre États et entre les deux. Ils examineront si un mécanisme de coopération dédié serait utile. Certaines entreprises ont déjà pris les devants, à l’image d’OpenAI, qui s’est engagé en septembre à signaler les dérives de ses modèles et a détaillé six incidents internes.

Les États s’engagent enfin à offrir des canaux sécurisés et confidentiels aux lanceurs d’alerte, salariés compris, pour qu’ils puissent signaler des risques systémiques sans craindre de représailles juridiques ou professionnelles.

Ce qui change, et ce qui ne change pas

Pour les utilisateurs européens, le cadre juridique reste celui de l'AI Act, le règlement européen sur l’intelligence artificielle, qui impose déjà des obligations aux fournisseurs de modèles d’IA à usage général. L’Appel de Paris ne le remplace pas : il cherche à rassembler, au-delà de l’Union européenne, des États et des entreprises autour de principes communs. La France, la Finlande et les Pays-Bas, membres de l’Union, signent aux côtés du Canada, de la Norvège et de Bahreïn.

Plusieurs engagements recoupent des pratiques déjà adoptées volontairement par certains laboratoires, comme la publication de fiches techniques détaillant les tests de sécurité. La nouveauté tient à leur formalisation dans un texte commun, au format standardisé promis pour les résultats d’évaluation et à l’engagement explicite sur les mécanismes d’arrêt. Le texte s’inscrit dans une série d’initiatives citées en préambule : le processus d’Hiroshima lancé par le G7, les engagements pris au sommet de Séoul, la réunion du G7 d’Évian du 17 juin 2026 et la réunion du Conseil de sécurité des Nations unies sur l’IA du 23 septembre.

Une gouvernance mondiale encore à construire

Le principal enjeu est désormais l’élargissement. Sans les États-Unis, qui abritent la plupart des laboratoires de pointe, ni le Royaume-Uni et le Japon, pourtant à l’origine de précédentes initiatives (le sommet de Bletchley Park pour le premier, le processus d’Hiroshima pour le second), la portée diplomatique de l’appel reste limitée. Washington a engagé sa propre démarche, avec la « Super Intelligence Force » créée par Donald Trump début octobre. L’absence de Google et de Meta, deux des principaux développeurs de modèles, pèse aussi.

Reste que la signature conjointe d’OpenAI, d’Anthropic, de Microsoft et de Mistral AI sur un même texte, qui mentionne explicitement la perte de contrôle et les mécanismes d’arrêt, constitue un signal. La prochaine étape, la publication des premiers résultats d’évaluation dans le répertoire commun, dira si l’Appel de Paris produit des effets concrets ou s’il rejoint la longue liste des déclarations de principe.