Anthropic propose au Congrès une loi pour pouvoir suspendre un modèle d’IA jugé dangereux

Qui doit avoir le pouvoir d’arrêter un modèle d’intelligence artificielle jugé dangereux ? Aux États-Unis, où aucune loi fédérale n’encadre à ce jour les modèles les plus puissants, c’est l’un des développeurs eux-mêmes qui avance une réponse. Anthropic, la société qui édite l’assistant Claude, fait circuler auprès des membres du Congrès un projet de loi sur la sûreté de l’IA, révélé par le média Politico le 16 octobre 2026 puis détaillé par TechCrunch le 20 octobre. Un porte-parole a confirmé que le texte reprend les propositions du cadre publié par l’entreprise en juin. Le texte intégral n’a pas été rendu public : ses grandes lignes sont connues par la presse.

Ce que contient le projet de loi d’Anthropic

Le mécanisme central est une procédure de suspension à plusieurs étages. Selon TechCrunch, des évaluateurs indépendants, enregistrés auprès du ministère américain du Commerce, examineraient régulièrement les modèles des grands développeurs. S’ils détectent un risque catastrophique imminent, ils disposeraient de 72 heures pour le signaler au ministère.

Le ministère du Commerce ne pourrait pas, lui-même, arrêter le modèle. Il devrait saisir un juge fédéral à Washington, seul habilité à ordonner la suspension de la diffusion du modèle. Le texte interdirait expressément à toute autre agence fédérale de stopper un modèle de sa propre initiative, et les développeurs pourraient contester les éléments présentés devant le tribunal.

Le déclenchement serait réservé à des situations extrêmes : un risque « prévisible et imminent » de causer la mort ou des blessures graves à plus de 50 personnes, ou plus d'un milliard de dollars de dégâts matériels. Ce risque devrait provenir de l’une de trois sources : la création ou la diffusion d’une arme biologique, une cyberattaque, ou un modèle qui échappe au contrôle de son développeur.

Un texte tiré du cadre publié par Anthropic en juin

Le projet s’appuie sur l'« Advanced AI Framework », un document de douze pages environ publié par Anthropic en juin 2026, qui expose ce que l’entreprise attend des pouvoirs publics. Il délimite d’abord qui serait concerné : les développeurs dont les modèles demandent plus de 10 puissance 25 opérations de calcul pour leur entraînement, et qui réalisent plus de 500 millions de dollars de revenus annuels liés à l’IA ou dépensent plus d’un milliard de dollars par an en recherche et développement. Seuls les plus grands laboratoires entreraient donc dans le champ.

Ce cadre prévoit aussi des obligations de transparence. Les développeurs couverts devraient publier un cadre de sécurité expliquant comment ils évaluent les risques, une fiche technique à chaque nouveau modèle et un rapport sur les risques au moins tous les six mois. Ils devraient signaler à l’administration les incidents graves de sécurité, comme le vol des paramètres d’un modèle, dans un délai de 15 jours, et certifier chaque année qu’ils respectent leurs engagements, sous peine de sanctions financières. Le document recommande enfin une protection des lanceurs d’alerte.

Sur la question des États, le cadre est explicite : le Congrès ne devrait pas priver les États de leur pouvoir de légiférer, sauf à adopter un régime fédéral au moins aussi exigeant que les mesures proposées. La Californie s’est déjà dotée d’une loi sur les modèles de pointe, la loi SB 53 signée en septembre 2025, dont les seuils de risque catastrophique ressemblent à ceux du projet, comme le relève TechCrunch.

Pourquoi le projet est critiqué

La première critique porte sur l’indépendance des évaluateurs. Selon TechCrunch, le projet autoriserait les laboratoires à payer eux-mêmes ceux qui les examinent, à condition que la rémunération ne dépende pas du résultat. Le média juge difficile de voir comment cette règle empêcherait toute influence. Le cadre de juin proposait pourtant des garde-fous plus solides : un financement public ou mutualisé entre entreprises, des déclarations de conflits d’intérêts et même une attribution au hasard des évaluateurs les mieux notés, pour éviter que chaque laboratoire ne choisisse le contrôleur le plus indulgent. On ignore si ces mesures figurent dans le texte transmis aux élus.

La deuxième critique vise les seuils eux-mêmes. En dessous de 50 victimes ou d’un milliard de dollars, le projet ne donnerait aucun pouvoir de suspension. Or les inquiétudes actuelles portent surtout sur des agents d’IA capables de mener des attaques informatiques, qui pourraient causer des dommages réels sans atteindre ces niveaux. TechCrunch estime que les scénarios retenus sont un peu éloignés des préoccupations du moment.

La troisième critique concerne la procédure. Concentrer l’initiative au ministère du Commerce pourrait ralentir la réaction si une autre administration, par exemple chargée de la cybersécurité, repère une menace urgente. Le délai de 72 heures ne court en outre qu’à la fin d’un examen, ce qui laisse dans le flou les découvertes faites en cours de route.

Que prévoit le règlement européen sur l’IA, par comparaison ?

L’Union européenne a déjà tranché une partie de ces questions avec le règlement sur l’intelligence artificielle, l’AI Act. Ses obligations pour les modèles d’IA à usage général s’appliquent depuis août 2025. Le seuil qui fait présumer un « risque systémique » est le même ordre de grandeur que dans le cadre d’Anthropic : 10 puissance 25 opérations de calcul pour l’entraînement.

La grande différence tient à l’autorité de décision. En Europe, c’est la Commission européenne, par l’intermédiaire de son Bureau de l’IA, qui peut demander à un fournisseur de restreindre la mise à disposition de son modèle, de le retirer ou de le rappeler, sans passer d’abord par un juge, les entreprises gardant la possibilité de contester ces décisions devant la justice européenne. Le règlement n’exige pas non plus un seuil chiffré de victimes potentielles pour agir. Les fournisseurs concernés doivent évaluer leurs modèles, notamment par des tests adversariaux, signaler les incidents graves et assurer un niveau suffisant de cybersécurité. Pour suivre l’application de ces règles, la page AI Act d’Actu.ai rassemble nos articles sur le sujet.

Quelles chances pour ce texte au Congrès ?

À ce stade, le projet n’a ni parrain officiel ni date de dépôt connue. Il intervient dans un contexte où l’administration Trump mise sur l’autorégulation des entreprises, comme l’a montré l’accord sans sanction signé par six dirigeants de la tech lors de la création d’une « Super Intelligence Force » à la Maison-Blanche, au début d’octobre 2026. Les grands laboratoires ont jusqu’ici résisté à toute supervision obligatoire par l’État, préférant des évaluations volontaires.

L’initiative d’Anthropic, qui multiplie par ailleurs les gestes d’intérêt public comme le fonds tourné vers l’emploi auquel elle réserve 5 % de ses actions, va donc plus loin que celles de ses concurrents, tout en restant prudente : elle propose un contrôle obligatoire, mais encadré par la justice et limité aux scénarios les plus graves. Son principal effet pourrait être de fixer les termes du débat. Si le Congrès s’empare du sujet, la discussion portera probablement sur trois points : le financement des évaluateurs, le niveau des seuils et le sort des lois déjà adoptées par les États. Pour les utilisateurs européens, la question est moins immédiate, puisque les modèles diffusés en Europe relèvent déjà de l’AI Act, mais une loi américaine fixerait les règles appliquées là où la plupart des modèles de pointe sont conçus.