Anthropic appelle à des règles pour anticiper les risques des IA les plus avancées

Lorsqu’une entreprise à l’origine de modèles d’IA avancés réclame davantage de règles, le signal mérite d’être examiné. Anthropic ne plaide pas pour un coup d’arrêt indistinct à l’intelligence artificielle. Le laboratoire soutient plutôt que les systèmes les plus capables doivent être soumis à des garde-fous proportionnés, avant que leur diffusion ne rende certains risques plus difficiles à contenir.

La question posée est celle de l’anticipation. Les modèles gagnent en aptitudes en mathématiques, en raisonnement et en programmation, trois domaines qui peuvent soutenir des usages très utiles, mais aussi faciliter des détournements. Pour Anthropic, l’enjeu des pouvoirs publics consiste à établir un cadre clair qui préserve l’innovation tout en imposant des protections vérifiables aux acteurs développant les systèmes les plus puissants.

Pourquoi Anthropic réclame une régulation proactive

Le cœur de l’argument d’Anthropic est simple : attendre qu’un incident grave se produise avant de fixer des règles serait une stratégie risquée. Dans son analyse, le rythme de progression des systèmes d’IA réduit la marge de manœuvre des décideurs. Le laboratoire évoque une période de 18 mois particulièrement importante pour mettre en place des actions préventives.

Cette position ne revient pas à affirmer qu’une catastrophe est inévitable. Elle repose sur une logique de gestion du risque : plus un outil acquiert de compétences générales, plus il faut tester ce qu’il peut faire, définir les seuils qui appellent des protections supplémentaires et vérifier que ces protections fonctionnent réellement.

Anthropic vise en priorité les modèles dits « de pointe », c’est-à-dire les systèmes aux capacités les plus élevées, et non chaque logiciel intégrant une fonction d’IA. Le laboratoire redoute qu’une réglementation trop vaste, conçue uniquement autour de longues listes de cas d’usage, soit à la fois lourde pour les entreprises et insuffisamment adaptée aux risques propres aux modèles les plus avancés.

Quels risques sont visés par les modèles les plus capables ?

Anthropic identifie deux familles de préoccupations majeures. La première concerne la cybersécurité. Son équipe de tests adversariaux, le Frontier Red Team, souligne que les modèles actuels peuvent déjà accomplir de nombreuses tâches liées à des cyberattaques. Les détails opérationnels importent peu ici : le point central est qu’un modèle capable d’assister des tâches informatiques complexes peut aussi réduire la difficulté d’activités malveillantes.

La seconde famille de risques est désignée par l’acronyme CBRN, pour chimique, biologique, radiologique et nucléaire. Ces termes regroupent des domaines dans lesquels une information technique, si elle est rendue plus accessible ou plus exploitable, peut amplifier des dangers existants.

Le UK AI Safety Institute a relevé que plusieurs modèles d’IA atteignaient désormais un niveau comparable à celui d’une expertise humaine de doctorat pour répondre à certaines questions scientifiques. Ce constat ne signifie ni qu’un modèle remplace un chercheur, ni qu’il agit de manière autonome dans un laboratoire. Il rappelle toutefois que la qualité des réponses produites par ces systèmes devient un sujet de sécurité lorsqu’elles concernent des connaissances sensibles.

Il faut distinguer ces risques de menaces plus immédiates, comme les deepfakes. Anthropic reconnaît que ces contenus truqués posent problème, mais choisit de concentrer son propre cadre sur les risques systémiques liés aux modèles de pointe. Selon cette approche, d’autres initiatives peuvent traiter les abus déjà largement identifiés, tandis que la régulation des capacités avancées doit prévenir des risques qui pourraient devenir plus graves avec l’évolution des modèles.

La Responsible Scaling Policy, une règle interne qui évolue avec les capacités

Pour matérialiser cette approche, Anthropic a présenté en septembre 2023 sa Responsible Scaling Policy, ou RSP, que l’on peut traduire par politique de mise à l’échelle responsable. Une version datée du 15 octobre 2024 précise ce cadre.

Le principe est de ne pas considérer la sécurité comme un contrôle unique effectué avant la sortie d’un produit. À mesure qu’un système devient plus sophistiqué, l’entreprise prévoit d’augmenter les mesures de sûreté et de sécurité qui l’entourent. Cela suppose des évaluations régulières, ainsi qu’une possibilité d’ajuster rapidement les protocoles lorsque de nouvelles capacités sont détectées.

Dans ce vocabulaire, la sûreté renvoie notamment à la prévention de comportements indésirables ou dangereux du système. La sécurité recouvre la protection du modèle et de ses accès contre les usages ou les récupérations non autorisés. Les deux dimensions sont complémentaires : limiter une réponse risquée ne suffit pas si un système avancé peut être détourné, copié ou utilisé hors du cadre prévu.

Anthropic indique aussi renforcer ses équipes consacrées à la sécurité, à l’interprétabilité et à la confiance. L’interprétabilité désigne la recherche de méthodes permettant de mieux comprendre le fonctionnement interne d’un modèle et les raisons pour lesquelles il produit une réponse. C’est un chantier technique complexe, mais important pour repérer des comportements inattendus avant qu’ils ne se manifestent dans un usage réel.

Une politique interne présente néanmoins une limite évidente : elle dépend de l’entreprise qui l’a écrite et appliquée. C’est précisément pourquoi Anthropic appelle à un encadrement public. Une règle commune pourrait obliger les entreprises concernées à respecter des standards comparables et offrir davantage de garanties au public sur la réalité des contrôles annoncés.

Pourquoi Anthropic préfère des règles ciblées aux interdictions générales

Anthropic défend une réglementation orientée vers les propriétés fondamentales des modèles et vers les mesures de sécurité qui les accompagnent. Cette formule peut sembler abstraite, mais elle répond à un problème concret : un même modèle peut être employé dans des milliers de contextes différents. Réguler chaque usage séparément risque de produire des textes vite dépassés ou difficilement applicables.

À l’inverse, une réglementation fondée sur des capacités évaluées chercherait à répondre à des questions plus stables : jusqu’où un modèle peut-il assister des tâches sensibles ? Quelles protections doivent être en place avant son accès à grande échelle ? Comment vérifier ces protections lorsque le système est mis à jour ?

Le laboratoire insiste sur le fait que ces obligations doivent rester proportionnées. Des tests de sécurité flexibles et bien conçus peuvent réduire le coût de conformité tout en maintenant un haut niveau d’exigence. L’objectif n’est donc pas de désigner un modèle, une entreprise ou une architecture comme problématique par nature, mais de traiter des risques observés de manière empirique.

Une question américaine, mais un besoin de coordination mondiale

Aux États-Unis, Anthropic considère qu’une législation fédérale constituerait la réponse la plus cohérente aux risques posés par les systèmes d’IA de pointe. Une loi nationale éviterait que les entreprises aient à composer avec une mosaïque de règles divergentes selon les États. Le laboratoire reconnaît toutefois que des initiatives locales pourraient devenir nécessaires si l’action fédérale tardait.

Le sujet dépasse largement les frontières américaines. Les modèles les plus avancés sont développés, hébergés et utilisés dans plusieurs pays. Anthropic souhaite donc que les régulations nationales favorisent la standardisation et la reconnaissance mutuelle des évaluations de sécurité. L’enjeu est double : éviter qu’une entreprise doive reproduire inutilement les mêmes procédures dans chaque territoire, et empêcher que les exigences les plus faibles deviennent un avantage concurrentiel.

L’Union européenne illustre déjà la montée en puissance de cette gouvernance. Son règlement sur l’intelligence artificielle, l’AI Act, est entré en vigueur le 1er août 2024, avec une application progressive de ses obligations. Les approches européenne, américaine et britannique ne sont pas identiques, mais elles partagent une interrogation : comment encadrer des technologies qui évoluent plus vite que les cycles législatifs traditionnels ?

Pour Anthropic, la réponse passe par des standards suffisamment précis pour être contrôlables, mais assez adaptables pour suivre le progrès technique. La reconnaissance mutuelle entre juridictions pourrait, dans cette optique, réduire les coûts administratifs sans abaisser le niveau de protection.

Ce que cette position change, et ce qu’il faut surveiller

La prise de position d’Anthropic ne remplace pas une loi et ne règle pas à elle seule les risques de l’IA. Elle révèle cependant une évolution notable du débat : les mécanismes de sécurité ne sont plus présentés uniquement comme une démarche éthique volontaire, mais comme un sujet d’infrastructures, de tests et de contrôle réglementaire.

Plusieurs éléments méritent une attention particulière dans les mois à venir :

• la capacité des autorités à définir des critères d’évaluation assez précis pour les modèles les plus avancés ;
• la possibilité de comparer les tests réalisés dans différents pays et de reconnaître leurs résultats ;
• l’équilibre entre obligations utiles et contraintes bureaucratiques qui ne réduiraient pas réellement les risques ;
• le degré de transparence attendu des entreprises sur leurs évaluations et sur le renforcement de leurs protections.

La difficulté est d’agir sans se laisser guider uniquement par des scénarios spectaculaires. Les risques cyber et CBRN soulevés par Anthropic sont sérieux parce qu’ils s’appuient sur des capacités techniques qui progressent, non parce qu’ils annoncent mécaniquement un événement précis. Une régulation efficace devra donc rester attentive aux preuves, aux évaluations et aux changements réels dans les performances des modèles. C’est à cette condition qu’elle pourra protéger le public tout en laissant les usages bénéfiques de l’IA continuer à se développer.