La Californie adopte SB 53, une loi sur la sécurité de l’IA sous tension

La Californie, berceau d’une large part de l’industrie mondiale de l’intelligence artificielle, s’apprête peut-être à imposer ses propres règles de transparence aux laboratoires les plus puissants. En approuvant définitivement le projet de loi SB 53, ses parlementaires ont placé le gouverneur Gavin Newsom devant un choix politiquement sensible : signer un texte conçu pour mieux prévenir les risques de l’IA, ou y opposer son veto au nom d’une régulation plus ciblée.

Porté par le sénateur démocrate Scott Wiener, SB 53 ne cherche pas à interdire des modèles ni à bloquer l’innovation. Son principe est différent : demander aux entreprises qui développent les systèmes d’IA les plus avancés d’expliciter la manière dont elles évaluent et encadrent leurs risques. La mesure intervient alors que les débats sur la sécurité des modèles dits « frontaliers » opposent les partisans de garde-fous rapides aux défenseurs d’un cadre fédéral unique.

Ce que prévoit réellement le projet de loi SB 53

Le cœur de SB 53 est une obligation de transparence sur les protocoles de sécurité pour les grands laboratoires d’intelligence artificielle. Autrement dit, les entreprises visées doivent rendre compte de l’organisation qu’elles mettent en place pour identifier, évaluer et limiter les risques liés à leurs modèles les plus avancés.

Cette approche mérite d’être distinguée d’une certification préalable des modèles. Le texte ne consiste pas, dans sa logique, à faire approuver chaque système par l’État avant sa diffusion. Il cherche plutôt à rendre visibles les méthodes et les engagements de sécurité des entreprises, afin que les pouvoirs publics et le public puissent mieux apprécier la façon dont elles se préparent à des usages dangereux ou à des défaillances graves.

SB 53 comprend aussi une protection des lanceurs d’alerte. Les salariés des laboratoires concernés doivent pouvoir faire remonter des problèmes de sécurité sans redouter de représailles de leur employeur. Cette disposition est importante dans un secteur où une partie des informations déterminantes, comme les résultats de tests internes ou les procédures de déploiement, reste habituellement confidentielle.

Le projet prévoit enfin la création de CalCompute, un cloud public destiné à élargir l’accès aux ressources informatiques. L’enjeu est de ne pas réserver les capacités de calcul nécessaires à la recherche en IA aux seules très grandes entreprises. L’accès aux infrastructures de calcul est en effet devenu un facteur déterminant pour entraîner, tester et étudier les modèles modernes.

Pourquoi les modèles frontaliers sont-ils au centre du débat ?

L’expression « modèles frontaliers » désigne généralement les systèmes d’IA situés à la pointe des capacités disponibles. Ils sont développés à grande échelle, mobilisent d’importantes ressources de calcul et peuvent être intégrés à de nombreux produits ou services. C’est précisément leur diffusion potentiellement large et leurs capacités croissantes qui alimentent les préoccupations de sécurité.

Le débat ne porte pas seulement sur les erreurs ordinaires d’un assistant conversationnel, comme une réponse imprécise. Les promoteurs de règles spécifiques aux modèles les plus avancés s’inquiètent aussi de risques plus systémiques : capacités mal évaluées, détournements par des utilisateurs, défauts de contrôle interne ou insuffisance des informations partagées avant un déploiement important.

Pour Scott Wiener et les soutiens de SB 53, la Californie ne peut pas attendre indéfiniment une réponse uniforme de Washington. L’État accueille de nombreux acteurs majeurs de l’IA et dispose donc d’un levier particulier pour fixer des exigences de gouvernance. La loi entend établir des protocoles de sécurité « clairs et accessibles », selon la ligne défendue par son auteur.

Ses détracteurs redoutent à l’inverse qu’une réglementation adoptée par un État ait des effets bien au-delà de ses frontières. Une entreprise opérant sur plusieurs marchés pourrait devoir composer avec des règles différentes selon les États, en plus de normes étrangères. Cette tension entre réglementation locale, cadre fédéral et standards internationaux est au cœur des oppositions à SB 53.

Des obligations adaptées à la taille des entreprises

Les amendements récents ont introduit une distinction importante selon les revenus annuels des entreprises qui développent des modèles d’IA frontaliers. L’objectif est de moduler l’effort de transparence plutôt que d’imposer exactement la même charge administrative à tous les acteurs.

Cette différenciation répond à une critique récurrente dans le secteur technologique : une obligation lourde peut être relativement absorbable pour une grande entreprise, mais beaucoup plus difficile à assumer pour une structure disposant de ressources limitées. En fixant le seuil de 500 millions de dollars de revenus annuels, les parlementaires ont choisi de renforcer les exigences pour les acteurs les plus établis.

Le compromis ne fait toutefois pas disparaître toutes les objections. Les opposants continuent de voir dans le texte une contrainte susceptible de compliquer le développement et la diffusion des modèles. Les défenseurs y voient au contraire un moyen de proportionner la surveillance publique à la puissance économique des entreprises concernées.

Gavin Newsom face au souvenir d’un précédent veto

Le destin immédiat de SB 53 dépend désormais de Gavin Newsom. Au moment de l’approbation parlementaire, le gouverneur n’a pas commenté publiquement ce nouveau texte. Mais sa position passée explique pourquoi l’issue demeure incertaine.

Newsom avait déjà rejeté un projet de loi similaire, estimant qu’il imposait des normes trop strictes sans tenir suffisamment compte des risques propres aux différents modèles et à leurs contextes d’utilisation. Son objection ne revenait pas à nier la nécessité de protéger le public. Elle traduisait plutôt une préférence pour une régulation capable de distinguer les dangers réels, au lieu de soumettre indistinctement tous les systèmes à la même approche.

SB 53 a été façonné en tenant compte des recommandations d’un panel d’experts en politique de l’IA convoqué par le gouverneur après ce veto précédent. Cette origine est centrale : les auteurs du texte espèrent avoir produit une version plus proche de la méthode que Newsom appelait de ses vœux, avec davantage d’attention portée à la proportionnalité des obligations et aux enjeux concrets de sécurité.

Le gouverneur dispose donc d’arguments dans les deux sens. Signer ferait de la Californie l’un des territoires les plus actifs dans l’encadrement des laboratoires d’IA. Vetoer confirmerait sa prudence face à une législation étatique qui pourrait, selon ses critiques, être trop large ou mal articulée avec un éventuel futur cadre fédéral.

Une Silicon Valley loin d’être unie

L’industrie de l’IA ne présente pas un front commun face à SB 53. Plusieurs entreprises de la Silicon Valley, sociétés de capital-risque et groupes de lobbying se sont opposés au texte. Leur inquiétude porte autant sur les contraintes administratives que sur le risque d’une multiplication des règles selon les États.

OpenAI a récemment défendu une autre voie : les entreprises qui respectent les normes fédérales ou européennes de sécurité devraient, selon elle, être considérées comme conformes aux exigences des États. Cette position met en avant l’idée d’une reconnaissance des standards établis à un niveau plus large, afin d’éviter des obligations divergentes d’un territoire à l’autre.

Chez Andreessen Horowitz, souvent désigné par le nom a16z, le responsable de la politique IA a averti que certaines propositions californiennes et new-yorkaises pourraient franchir des limites constitutionnelles liées à la régulation du commerce inter-États. Les cofondateurs du fonds avaient auparavant indiqué que la régulation technologique avait influencé leur soutien à Donald Trump, lequel a ensuite défendu un moratoire de dix ans sur la réglementation étatique de l’IA.

Face à ces réticences, Anthropic a publiquement soutenu SB 53. Son cofondateur, Jack Clark, estime que le texte offre une base solide pour la gouvernance de l’IA dans l’attente d’un standard fédéral. Cette position illustre une divergence notable entre entreprises du même secteur : pour certaines, une règle californienne est un obstacle ; pour d’autres, elle constitue un minimum nécessaire lorsqu’aucune règle nationale ne s’impose.

Ce que SB 53 changerait pour le débat sur la sécurité de l’IA

Même si ses obligations sont concentrées sur la transparence, SB 53 pourrait devenir un repère politique majeur. La Californie exerce une influence particulière sur la technologie mondiale parce qu’elle abrite une concentration exceptionnelle d’entreprises, de chercheurs, d’investisseurs et d’infrastructures numériques. Une règle appliquée aux laboratoires qui y opèrent peut donc peser sur les pratiques du secteur bien au-delà de l’État.

Le texte pose aussi une question de méthode. Faut-il adopter sans attendre des obligations de transparence et de signalement afin de réduire l’opacité des grands laboratoires ? Ou faut-il d’abord parvenir à des règles fédérales, afin d’éviter un paysage réglementaire fragmenté ? Ces deux objectifs ne sont pas forcément incompatibles, mais SB 53 montre que leur articulation reste disputée.

Les protections accordées aux lanceurs d’alerte constituent un autre point à suivre. Elles reconnaissent que la gouvernance de l’IA ne dépend pas seulement de déclarations publiques des directions d’entreprise. Les personnes qui travaillent directement sur les modèles, les évaluations ou les procédures de sécurité peuvent être les premières à identifier un dysfonctionnement ou un risque insuffisamment traité.

Ce qu’il faut surveiller

La première inconnue est naturellement la décision de Gavin Newsom : signature ou veto. Elle déterminera si la Californie se dote rapidement de ce cadre de transparence ou si le débat repart vers une nouvelle phase de négociation.

Il faudra ensuite observer la réaction des entreprises concernées. Certaines pourraient choisir d’aligner plus largement leurs politiques de sécurité sur les attentes californiennes, tandis que d’autres continueront de réclamer une règle fédérale prévalant sur les lois des États. Le seuil de 500 millions de dollars et la différence entre informations générales et rapports détaillés seront particulièrement scrutés.

Enfin, SB 53 sera un test de la capacité des pouvoirs publics à encadrer les modèles les plus avancés sans imposer une approche uniforme à l’ensemble de l’écosystème. C’est cette recherche d’équilibre, entre prévention des risques, accès aux ressources de calcul et maintien de l’innovation, qui explique l’intensité du bras de fer autour de la loi.