Pourquoi Gavin Newsom a mis son veto à la loi californienne SB 1047 sur l’IA

Le cœur mondial de l’intelligence artificielle ne s’est pas doté, en septembre 2024, de la loi la plus ambitieuse jamais envisagée aux États-Unis pour encadrer les modèles les plus puissants. Le gouverneur de Californie Gavin Newsom a opposé son veto, le 29 septembre 2024, au projet de loi SB 1047. Cette décision a été accueillie favorablement par une grande partie de l’industrie technologique, dont OpenAI, mais elle a aussi ravivé une question centrale : comment prévenir les dommages les plus graves sans figer un secteur qui évolue à très grande vitesse ?

Le débat ne porte pas sur les usages ordinaires d’un assistant conversationnel ou d’un générateur d’images. SB 1047 visait les systèmes dits de frontière, c’est-à-dire des modèles particulièrement coûteux et capables, en théorie, de contribuer à des scénarios de dommages majeurs. Pour ses partisans, la Californie devait agir avant qu’un incident ne survienne. Pour ses détracteurs, le texte choisissait un critère trop général et risquait de pénaliser les innovateurs plutôt que les usages réellement dangereux.

Ce que prévoyait précisément la loi SB 1047

Porté par le sénateur démocrate californien Scott Wiener, SB 1047 était officiellement intitulé Safe and Secure Innovation for Frontier Artificial Intelligence Models Act. Son ambition était d’instaurer des garde-fous pour une catégorie limitée de modèles d’IA avancés.

Le seuil le plus commenté était financier : le dispositif devait s’appliquer aux modèles dont l’entraînement avait coûté plus de 100 millions de dollars. Ce critère visait les laboratoires disposant de ressources considérables, et non les petites entreprises, les chercheurs travaillant sur des modèles modestes ou les développeurs utilisant une IA existante dans une application.

Le texte demandait notamment aux entreprises concernées de définir un protocole de sûreté et de sécurité. Elles auraient dû évaluer les capacités de leurs modèles, déployer des protections raisonnables et prévoir une possibilité d’arrêt du système en cas de risque grave. La notion de dommage critique couvrait des situations extrêmes, par exemple l’aide à la conception d’armes chimiques, biologiques, radiologiques ou nucléaires, des cyberattaques d’ampleur ou des atteintes causant des pertes humaines importantes.

Cette précision est essentielle pour comprendre la controverse. Les défenseurs du texte ne proposaient pas une autorisation préalable pour tous les outils d’IA. Ils soutenaient qu’à partir d’une certaine puissance, les entreprises devaient démontrer qu’elles avaient pris des précautions adaptées avant de diffuser leurs modèles.

Pourquoi Gavin Newsom a-t-il opposé son veto ?

Dans son message de veto, Gavin Newsom a reconnu l’intention du législateur : protéger le public face à des menaces qui peuvent devenir très concrètes à mesure que les modèles gagnent en capacités. Mais il a jugé que SB 1047 retenait une méthode trop large.

Le gouverneur a notamment estimé que le texte imposait des exigences élevées en fonction de la taille ou du coût d’un modèle, sans suffisamment distinguer son déploiement dans un environnement à haut risque, son rôle dans une décision critique ou son utilisation de données sensibles. Autrement dit, deux usages très différents auraient pu relever d’obligations comparables dès lors qu’ils reposaient sur un modèle de grande taille.

Son raisonnement ne consiste donc pas à nier l’existence de risques liés à l’IA. Il conteste le critère utilisé pour les traiter. Gavin Newsom plaide pour une réglementation davantage fondée sur les usages, sur des preuves empiriques et sur l’évolution effective des capacités des systèmes. Il redoute aussi qu’une loi présentée comme une garantie générale de sûreté ne donne une impression de sécurité sans cibler les risques les plus pertinents.

La Californie se trouve dans une position particulière. L’État abrite une part décisive des entreprises, des investisseurs, des centres de recherche et des infrastructures de calcul qui façonnent l’IA générative. Une loi californienne peut donc produire des effets bien au-delà de ses frontières, notamment parce que les entreprises préfèrent souvent adapter leurs produits à la règle la plus exigeante de leurs marchés principaux.

Pourquoi les entreprises technologiques ont salué la décision

Pour de nombreux acteurs de la tech, SB 1047 risquait d’introduire un frein réglementaire avant même que les modalités techniques de sécurité ne soient stabilisées. OpenAI, créateur de ChatGPT, a fait partie des entreprises inquiètes des effets potentiels du texte sur l’innovation et sur la compétitivité de la Californie.

L’argument des opposants est double. D’une part, les obligations de documentation, d’audit et de responsabilité peuvent être coûteuses, y compris pour des entreprises qui ne disposent pas des moyens des géants du numérique. D’autre part, un cadre local trop contraignant pourrait inciter certains développeurs à déplacer leurs projets vers des juridictions plus souples, sans que les risques mondiaux liés à l’IA ne disparaissent pour autant.

Cette position repose sur une idée simple : la sécurité d’un modèle ne dépend pas uniquement de son budget d’entraînement. Elle dépend aussi de ses capacités réelles, des protections ajoutées lors de sa mise à disposition, de l’accès accordé aux utilisateurs et du contexte dans lequel il est employé. Une IA puissante mais strictement contrôlée dans un laboratoire ne présente pas nécessairement les mêmes risques qu’un outil moins sophistiqué, mais largement accessible et relié à des systèmes critiques.

L’industrie n’est toutefois pas homogène. Durant les débats sur SB 1047, Anthropic, autre développeur majeur de modèles d’IA, a soutenu une version amendée de la proposition. Cette divergence montre que le clivage ne sépare pas mécaniquement les entreprises favorables à l’innovation et les élus favorables à la prudence. Il porte aussi sur la manière concrète de rendre les laboratoires responsables.

Les inquiétudes des partisans de SB 1047

Les soutiens de la loi considèrent qu’attendre une catastrophe pour légiférer serait une erreur. Selon eux, les grands laboratoires sont les mieux placés pour évaluer les risques de leurs modèles, mais ils ne devraient pas être les seuls à fixer les règles auxquelles ils se soumettent. Une obligation légale de tester, documenter et sécuriser leurs systèmes créerait un socle commun, contrôlable par la puissance publique.

Leurs préoccupations dépassent les scénarios les plus spectaculaires. L’IA soulève également des enjeux de transparence, de vie privée, de biais dans les algorithmes et d’impact sur l’emploi. Un modèle peut être performant tout en reproduisant des discriminations présentes dans ses données d’entraînement, diffuser de fausses informations de façon convaincante ou faciliter des opérations malveillantes.

Les évaluations de sûreté tentent de mesurer ce qu’un modèle peut faire dans des conditions contrôlées. Elles peuvent, par exemple, examiner sa capacité à répondre à des demandes sensibles, à automatiser certaines étapes d’une attaque informatique ou à contourner des restrictions. Mais ces tests ont leurs limites : les capacités d’un système changent avec les mises à jour, les outils auxquels il est relié et l’inventivité des utilisateurs.

Le veto ne signifie pas l’absence de règles sur l’IA

Présenter cette décision comme un abandon complet de la régulation serait trompeur. La Californie a, en parallèle, fait progresser plusieurs textes liés à l’intelligence artificielle. Parmi eux figurent des obligations de transparence concernant les données utilisées pour entraîner certains systèmes d’IA générative, ainsi que des dispositions relatives à l’identification de contenus synthétiques.

Cette stratégie illustre une autre voie : plutôt que d’imposer une loi transversale aux modèles les plus puissants, l’État peut adopter des règles secteur par secteur, ou usage par usage. Les sujets concernés vont de la protection des artistes et des interprètes face aux répliques numériques à la lutte contre les contenus trompeurs générés par IA.

Au niveau fédéral, les États-Unis disposaient déjà, depuis octobre 2023, d’un décret présidentiel sur le développement et l’utilisation sûrs, sécurisés et fiables de l’intelligence artificielle. Ce cadre cherche notamment à améliorer le partage d’informations sur certains modèles puissants avec les autorités fédérales. Il ne remplace toutefois pas une loi adoptée par le Congrès, et le paysage réglementaire américain demeure fragmenté entre initiatives fédérales, lois des États et engagements volontaires des entreprises.

L’Union européenne a choisi une architecture différente avec l’AI Act, entré en vigueur le 1er août 2024. Son approche repose largement sur le niveau de risque des usages : certaines pratiques sont interdites, tandis que les systèmes à haut risque sont soumis à des obligations renforcées. La comparaison n’est pas parfaite avec SB 1047, mais elle met en lumière une même difficulté : concevoir des règles applicables à des technologies qui évoluent plus vite que les textes juridiques.

Ce qu’il faut surveiller après le veto

La principale conséquence immédiate est claire : SB 1047 ne deviendra pas une loi californienne. Les développeurs de modèles de frontière ne seront donc pas soumis aux obligations spécifiques que le texte avait prévues. Mais le débat, lui, est loin d’être clos.

Les prochains projets devront répondre aux objections exprimées par Gavin Newsom : comment cibler les usages et les capacités réellement dangereux, sans se contenter du coût de calcul comme seuil d’application ? Comment vérifier les affirmations de sécurité des entreprises sans exiger des procédures impossibles à appliquer ? Et comment éviter que les plus grands groupes soient les seuls capables d’absorber le coût de la conformité ?

Le cas de SB 1047 rappelle aussi qu’une politique de l’IA ne se résume pas à choisir entre innovation et protection. Une réglementation bien conçue peut renforcer la confiance dans une technologie, tandis qu’une règle mal calibrée peut déplacer les activités sans réduire les risques. En Californie comme ailleurs, le défi consiste désormais à construire des obligations proportionnées, contrôlables et suffisamment précises pour protéger le public sans confondre toutes les formes d’IA sous une même étiquette.