Californie : Gavin Newsom oppose son veto à la loi IA SB 1047

Le refus de Gavin Newsom ne signifie pas que la Californie renonce à encadrer l’intelligence artificielle. Le 29 septembre 2024, le gouverneur a choisi de bloquer un texte particulièrement ambitieux, la SB 1047, tout en défendant une approche plus ciblée des risques. Dans un État où sont installées nombre des entreprises qui conçoivent les modèles les plus puissants, le geste a une portée symbolique considérable.

Le débat dépasse d’ailleurs largement une opposition simple entre innovation et sécurité. La question posée par SB 1047 était très concrète : faut-il imposer des obligations préventives aux concepteurs de modèles de pointe avant qu’un outil ne soit utilisé pour provoquer des dommages catastrophiques ? Pour ses soutiens, attendre qu’un incident survienne serait une erreur. Pour ses opposants, la réponse proposée risquait de mal viser les dangers et de pénaliser des entreprises sans lien direct avec un usage dangereux.

SB 1047 a été rejetée par veto, et non simplement suspendue

La formulation est importante. Gavin Newsom n’a pas mis le texte en attente : il lui a opposé son veto. La proposition de loi, portée par le sénateur démocrate de Californie Scott Wiener, ne peut donc pas entrer en vigueur dans sa forme adoptée par le Parlement de l’État.

Son intitulé, Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, résume son ambition : établir un cadre de sécurité pour les modèles dits de frontière, c’est-à-dire les systèmes les plus coûteux et les plus capables. Le projet ne visait pas les usages ordinaires d’une IA générative, comme rédiger un courriel, créer une image ou résumer un document. Il concernait les acteurs qui développent ou modifient des modèles au niveau de puissance le plus élevé.

L’idée centrale était d’exiger des entreprises qu’elles mettent en place des précautions raisonnables pour empêcher leurs modèles de contribuer à des préjudices critiques. Le texte envisageait notamment des scénarios extrêmes : la facilitation d’attaques informatiques majeures ou l’aide à la création d’armes chimiques, biologiques, radiologiques ou nucléaires susceptibles de causer des dommages massifs.

Ces mécanismes expliquent pourquoi SB 1047 a été présentée par ses défenseurs comme l’une des tentatives les plus structurantes de régulation de l’IA aux États-Unis. Elle ne cherchait pas à réglementer chaque logiciel intégrant de l’IA, mais à introduire une responsabilité particulière pour ceux qui conçoivent les systèmes les plus avancés.

Pourquoi Gavin Newsom a-t-il mis son veto ?

Dans son message accompagnant le veto, Gavin Newsom a estimé que SB 1047 adopte une logique trop largement fondée sur la taille et la capacité de calcul des modèles. Selon lui, cette méthode ne distingue pas assez les systèmes effectivement utilisés dans des environnements à haut risque, ceux qui prennent des décisions critiques ou ceux qui manipulent des données sensibles.

Autrement dit, une IA très puissante employée dans un contexte limité pouvait se retrouver soumise aux mêmes exigences qu’un système beaucoup plus directement exposé à un usage dangereux. À l’inverse, un outil plus petit, spécialisé et déployé dans une infrastructure sensible pouvait présenter un risque concret sans être au centre du dispositif.

Le gouverneur a aussi fait valoir qu’un cadre trop général pourrait créer une illusion de sécurité : cocher les cases prévues par la loi ne garantit pas, à lui seul, qu’un système est sûr. Il a donc défendu une réglementation fondée davantage sur les usages, les preuves et les risques réels que sur la seule puissance technique d’un modèle.

Cette position ne revient pas à dire qu’il n’existe aucun danger. Gavin Newsom a annoncé vouloir travailler avec des spécialistes de la sécurité de l’IA afin de définir des garde-fous plus opérationnels. Le désaccord porte sur le véhicule législatif et sur le périmètre du texte, non sur la nécessité de traiter les risques liés à l’intelligence artificielle.

L’industrie technologique n’a pas parlé d’une seule voix

L’expression « les géants de la tech » masque des intérêts et des analyses très différents. Les entreprises qui créent des modèles généralistes, celles qui les utilisent dans leurs produits et les jeunes pousses qui espèrent concurrencer les groupes établis ne perçoivent pas nécessairement SB 1047 de la même manière.

Des entreprises comme OpenAI, Google et Meta ont exprimé des réserves sur le projet, notamment sur son champ d’application et sur le risque qu’une réglementation californienne propre à l’État fragmente les règles américaines. Ces acteurs plaident plus volontiers pour un cadre fédéral cohérent, applicable à l’ensemble du pays.

À l’inverse, Anthropic a exprimé un soutien nuancé à une version amendée du texte. Des chercheurs et défenseurs de la sûreté de l’IA y voyaient un précédent utile : lorsque les capacités d’un modèle franchissent certains seuils, ses concepteurs devraient être tenus de démontrer qu’ils ont anticipé les abus les plus graves.

Le clivage ne recoupe donc pas simplement la frontière entre entreprises et société civile. Certaines sociétés redoutent des coûts de conformité et une incertitude juridique. D’autres considèrent que des règles claires peuvent, au contraire, renforcer la confiance des clients, des investisseurs et du public.

La Californie continue de légiférer sur l’IA, mais de manière ciblée

Le veto de SB 1047 doit être lu avec le reste de l’activité législative californienne de septembre 2024. Gavin Newsom a signé plusieurs textes qui répondent à des effets plus immédiats de l’IA générative, en particulier la production d’images, de voix et de vidéos synthétiques.

Parmi eux figurent des mesures visant les contenus trompeurs générés par IA pendant les campagnes électorales, souvent désignés sous le terme de deepfakes. L’État a aussi adopté des protections autour des répliques numériques de personnes, notamment dans le secteur du divertissement et pour les artistes-interprètes. D’autres dispositions portent sur une plus grande transparence des contenus générés ou modifiés par intelligence artificielle.

Cette différence d’approche est essentielle. Les lois signées cherchent surtout à répondre à des préjudices identifiables : tromper un électeur, imiter la voix ou l’apparence d’une personne sans consentement, ou masquer l’origine artificielle d’un contenu. SB 1047, elle, intervenait beaucoup plus tôt dans la chaîne, au stade de la conception des modèles de frontière.

En quoi la situation diffère-t-elle de l’Europe ?

L’Union européenne a adopté une trajectoire plus globale avec l’AI Act, entré en vigueur le 1er août 2024. Ce règlement classe les systèmes selon leur niveau de risque et impose des obligations graduées. Certaines pratiques jugées inacceptables sont interdites, tandis que les systèmes à haut risque doivent répondre à des exigences renforcées de gestion des risques, de documentation, de contrôle humain et de transparence.

L’AI Act prévoit également des obligations propres aux modèles d’IA à usage général, catégorie qui couvre les grands modèles susceptibles d’être intégrés à de nombreux produits et services. Son application est progressive, avec des calendriers différents selon les dispositions.

SB 1047 ne reproduisait pas ce modèle européen. La loi californienne ciblait d’abord les capacités extrêmes et les conséquences catastrophiques possibles. Elle ne constituait pas un règlement général couvrant tous les systèmes d’IA, ni un équivalent de l’AI Act pour la Californie.

La comparaison reste néanmoins éclairante. L’Europe privilégie un cadre commun pour ses États membres, tandis que les États-Unis reposent encore sur une combinaison de textes fédéraux, de lois propres à chaque État, d’autorités sectorielles et d’engagements volontaires des entreprises. Dans ce paysage, une loi californienne peut avoir un effet d’entraînement, car l’État concentre une part décisive de l’économie numérique mondiale.

Les risques de l’IA ne se limitent pas aux scénarios catastrophiques

Le débat autour de SB 1047 a beaucoup porté sur des menaces de très grande ampleur. Pourtant, les difficultés rencontrées par les utilisateurs existent aussi à une échelle plus quotidienne : désinformation, atteintes à la vie privée, biais discriminatoires, erreurs dans des décisions sensibles, imitation frauduleuse d’une voix ou d’une image, ou encore opacité des systèmes automatisés.

Une loi consacrée aux modèles de frontière n’aurait pas réglé tous ces problèmes. Elle aurait traité un risque précis, celui d’outils extrêmement capables dont le détournement pourrait produire des dommages hors normes. Les autres enjeux exigent des règles complémentaires : protection des données, droit de la consommation, droit du travail, droit électoral, propriété intellectuelle et responsabilité des plateformes.

C’est pourquoi la formule « réguler l’IA » recouvre en réalité plusieurs chantiers. Une mesure efficace contre un deepfake électoral ne garantit pas la sécurité d’un modèle utilisé en cybersécurité. De même, un protocole de sûreté appliqué à un laboratoire ne protège pas automatiquement une personne contre une décision algorithmique injuste dans l’accès à un emploi ou à un logement.

Ce qu’il faut surveiller après le veto

Au 30 septembre 2024, les États-Unis ne disposent pas d’une loi fédérale générale équivalente à l’AI Act européen. Le veto de Gavin Newsom ne tranche donc pas le débat national. Il souligne au contraire la difficulté de définir des obligations communes pour une technologie qui évolue rapidement et dont les risques varient fortement selon les usages.

Trois points seront particulièrement déterminants dans les prochains mois. D’abord, la capacité des élus californiens à proposer un nouveau texte qui cible mieux les déploiements réellement dangereux. Ensuite, la réaction du Congrès américain et des agences fédérales, alors que les entreprises demandent souvent des règles nationales plutôt qu’un empilement de normes locales. Enfin, la manière dont les développeurs de modèles rendront publics leurs pratiques de tests, de signalement d’incidents et de contrôle des abus.

La décision de Gavin Newsom rappelle une réalité moins spectaculaire mais fondamentale : encadrer l’IA ne consiste pas seulement à décider s’il faut réglementer ou non. Il faut déterminer qui doit être responsable, à quel moment et pour quel type de risque. C’est sur ces choix précis que se jouera la crédibilité des futures règles californiennes et américaines.