X attaque la Californie sur sa loi contre les deepfakes électoraux par IA

À quelques semaines d’une élection, une image truquée, une fausse voix ou une vidéo générée par intelligence artificielle peut circuler plus vite que son démenti. C’est pour répondre à ce risque que la Californie a adopté une loi ciblant les contenus électoraux trompeurs. Mais la plateforme X, anciennement Twitter, estime que le remède choisi par l’État menace un principe constitutionnel fondamental : la liberté de débattre, y compris de façon provocatrice ou contestable, des candidats et des enjeux politiques.

Le 15 novembre 2024, X a engagé une procédure devant un tribunal fédéral à Sacramento afin de contester la loi AB 2655, baptisée Defending Democracy from Deepfake Deception Act of 2024. Le dossier dépasse largement le cas d’une seule plateforme. Il met face à face deux impératifs difficiles à concilier : empêcher des manipulations numériques susceptibles d’influencer un électorat et préserver la très forte protection accordée au discours politique aux États-Unis.

X conteste la loi californienne devant un tribunal fédéral

La plainte déposée par X vise la légalité d’AB 2655, un texte promulgué par le gouverneur de Californie Gavin Newsom le 17 septembre 2024. Selon la présentation de cette loi, elle établit des règles de responsabilité autour de l’utilisation de contenus politiques mensongers produits avec des programmes d’intelligence artificielle, particulièrement à l’approche des élections.

X ne conteste pas que les outils d’IA puissent servir à fabriquer ou modifier des contenus trompeurs. Son argument est constitutionnel : la plateforme considère que la loi constitue une restriction illégitime à la liberté d’expression garantie par le Premier Amendement de la Constitution américaine.

Dans le système juridique des États-Unis, le discours politique bénéficie en effet d’une protection particulièrement élevée. Les débats sur un candidat, une campagne ou une politique publique se trouvent au cœur de cette tradition. Une loi qui encadre ce type de parole doit donc démontrer qu’elle répond à un intérêt important, comme l’intégrité du scrutin, sans aller au-delà de ce qui est nécessaire.

Pour X, le texte californien risquerait de créer un effet dissuasif. Autrement dit, des utilisateurs, des militants, des commentateurs ou des plateformes pourraient s’abstenir de publier un contenu critique par crainte d’une conséquence juridique, même lorsque ce contenu relève de la satire, de la parodie ou d’un débat de bonne foi sur un candidat.

Que prévoit la loi AB 2655 sur les contenus électoraux générés par IA ?

La loi californienne vise la diffusion d’un contenu audio ou visuel trompeur portant sur un candidat dans les 60 jours précédant une élection. Son objectif est d’empêcher qu’un électeur prenne une décision sur la foi d’un message fabriqué ou altéré de manière à lui faire croire qu’il est authentique.

Le terme de deepfake désigne couramment un contenu synthétique ou manipulé, image, vidéo ou enregistrement vocal, créé ou modifié à l’aide de techniques informatiques, notamment d’intelligence artificielle. La technologie peut permettre de faire dire à une personne des propos qu’elle n’a jamais prononcés, de la montrer dans une scène fictive ou de modifier le sens d’une séquence réelle.

Ces usages ne sont pas tous frauduleux. Les mêmes techniques peuvent aussi servir à la création audiovisuelle, au doublage, à la satire ou à des expérimentations artistiques. La difficulté législative consiste donc à ne pas réguler une technologie en tant que telle, mais les usages jugés suffisamment trompeurs et susceptibles de causer un préjudice dans un contexte électoral précis.

Pourquoi X invoque le Premier Amendement

La position de X repose sur une idée centrale du droit américain : une expression politique erronée, excessive ou offensante ne perd pas automatiquement la protection du Premier Amendement. La plateforme soutient que la loi AB 2655 introduit une forme de censure incompatible avec cette garantie constitutionnelle.

Son inquiétude porte notamment sur la marge d’interprétation laissée par la notion de contenu trompeur. Dans un débat électoral, les messages sont souvent polémiques, caricaturaux ou fortement orientés. Une vidéo montée de façon agressive, une parodie ou une illustration fictive peuvent faire l’objet de lectures opposées. Pour X, le risque est que la crainte d’un litige fasse reculer la publication de contenus pourtant liés à la critique politique légitime.

L’argument ne revient pas nécessairement à présenter tous les deepfakes comme anodins. Il consiste plutôt à défendre l’idée selon laquelle une restriction portant sur le débat électoral doit être définie avec une précision suffisante. La justice devra notamment apprécier si le texte cible correctement les contenus réellement de nature à induire le public en erreur, sans englober des formes d’expression protégées.

Le litige pose ainsi une distinction essentielle : lutter contre une usurpation audiovisuelle présentée comme réelle n’est pas la même chose que sanctionner une opinion, une critique ou une œuvre satirique. Dans la pratique, cette frontière peut être délicate à tracer, surtout lorsque les contenus sont partagés rapidement sur les réseaux sociaux et sortent de leur contexte d’origine.

La protection du scrutin et celle du débat public s’opposent-elles ?

La Californie cherche à répondre à un problème concret : une manipulation crédible publiée dans la phase finale d’une campagne peut atteindre des milliers ou des millions de personnes avant qu’une vérification soit possible. Pour les autorités qui soutiennent le texte, encadrer les contenus trompeurs est donc une mesure de protection de l’intégrité électorale.

X défend, de son côté, le principe selon lequel la réponse à un discours contestable ne doit pas devenir une interdiction trop large. Cette tension est fréquente dans les démocraties : protéger le public de la désinformation tout en évitant que les pouvoirs publics ou les plateformes ne deviennent les arbitres excessifs de la parole politique.

Une injonction qui ne clôt pas le débat juridique

Le lendemain de la promulgation de la loi, le 18 septembre 2024, un juge fédéral a accordé une injonction temporaire contre sa mise en application. Cette étape judiciaire est importante, car elle signifie que la loi ne peut pas être appliquée normalement pendant l’examen de certains arguments soulevés devant la justice.

Elle ne préjuge toutefois pas du jugement final. Une injonction est accordée lorsqu’un juge estime notamment qu’il existe des questions sérieuses à examiner et qu’une application immédiate pourrait produire des effets difficiles à réparer. Dans cette affaire, le point central est bien la compatibilité du texte avec les protections constitutionnelles de la liberté d’expression.

La procédure engagée par X ajoute une voix majeure au contentieux. La plateforme accueille une part importante des échanges politiques publics aux États-Unis. Les obligations juridiques imposées à un tel service, comme les risques de responsabilité liés aux contenus de ses utilisateurs, peuvent donc avoir des conséquences très concrètes sur la modération, les règles de publication et la circulation de messages de campagne.

La Californie, laboratoire de la régulation de l’IA

AB 2655 s’inscrit dans un mouvement plus large de réglementation de l’intelligence artificielle en Californie. L’État s’est également intéressé à d’autres formes de contenus trompeurs, y compris à des vidéos présentées comme explicitement sexuelles alors qu’elles ont été falsifiées.

Cette dynamique reflète une préoccupation devenue centrale avec la diffusion des outils génératifs : l’image, la voix et la vidéo ne constituent plus nécessairement des preuves de ce qui s’est réellement produit. Lorsqu’il devient techniquement plus simple de reproduire l’apparence ou la voix d’une personne, les règles de consentement, d’authenticité et de responsabilité prennent une importance nouvelle.

Le secteur du divertissement est lui aussi concerné. En 2023, la grève de SAG-AFTRA a mis en lumière les inquiétudes des acteurs face à l’exploitation de leur image sans consentement, notamment par des procédés liés à l’IA. Les accords obtenus ont inclus des protections destinées à mieux encadrer ces usages. Les élections et l’audiovisuel relèvent de contextes différents, mais ils partagent une même interrogation : qui contrôle la reproduction numérique crédible d’une personne réelle ?

Ce qu’il faut surveiller dans cette affaire

La suite du dossier dépendra de la manière dont le tribunal évaluera le périmètre exact de la loi et la solidité de l’argument fondé sur le Premier Amendement. Les audiences devront confronter l’objectif de prévention des manipulations électorales au risque de restreindre trop largement l’expression politique.

Une décision favorable à X pourrait fragiliser ou invalider l’application d’AB 2655 et limiter la capacité de la Californie à imposer ce type de règles. À l’inverse, une décision favorable à l’État pourrait conforter l’idée que des restrictions ciblées sont possibles lorsque des contenus générés par IA sont considérés comme matériellement trompeurs dans une période électorale sensible.

Au-delà de la Californie, l’affaire est observée comme un test pour les futures lois sur les deepfakes politiques. Les législateurs devront probablement préciser de plus en plus finement les notions d’authenticité, de tromperie et de responsabilité. Les plateformes, elles, seront confrontées à une question opérationnelle et démocratique : comment limiter les manipulations manifestes sans étouffer la critique, la satire et la pluralité du débat public ?