Sur TikTok, les faux comptes « Léna Maréchal » révèlent le risque des deepfakes

Il ne faut parfois que quelques secondes de vidéo, une musique populaire et un visage convaincant pour installer le doute. Les comptes TikTok de « Léna Maréchal » et d’« Amandine Le Pen » ont précisément joué avec cette mécanique : des jeunes femmes fictives, présentées comme liées à Marine Le Pen, s’exprimaient dans des vidéos conçues avec l’intelligence artificielle. Les personnes montrées n’existaient pas, mais les réactions qu’elles ont suscitées, elles, étaient bien réelles.

L’affaire rappelle une difficulté centrale de l’ère des images générées par IA : un contenu peut être manifestement fabriqué pour son auteur, tout en paraissant crédible ou ambigu pour une partie du public. Lorsque la fiction emprunte les codes d’une campagne, d’une famille connue et de la viralité sur les réseaux sociaux, l’intention affichée ne suffit plus à écarter le risque de désinformation.

Des personnages inventés dans un décor politique réel

Les comptes « Léna Maréchal » et « Amandine Le Pen » sont apparus sur TikTok pendant quelques semaines. Ils mettaient en scène deux identités fictives, présentées comme des proches de Marine Le Pen, et publiaient des vidéos à forte tonalité politique. Les contenus faisaient notamment la promotion de l’extrême droite dans un contexte de campagne électorale.

Le choix des noms et de la filiation supposée n’avait rien d’anodin. Il permettait d’inscrire des personnages entièrement imaginaires dans un univers politique immédiatement reconnaissable. Pour un internaute qui découvre une vidéo au milieu de son fil de recommandations, sans connaître le compte ni son origine, ce contexte peut donner une apparence de continuité avec des personnalités et des discours existants.

Selon les éléments rapportés, les comptes ont attiré plusieurs milliers d’abonnés avant leur suppression. Ce niveau d’audience ne permet pas, à lui seul, de mesurer une influence politique. Il montre toutefois qu’une identité synthétique peut trouver rapidement son public lorsqu’elle reprend les ressorts ordinaires de TikTok : montage bref, musique du moment, prise de parole directe et personnages facilement identifiables.

Pourquoi parle-t-on de deepfake ?

Le mot « deepfake » désigne couramment un contenu visuel ou sonore créé ou transformé grâce à des systèmes d’intelligence artificielle. Le terme est souvent associé au remplacement du visage ou de la voix d’une personne réelle. Les outils d’IA peuvent aussi produire de toutes pièces un visage, une voix ou un personnage qui n’a jamais existé.

Dans le cas de « Léna Maréchal » et d’« Amandine Le Pen », l’enjeu ne relève donc pas seulement de l’imitation d’une personne identifiable. Les identités étaient fictives, mais elles étaient rattachées à une famille politique réelle. Cette nuance est importante : fabriquer un faux proche peut être tout aussi trompeur que copier une personnalité, dès lors que le public est conduit à croire à une parenté, à un soutien ou à une prise de parole authentique.

Les systèmes génératifs modernes peuvent produire un résultat suffisamment fluide pour fonctionner dans le défilement rapide d’un réseau social. Une vidéo de quelques secondes n’a pas besoin d’être parfaite pour convaincre. Les défauts subtils, par exemple dans les mouvements du visage, la synchronisation des lèvres ou les détails du décor, passent plus facilement inaperçus quand l’attention est captée par une musique, une chorégraphie ou une formule provocatrice.

Cela ne signifie pas que toute image artificielle est forcément malveillante. L’IA sert aussi à créer des personnages de fiction, à doubler des contenus, à restaurer des images ou à réaliser des effets audiovisuels. La ligne éthique se tend lorsque l’origine artificielle est masquée, que le contenu exploite l’identité ou la réputation d’autrui, ou qu’il intervient dans un débat où les internautes doivent pouvoir savoir qui parle réellement.

L’auteur revendique une « expérience sociale »

L’auteur associé au compte @Lena.Marechal.LePen a réfuté toute intention politique. Il a présenté son projet comme une « expérience sociale » destinée à démontrer les dangers des deepfakes et de la désinformation. Son argument est clair : créer un contenu trompeur pour révéler à quel point il peut tromper.

Cette démarche soulève néanmoins une question difficile : peut-on sensibiliser efficacement à la manipulation en employant les mêmes mécanismes que la manipulation ? Une expérience peut avoir une portée pédagogique si son cadre, sa durée et son dévoilement sont explicites. Sur une plateforme où les vidéos circulent hors de leur contexte initial, ce cadre risque toutefois de disparaître. Un internaute peut voir la séquence avant l’explication, ou ne jamais la voir.

L’intention déclarée et l’effet possible d’une publication ne coïncident pas toujours. Les contenus attribués aux faux comptes associaient des chorégraphies à des musiques populaires et à des propos politiques. Certaines interactions des comptes comportaient également des insinuations sur des sujets sociopolitiques. Même si leur créateur affirme ne pas soutenir les idées mises en scène, celles-ci peuvent être reprises, commentées ou amplifiées indépendamment de son objectif initial.

Viralité et vérification : deux réflexes opposés

Les vidéos courtes reposent sur l’instantanéité. Elles encouragent une réaction rapide, le rire, l’indignation, le partage ou le commentaire. Vérifier une identité, retrouver l’origine d’un extrait et examiner le contexte demandent au contraire du temps. C’est cette opposition qui rend les contenus synthétiques particulièrement délicats à traiter.

Dans une campagne, l’effet compte autant que l’intention

Cette affaire s’inscrit dans les inquiétudes plus larges liées aux contenus manipulés en ligne pendant les périodes électorales. Les élections européennes se sont tenues du 6 au 9 juin 2024 selon les États membres de l’Union européenne. Dans ce type de séquence, une fausse déclaration, un faux soutien ou une identité inventée peut nourrir des récits politiques, même si le contenu est ensuite démenti ou retiré.

Les deepfakes ne sont pas seulement dangereux lorsqu’ils sont techniquement indétectables. Ils peuvent aussi prospérer grâce à leur vraisemblance sociale. Un personnage inventé paraît plausible s’il correspond à une histoire que certains internautes sont disposés à croire : une cousine inconnue, une jeune figure politique surgie sur les réseaux sociaux, un membre de famille qui s’exprime dans un format inhabituel.

Le problème est d’autant plus sensible que les contenus très courts favorisent la fragmentation de l’information. Une vidéo peut être extraite de son compte d’origine, republiée sans sa légende, associée à un commentaire trompeur ou utilisée pour attaquer un camp politique. La suppression d’un compte limite sa diffusion future, mais elle ne garantit pas que toutes les copies disparaissent.

D’après les éléments rapportés, la famille Le Pen a exprimé son désaccord face à cette représentation, tandis que des signalements ont été effectués par le parti Reconquête !. Ces réactions soulignent un point essentiel : même lorsque les personnages fictifs ne correspondent à aucune personne existante, ils peuvent engager l’image, la réputation et les positions supposées de responsables politiques réels.

Ce que les plateformes et les outils peuvent faire

TikTok et les autres plateformes occupent une place déterminante, car elles organisent la visibilité des contenus. Elles doivent pouvoir traiter les signalements, appliquer leurs règles contre les contenus trompeurs et donner aux utilisateurs des indications compréhensibles sur l’origine d’une vidéo. Une étiquette indiquant qu’un contenu a été généré ou fortement modifié par IA peut aider, à condition qu’elle soit visible et qu’elle ne soit pas facilement perdue lors d’une republication.

La réglementation européenne renforce progressivement ce cadre. Le règlement sur les services numériques, aussi appelé DSA, impose notamment aux très grandes plateformes d’évaluer et de réduire certains risques systémiques, parmi lesquels la diffusion de désinformation. Le règlement européen sur l’intelligence artificielle, entré en vigueur le 1er août 2024, prévoit lui aussi une mise en œuvre graduelle de règles de transparence pour certains contenus générés ou manipulés par IA.

Ces dispositifs ne remplacent pas le jugement humain. Un outil de détection peut se tromper, notamment parce que les techniques de génération évoluent vite. À l’inverse, les technologies de traçabilité cherchent à attester l’origine d’un fichier et les modifications qu’il a subies. Adobe développe par exemple des outils de certification de contenus. Leur intérêt est de fournir des informations sur la provenance d’une image ou d’une vidéo, plutôt que de prétendre deviner à coup sûr si elle est vraie ou fausse.

Pour le public, quelques réflexes restent utiles :

• vérifier si la personne montrée possède des comptes officiels cohérents sur plusieurs plateformes ;
• chercher si un média ou l’intéressé a confirmé l’existence de la personne et de la déclaration ;
• se méfier des liens familiaux sensationnels, des citations isolées et des séquences sans contexte ;
• ne pas partager immédiatement une vidéo qui suscite une forte émotion ;
• signaler les contenus qui semblent usurper une identité ou diffuser une information manifestement trompeuse.

Ce qu’il faut surveiller

Le cas de « Léna Maréchal » montre que le défi ne consiste pas uniquement à repérer des trucages spectaculaires. Les contenus les plus efficaces peuvent être ceux qui semblent anodins : une danse, un visage souriant, un compte au nom crédible, une vidéo pensée pour l’algorithme. Leur pouvoir vient de la rapidité avec laquelle ils installent une fiction dans un environnement familier.

À mesure que les outils de génération deviennent plus accessibles, l’éducation aux médias prend une importance croissante. Il ne s’agit pas de soupçonner systématiquement toute vidéo, ni de considérer que l’IA rend toute image inutile. Il s’agit de retrouver une question simple avant de croire ou partager : qui est réellement à l’origine de ce contenu, et sur quoi repose-t-il ?

Pour les plateformes, les responsables politiques et les créateurs, l’enjeu est aussi de définir des règles de transparence qui n’étouffent pas la création tout en empêchant que des personnages fictifs soient utilisés pour brouiller le débat démocratique. L’« expérience sociale » revendiquée ici rappelle que, sur les réseaux, la frontière entre démonstration, satire et désinformation peut s’effacer bien plus vite qu’une vidéo ne se vérifie.