Deepfakes : l’ETSI publie une norme pour que les créateurs d’IA préviennent les abus

Une fausse vidéo d’un dirigeant qui ordonne un virement, une voix clonée qui appelle un proche en détresse, un montage humiliant diffusé sur les réseaux : les deepfakes, ces contenus truqués par l’intelligence artificielle, se sont banalisés en quelques années. Le 29 octobre 2026, l'Institut européen des normes de télécommunications (ETSI) a publié une spécification technique qui vise à réduire le problème à la source, chez ceux qui conçoivent et exploitent les outils d’IA générative.

Une norme née à Sophia Antipolis

L’ETSI, dont le siège se trouve à Sophia Antipolis, près de Nice, est l’un des trois organismes européens officiels de normalisation. Il est connu pour avoir élaboré des standards utilisés dans le monde entier, comme ceux de la téléphonie mobile. Depuis quelques années, son comité technique consacré à la sécurisation de l’IA produit des textes de référence pour le secteur.

La nouvelle spécification, numérotée TS 104 275, porte un titre explicite : prévenir les dommages causés par les deepfakes. Elle prolonge une norme publiée plus tôt dans l’année par l’ETSI, l’EN 304 223, qui fixe des exigences de cybersécurité de base pour les modèles et systèmes d’IA. Le nouveau texte reprend ses treize principes et y ajoute des exigences propres à l’IA générative.

« Cette spécification fournit aux organisations un ensemble clair d’exigences pour aider à réduire ces risques », explique Alex Cadzow, rapporteur du texte et secrétaire du comité technique de l’ETSI chargé de la sécurité de l’IA.

Prévenir plutôt que détecter

L’approche marque un changement de cap. Jusqu’ici, la lutte contre les deepfakes reposait surtout sur la détection après coup : repérer un contenu truqué une fois qu’il circule. L’ETSI traite le sujet comme un enjeu de sécurité tout au long de la vie d’un système d’IA, de sa conception à sa mise hors service.

Le document recense les dommages possibles en trois familles :

Ce que la spécification exige

Le texte s’adresse aux développeurs de modèles, aux opérateurs qui les mettent à disposition du public et aux gestionnaires de données. Ses principales exigences :

• Étiqueter les contenus générés : l’interface doit encourager un usage responsable, avec des filtres de contenus, un étiquetage clair de ce qui est produit par l’IA et une information sur les limites de fiabilité.
• Évaluer les risques avant la mise en service et prévoir les mesures pour les réduire.
• Garder un contrôle humain : le système doit être surveillé après son déploiement et corrigé lorsque des risques apparaissent.
• Recueillir le consentement : les utilisateurs doivent être informés si leurs œuvres ou leurs contenus servent à entraîner ou adapter le système, avec la possibilité d’accepter ou de refuser à tout moment.
• Vérifier la légalité des données : le développeur doit confirmer que les données d’entraînement ont été obtenues légalement ou sous licence.
• Former et informer les utilisateurs sur les risques liés aux deepfakes.
• Communiquer sur les risques, y compris auprès des autorités de surveillance du marché prévues par le règlement européen sur l’IA.

Le document suggère aussi des tests concrets, par exemple soumettre la même demande dans plusieurs langues pour vérifier que les garde-fous ne se contournent pas en changeant d’idiome. Une annexe fournit, pour chaque exigence, des scénarios de test et des critères de réussite ou d’échec, utiles pour un audit.

Ce que cela change pour les utilisateurs d’outils d’IA

Pour le grand public, les effets seront progressifs. Les services d’IA générative qui suivent la spécification devraient afficher plus clairement l’origine artificielle des contenus produits, et rappeler les limites de fiabilité de leurs réponses. Ils devraient aussi informer les utilisateurs lorsque leurs textes, images ou créations servent à entraîner ou à adapter le système, et leur permettre d’accepter ou de refuser cet usage à tout moment, un point qui intéresse directement les créateurs. Enfin, les fournisseurs sont invités à publier des informations sur la manière dont ils sécurisent leur infrastructure et leur chaîne d’approvisionnement, pour renforcer la confiance.

Ce que dit déjà le droit européen

Le règlement européen sur l’IA, l'AI Act, impose depuis le 2 août 2026 des obligations de transparence sur les contenus générés. Les fournisseurs de systèmes d’IA générative doivent marquer leurs productions de manière lisible par une machine, afin qu’elles puissent être reconnues comme artificielles. Ceux qui diffusent un deepfake, c’est-à-dire une image, un son ou une vidéo truqués ressemblant à des personnes, des lieux ou des événements réels, doivent indiquer qu’il a été généré ou manipulé. Des aménagements existent pour les œuvres manifestement artistiques ou satiriques.

La spécification de l’ETSI ne crée pas de nouvelle obligation, mais elle donne aux entreprises une méthode pour s’y conformer et le prouver, en complément d’un code de bonnes pratiques volontaire sur le marquage des contenus porté par la Commission européenne.

En France, ce que risquent les auteurs de deepfakes

Le droit français sanctionne déjà les abus. Depuis la loi visant à sécuriser et réguler l’espace numérique de mai 2024, le code pénal punit le fait de diffuser, sans le consentement d’une personne, un montage réalisé avec ses paroles ou son image, y compris par un traitement algorithmique, lorsqu’il n’apparaît pas à l’évidence qu’il s’agit d’un montage. La peine est alourdie quand la diffusion passe par un service en ligne, et les montages à caractère sexuel sont sanctionnés plus sévèrement. L’usurpation d’identité et l’escroquerie restent par ailleurs punies, quel que soit l’outil utilisé.

Les bons réflexes face à un deepfake

En attendant que les outils d’IA appliquent ces exigences, chacun peut limiter les risques.

• Se méfier de l’urgence : un appel ou un message vidéo qui réclame un virement ou une information sensible doit être vérifié par un autre canal, en rappelant la personne sur un numéro connu.
• Convenir d’un mot de passe familial pour authentifier un proche en cas d’appel inhabituel.
• Chercher l’étiquette : les grandes plateformes affichent de plus en plus une mention signalant un contenu généré par IA.
• Vérifier la source d’une vidéo choquante avant de la partager, en cherchant si des médias reconnus l’ont reprise.
• Signaler un contenu illicite à la plateforme qui l’héberge et, si nécessaire, sur la plateforme gouvernementale Pharos, puis porter plainte.

Une brique de plus dans la lutte contre les contenus truqués

La publication de l’ETSI s’inscrit dans un mouvement plus large : obligations de l’AI Act, travaux de l’Union internationale des télécommunications sur le tatouage numérique des contenus, engagements des grandes plateformes. Le texte prévient d’ailleurs que ses recommandations valent aussi pour les agents d’IA, présentés comme une évolution de l’IA générative.

Sa portée dépendra de son adoption par les entreprises, puisqu’il reste volontaire. Mais en traduisant des principes généraux en exigences vérifiables, il fournit aux régulateurs et aux auditeurs un outil concret pour juger si un fournisseur d’IA fait réellement le nécessaire contre les deepfakes, un fléau qui alimente aussi la désinformation.