UNITE, l’IA qui traque les vidéos truquées bien au-delà des deepfakes

Les faux visages ne sont plus le seul problème. Les outils d’intelligence artificielle générative peuvent désormais modifier un décor, reconstituer une action, fabriquer une séquence depuis une simple consigne textuelle ou produire une vidéo sans aucune image d’origine. Dans ce contexte, un détecteur qui ne cherche que les défauts autour d’un visage risque de laisser passer une grande partie des manipulations.

Des chercheurs de l’Université de Californie à Riverside (UCR) ont développé un système baptisé UNITE, pour Universal Network for Identifying Tampered and synthEtic videos. Présenté le 28 juillet 2025, il ambitionne d’identifier les vidéos trompeuses en examinant la séquence dans son ensemble, et non en se concentrant seulement sur la personne éventuellement filmée. L’enjeu est direct : aider à distinguer une image authentique d’un contenu altéré ou intégralement synthétique avant qu’il ne participe à la désinformation.

Pourquoi les détecteurs de deepfakes ne suffisent plus

Le terme « deepfake » évoque souvent un échange de visages : le visage d’une personne est incrusté sur le corps d’une autre, ou ses expressions sont modifiées. Cette forme de manipulation reste importante, mais elle ne représente plus l’ensemble des contenus artificiels susceptibles de tromper un spectateur.

Une vidéo peut aussi être falsifiée sans montrer de visage. Un arrière-plan peut être altéré, un objet peut être ajouté ou retiré, une scène peut être recomposée, ou l’ensemble du clip peut être généré à partir d’un texte ou d’une image fixe. Dans ces cas, un outil entraîné principalement à examiner les yeux, la bouche ou les contours du visage perd son principal point de repère.

C’est le problème auquel s’attaque l’équipe menée par le professeur Amit Roy-Chowdhury et le doctorant Rohit Kundu. Leur approche part d’un constat simple : pour repérer des manipulations contemporaines, il faut analyser ce qui se passe dans toutes les zones de l’image et sur l’ensemble de la durée de la vidéo.

UNITE analyse la vidéo entière, pas seulement un visage

La spécificité d’UNITE tient à son champ d’observation. Là où de nombreuses méthodes de détection cherchent des anomalies sur les traits humains, le modèle évalue les images vidéo dans leur globalité. Il prend en compte les arrière-plans, les relations entre les éléments de la scène et les schémas de mouvement.

Cette approche est particulièrement utile pour les falsifications qui échappent aux catégories historiques du deepfake. Une scène de rue synthétique, une vidéo de catastrophe créée de toutes pièces ou une séquence dont les objets ont été retouchés peuvent ne contenir aucun visage à analyser. Pourtant, elles peuvent comporter des incohérences visuelles : géométrie instable, mouvements peu cohérents, détails qui varient d’une image à l’autre ou relation improbable entre un sujet et son décor.

UNITE ne se contente donc pas de se demander si une personne paraît crédible à l’écran. Il tente d’évaluer si la séquence entière présente les caractéristiques d’une fabrication ou d’une altération. Cela comprend les manipulations classiques de visages, mais aussi les vidéos synthétiques créées sans séquence originale.

Cette promesse ne signifie pas qu’un détecteur peut établir seul la vérité de chaque vidéo. Les méthodes de génération évoluent rapidement et les outils de vérification doivent être utilisés avec d’autres éléments : origine du fichier, contexte de publication, témoignages, images indépendantes et travail journalistique. Mais l’élargissement de l’analyse constitue une réponse à un angle mort majeur des systèmes précédents.

Comment fonctionne ce modèle de détection ?

Sur le plan technique, UNITE s’appuie sur une architecture de deep learning fondée sur des transformateurs. Ces modèles sont conçus pour repérer des relations entre de nombreux éléments d’une même donnée. Pour une vidéo, cela permet de prendre en compte à la fois ce qui figure dans une image et ce qui change, ou devrait rester stable, au fil des images suivantes.

Le système recherche notamment des incohérences spatiales et temporelles. Les incohérences spatiales concernent l’organisation de l’image à un instant donné : proportions, contours, perspective, texture ou intégration d’un élément au sein d’un décor. Les incohérences temporelles concernent la continuité : mouvement d’un objet, stabilité d’un arrière-plan, évolution des détails entre deux images proches.

L’architecture exploite également SigLIP, un cadre d’IA fondamental destiné à extraire des caractéristiques visuelles sans dépendre exclusivement d’une personne ou d’un objet déterminé. Cette propriété est importante pour un détecteur universel : au lieu d’apprendre uniquement à reconnaître les défauts d’un type précis de faux visage, le système peut chercher des signaux de manipulation dans une plus grande diversité de scènes.

L’attention répartie sur plusieurs zones de l’image

L’équipe de l’UCR a ajouté une méthode d’entraînement appelée attention-diversity loss. Son objectif est d’encourager le modèle à ne pas fixer toute son attention sur une seule région de l’image, en particulier le visage lorsqu’il y en a un.

Dans un système d’IA, l’attention désigne le mécanisme qui aide le modèle à déterminer quelles informations méritent d’être examinées plus attentivement. Sans contrainte particulière, un détecteur peut privilégier la zone qui lui a le plus souvent permis d’obtenir de bons résultats pendant son entraînement. Dans les jeux de données traditionnels de deepfakes, cette zone est fréquemment le visage.

L’attention-diversity loss pousse au contraire UNITE à surveiller plusieurs régions visuelles dans chaque image. Le modèle est ainsi incité à tenir compte du décor, des objets et des mouvements, plutôt que d’adopter un raccourci consistant à ne regarder que les traits du visage. C’est ce qui doit lui permettre de couvrir différents scénarios, des échanges de visages aux contenus entièrement créés par IA.

Pourquoi les vidéos créées depuis du texte sont un défi particulier

Les vidéos produites à partir d’un texte ou d’une image fixe font partie des cas les plus complexes pour les détecteurs. Elles ne modifient pas nécessairement une captation authentique : elles peuvent créer une nouvelle séquence de bout en bout. Il n’existe alors pas toujours de version originale avec laquelle comparer le contenu.

De plus, les modèles de génération vidéo progressent sur des éléments longtemps révélateurs d’une falsification, tels que les visages, les mains, les ombres ou la fluidité des mouvements. Une détection fiable ne peut donc pas reposer sur une liste immuable de défauts visuels. Elle doit apprendre à identifier des régularités plus générales et rester confrontée à de nouvelles méthodes de génération.

Rohit Kundu souligne le caractère préoccupant de cette évolution : des personnes disposant de compétences modérées peuvent désormais produire ou diffuser des contenus trompeurs tout en contournant certains filtres de sécurité. Le risque concerne les individus, dont l’image ou les propos peuvent être détournés, mais aussi les institutions et le débat démocratique lorsqu’une vidéo présentée comme une preuve devient virale.

Quel rôle Google a-t-il joué dans le projet ?

Le développement d’UNITE a bénéficié d’une collaboration avec Google. Celle-ci a donné aux chercheurs accès à des ensembles de données étendus ainsi qu’aux ressources informatiques nécessaires pour entraîner le modèle sur une grande variété de contenus synthétiques.

Cette dimension est déterminante pour ce type de recherche. Un détecteur entraîné sur un nombre limité de trucages risque de reconnaître surtout les méthodes déjà connues. Pour rester utile face à des vidéos diverses, il doit être confronté à de nombreux types de falsifications, à plusieurs qualités d’image et à des situations visuelles variées.

L’accès à des ressources de calcul facilite aussi l’entraînement de modèles reposant sur des transformateurs, qui doivent analyser de grandes quantités de données. Il ne garantit toutefois pas que le système sera infaillible une fois confronté à des contenus inédits. La détection des médias synthétiques est souvent décrite comme une course : les générateurs s’améliorent, les détecteurs s’adaptent, puis de nouvelles techniques de contournement apparaissent.

À qui un système comme UNITE peut-il servir ?

Les premières organisations concernées sont les plateformes de réseaux sociaux, qui doivent modérer à grande échelle des volumes considérables de vidéos. Un système de détection peut les aider à prioriser les contenus nécessitant une vérification humaine, plutôt qu’à trancher automatiquement chaque cas.

Les rédactions et les équipes de vérification des faits sont également susceptibles d’y trouver un appui. Lorsqu’une vidéo spectaculaire apparaît au moment d’une crise, d’une campagne électorale ou d’un événement international, le temps joue souvent contre les vérificateurs. Un signalement technique rapide peut orienter l’enquête vers les séquences les plus douteuses.

Enfin, ces outils peuvent contribuer à protéger les personnes ciblées par des vidéos manipulées. Une séquence attribuant de faux propos à une personne, ou la montrant dans une situation qu’elle n’a jamais vécue, peut se diffuser avant que sa victime ait le temps de répondre. La capacité à repérer rapidement les éléments synthétiques devient donc un enjeu de réputation, de sécurité et de confiance publique.

Il faut néanmoins éviter de confondre détection et censure. Tout système automatisé peut commettre des erreurs, en signalant à tort une vidéo réelle ou en laissant passer un faux convaincant. Son intégration sur une plateforme ou dans une rédaction suppose des procédures de recours, une validation humaine pour les décisions sensibles et une communication claire sur son niveau de fiabilité.

Ce qu’il faut surveiller

L’intérêt d’UNITE réside dans son changement de perspective : la question n’est plus seulement de savoir si un visage a été remplacé, mais si une vidéo dans son ensemble porte des traces de manipulation. À mesure que les générateurs vidéo deviennent plus accessibles, cette capacité à examiner les décors, les objets et la continuité des mouvements pourrait prendre autant d’importance que l’analyse des visages.

La prochaine étape sera de mesurer la robustesse de ce type de système face à des contenus réels, compressés, recadrés, remixés ou publiés sur des plateformes différentes. Une vidéo peut être dégradée par sa circulation en ligne sans être truquée, ce qui rend la distinction délicate. Les chercheurs devront aussi vérifier qu’un détecteur généralisable conserve son efficacité lorsque les techniques de synthèse changent.

Pour le public, le réflexe le plus utile reste de ne pas traiter une vidéo isolée comme une preuve définitive, surtout lorsqu’elle suscite une réaction immédiate. Rechercher son origine, comparer plusieurs sources et attendre une vérification indépendante demeurent essentiels. Les outils comme UNITE peuvent renforcer cette vigilance, mais ils ne remplacent ni l’esprit critique ni l’enquête humaine.