Deepfakes : le défi physique en direct pour vérifier une personne à l’écran

Une personne apparaît à l’écran, parle naturellement et répond à une demande apparemment simple : tourner la tête, lever une main ou reproduire un geste précis. Dans un contexte où les images et les voix synthétiques deviennent convaincantes, ce type de défi pourrait devenir un indice précieux. L’objectif n’est pas d’analyser après coup chaque pixel d’une vidéo suspecte, mais de vérifier, au moment même d’un échange, qu’un être humain est réellement présent devant sa caméra.

Des chercheurs du Carnegie Mellon University Robotics Institute et du Massachusetts Institute of Technology, MIT, mettent au point une approche de cette nature pour répondre à la diffusion des deepfakes. Inspirée de la logique des CAPTCHA, ces tests destinés à différencier les humains des systèmes automatisés, elle repose sur des interactions physiques en temps réel. L’idée est de demander une action suffisamment récente, spécifique et difficile à anticiper pour qu’un contenu truqué, une séquence enregistrée ou un avatar synthétique ne puisse pas y répondre de manière crédible.

Pourquoi les deepfakes compliquent la vérification en ligne

Un deepfake est un contenu audio, vidéo ou visuel altéré ou généré grâce à l’intelligence artificielle, de façon à imiter l’apparence, la voix ou les mouvements d’une personne. Cette technologie peut servir à la création artistique, au doublage ou à des effets audiovisuels. Mais elle peut aussi être détournée pour usurper une identité, tromper un interlocuteur lors d’un appel, diffuser une fausse déclaration ou fabriquer de prétendues preuves.

Le problème ne se limite pas aux montages grossiers. Les systèmes de génération progressent, tandis que les outils de détection fondés sur les défauts visuels se heurtent à une difficulté structurelle : les faussaires peuvent améliorer leurs modèles dès que les détecteurs repèrent un nouveau signe. Une anomalie de clignement des yeux, de synchronisation labiale ou d’éclairage peut disparaître avec la génération suivante.

C’est pourquoi la vérification dite de « vivacité », ou liveness detection en anglais, intéresse les chercheurs. Elle ne cherche pas seulement à répondre à la question « cette image paraît-elle artificielle ? ». Elle pose une question plus opérationnelle : « la personne sollicitée est-elle présente, maintenant, et peut-elle accomplir une action demandée à l’instant ? »

Comment fonctionne un défi physique en temps réel ?

Le mécanisme envisagé suit une logique simple : la plateforme affiche ou énonce une consigne, l’utilisateur la réalise devant la caméra, puis le système évalue si la réponse correspond au défi et si elle a été produite en direct. Les gestes peuvent concerner la tête, les mains, l’orientation du regard, la posture ou une réaction à un stimulus présenté pendant l’appel.

L’élément déterminant est l’imprévisibilité. Si la consigne est choisie à l’avance et toujours identique, un fraudeur peut préparer une vidéo répondant au test. Si elle varie au dernier moment, elle impose au système malveillant de générer une réponse cohérente avec un délai très court, tout en respectant les mouvements, les expressions, la perspective, la lumière et la synchronisation avec le son.

Cette approche s’appuie potentiellement sur des équipements déjà répandus : une webcam, un smartphone et des capteurs capables de capter le mouvement. Cela ne signifie pas que le problème se réduit à une simple reconnaissance gestuelle. Le système doit aussi résister à plusieurs tactiques de contournement, comme la diffusion d’une vidéo sur un écran placé devant la caméra, la réutilisation d’un enregistrement ou l’injection d’un flux vidéo modifié.

Le défi doit donc être assez clair pour l’utilisateur, assez varié pour ne pas être préparé, et assez rapide pour réduire la possibilité d’une réponse fabriquée à la volée. Il doit également tenir compte des conditions réelles d’usage : faible débit, caméra médiocre, pièce sombre, fatigue ou mobilité réduite.

En quoi cette idée s’inspire-t-elle des CAPTCHA ?

Les CAPTCHA sont connus pour leurs cases à cocher, leurs lettres déformées ou leurs demandes de sélection d’images. Leur vocation première est de séparer un visiteur humain d’un programme automatisé. Le projet exploré par les équipes de Carnegie Mellon et du MIT transpose ce raisonnement à l’identité visuelle : au lieu de demander à une personne de reconnaître des objets, il lui demande de produire une réaction physique contextualisée.

La différence est importante. Un CAPTCHA classique vérifie généralement qu’une interaction sur un service est vraisemblablement humaine. Un défi physique filmé cherche à établir davantage : qu’il existe un corps présent face à l’appareil au moment de l’échange. Il ne prouve toutefois pas automatiquement l’identité civile de cette personne. Une personne réelle peut répondre au défi tout en utilisant le compte de quelqu’un d’autre.

Il ne faut pas non plus confondre ce type de contrôle avec une détection universelle des deepfakes. L’analyse d’un fichier vidéo qui circule déjà sur un réseau social est un problème différent. Dans ce cas, il n’est plus possible d’interrompre la personne pour lui demander de lever la main ou de suivre un point à l’écran.

Ce que la méthode peut vérifier, et ce qu’elle ne peut pas garantir

La promesse centrale est de rendre plus coûteuse et plus difficile l’usurpation en direct. Lorsqu’un interlocuteur doit réagir immédiatement à une instruction inconnue à l’avance, la fraude ne peut plus s’appuyer aussi facilement sur une séquence fixe. Cette contrainte de temps ajoute une couche de sécurité là où une simple image de profil, une voix clonée ou un document numérisé ne suffisent pas.

Mais un résultat positif ne doit pas être interprété au-delà de ce qu’il mesure. Il indique qu’un utilisateur a passé un test de présence selon les critères retenus par le service. Il ne démontre pas, à lui seul, que tout ce qu’il dit est vrai, que son identité est légalement établie, ou que l’intégralité de son flux vidéo est impossible à manipuler.

À l’inverse, un échec n’est pas une preuve de fraude. Un utilisateur peut mal comprendre la consigne, être mal cadré, ne pas disposer d’une caméra fonctionnelle ou rencontrer une difficulté motrice. La qualité d’un tel outil se mesure donc autant à sa capacité à repérer les tentatives frauduleuses qu’à sa faculté de ne pas pénaliser les personnes légitimes.

Quels usages pour les plateformes et les services sensibles ?

Cette technologie pourrait trouver sa place là où l’enjeu d’usurpation est élevé et où l’utilisateur accepte déjà une procédure de vérification. Une plateforme sociale pourrait l’employer pour confirmer qu’un compte important lance réellement une diffusion en direct. Un service financier, une administration ou une entreprise pourraient l’envisager dans un parcours de validation à distance. Les rédactions, les équipes de cybersécurité et les organisateurs d’événements en ligne sont également confrontés à la difficulté de vérifier qu’un interlocuteur vidéo est bien celui qu’il prétend être.

Dans tous ces cas, l’intérêt serait de combiner plusieurs signaux plutôt que de dépendre d’une seule mesure. Un défi gestuel peut être associé à une authentification par mot de passe, à un code temporaire, à la vérification d’un appareil connu ou à une validation humaine en cas de doute. Cette approche par couches limite les conséquences d’une défaillance unique.

Les plateformes devront cependant choisir avec prudence le moment où demander ce contrôle. Imposer une caméra et des mouvements physiques pour chaque publication ou chaque connexion créerait une friction excessive. Le défi sera plus acceptable lorsqu’il intervient à une étape sensible, à la suite d’un comportement inhabituel ou pour accéder à une fonctionnalité exposée à l’usurpation.

Vie privée, conservation des images et accessibilité : les conditions indispensables

Filmer le visage et les mouvements d’un utilisateur soulève immédiatement une question de confidentialité. Les images, la voix, la silhouette et certains éléments du comportement peuvent constituer des données particulièrement sensibles. Une solution de vérification responsable doit donc expliquer clairement ce qui est capté, dans quel but, pendant combien de temps et par qui ces données sont traitées.

La minimisation des données est un principe clé. Si le contrôle peut être effectué sans conserver la vidéo brute, ou en n’en extrayant que les informations strictement nécessaires à la validation, le risque est réduit. La sécurité du stockage, la limitation des accès et la transparence sur les éventuels sous-traitants sont tout aussi importantes. Un dispositif conçu pour combattre l’usurpation ne doit pas devenir un outil de surveillance disproportionné.

L’accessibilité doit également être pensée dès la conception. Demander de lever les deux mains, de tourner rapidement la tête ou de prononcer une phrase peut exclure certaines personnes en situation de handicap, malades ou simplement mal équipées. Il faut prévoir des défis alternatifs, des modalités non vidéo lorsque c’est possible et un recours humain. La sécurité ne peut être considérée comme réussie si elle empêche une partie du public d’utiliser un service.

Comment évaluer sérieusement un tel système ?

L’enthousiasme pour un mécanisme de vérification ne dispense pas de le tester dans des conditions rigoureuses. Les éléments disponibles sur cette initiative ne détaillent ni un protocole complet, ni des taux de détection, ni les conditions précises d’un déploiement. Avant une intégration à grande échelle, plusieurs questions devront recevoir des réponses mesurables.

Il faudra notamment confronter le système à des attaques variées : vidéo préenregistrée, écran rejoué devant la caméra, flux injecté, avatar généré en direct et scénarios où l’assaillant connaît une partie des défis. Les évaluations devront aussi compter les faux rejets, c’est-à-dire les cas dans lesquels une personne réelle échoue injustement, ainsi que le temps nécessaire pour accomplir le test.

La robustesse ne se résume pas à un bon résultat obtenu dans un laboratoire. Un outil utile doit fonctionner avec les appareils ordinaires, sur différents types de réseaux et pour une diversité de visages, de morphologies, d’âges et de capacités physiques. Il doit enfin être auditable : les organisations qui l’emploient doivent savoir ce qu’il garantit réellement et ce qu’il ne garantit pas.

Ce qu’il faut surveiller

À mesure que les deepfakes gagnent en réalisme, la vérification en ligne devrait s’orienter vers des mécanismes plus interactifs et plus contextuels. Les défis physiques en temps réel étudiés par Carnegie Mellon et le MIT illustrent ce changement : plutôt que de chercher uniquement les traces d’un faux, il s’agit de demander une preuve de présence au moment où elle compte.

La prochaine étape consistera à voir si cette piste peut être transformée en outils fiables, sobres en données et suffisamment inclusifs pour un usage quotidien. Les critères décisifs seront la résistance aux nouvelles techniques de génération, la clarté pour les utilisateurs, le faible nombre d’erreurs et la gouvernance des données captées. Dans la lutte contre les manipulations, la technologie n’est utile que si elle renforce la confiance sans exiger des internautes qu’ils renoncent à leur vie privée.