Deepfakes : Meta veut faire des réseaux sociaux un filtre de confiance

Une vidéo montrant une personnalité tenir des propos qu’elle n’a jamais prononcés, un enregistrement vocal qui imite un proche, une photographie crédible mais entièrement inventée : les deepfakes ne sont plus un simple sujet de démonstration technologique. En décembre 2024, ils posent une question très concrète aux plateformes qui organisent une grande partie de nos échanges publics : comment laisser circuler les contenus utiles sans devenir l’autoroute des manipulations ?

Les réseaux sociaux sont souvent accusés, à raison, d’accélérer la désinformation. Leur capacité de diffusion, la recommandation algorithmique et le réflexe de partage peuvent transformer une publication trompeuse en phénomène viral. Mais cette même position peut aussi leur permettre de jouer un rôle de protection : détecter des signaux, contextualiser un contenu douteux, offrir un canal de signalement et limiter la circulation des publications manifestement malveillantes.

Les deepfakes brouillent le rapport à la preuve

Un deepfake est un contenu visuel ou sonore créé ou modifié à l’aide de l’intelligence artificielle pour faire croire qu’une personne a dit, fait ou montré quelque chose. Le terme recouvre notamment les vidéos où un visage est remplacé, les voix clonées et les images générées de toutes pièces. Les progrès des modèles génératifs ont rendu ces manipulations beaucoup plus accessibles et, dans certains cas, suffisamment convaincantes pour tromper un public non averti.

Le problème ne tient pas seulement à la qualité d’une imitation. Un faux efficace s’appuie souvent sur un contexte crédible : une actualité brûlante, une célébrité, une entreprise connue, une personnalité politique ou l’urgence d’une demande d’argent. Il peut exploiter une séquence courte, sortie de son contexte, avant même que la personne visée ou les médias ne puissent la démentir.

Les usages malveillants évoqués autour des deepfakes sont variés :

• la désinformation politique, notamment lorsqu’un faux contenu prétend influencer le débat public ;
• la fraude, par exemple lorsqu’une voix imitée cherche à convaincre une victime d’effectuer un paiement ;
• les atteintes personnelles, qui peuvent nuire à la réputation, à la vie privée ou à la sécurité d’une personne ;
• l’érosion de la confiance, car la multiplication des faux peut aussi conduire à mettre en doute des contenus authentiques.

Cette dernière conséquence est particulièrement préoccupante. Lorsqu’il devient facile d’affirmer qu’une vidéo réelle est truquée, l’image et l’audio perdent une part de leur valeur de preuve. Le défi n’est donc pas uniquement d’attraper les faux, mais aussi de mieux établir l’origine des contenus authentiques.

Pourquoi les réseaux sociaux ont un rôle central

Facebook, Instagram et les autres grandes plateformes ne créent pas chaque publication qu’elles hébergent. Elles déterminent toutefois une partie décisive de sa visibilité, grâce à leurs règles, à leurs interfaces et à leurs systèmes de recommandation. Elles peuvent donc agir à plusieurs étapes : au moment de la publication, lors de la diffusion, après un signalement ou lorsqu’un contenu a été vérifié comme trompeur.

Meta, maison mère de Facebook et d’Instagram, explore cette fonction de rempart face aux contenus manipulés. Adam Mosseri, responsable d’Instagram, a souligné le rôle indispensable des réseaux sociaux dans l’identification et la mise en évidence des contenus trompeurs. L’enjeu est de ne pas laisser à l’utilisateur seul la responsabilité de repérer une falsification parfois très élaborée.

Cela ne signifie pas que toute image créée avec une IA devrait être supprimée. Une illustration générée, une création artistique ou un montage clairement présenté comme tel ne produisent pas automatiquement de préjudice. La difficulté pour une plateforme consiste à distinguer la création assumée, la satire compréhensible et la manipulation destinée à faire passer un faux pour une information réelle.

Ce que l’étiquette « Made with AI » peut réellement apporter

L’une des pistes mises en avant par Meta est l’utilisation d’étiquettes telles que « Made with AI », afin de signaler aux internautes que des images, des vidéos ou des contenus audio ont été créés ou modifiés avec l’intelligence artificielle. En 2024, Meta a annoncé le déploiement progressif de ce type d’information sur ses services lorsque des indicateurs techniques reconnus permettent d’identifier l’origine artificielle d’un contenu.

Le principe est utile, car il redonne du contexte au moment précis où l’utilisateur regarde, commente ou partage. Plutôt que de réserver l’information à une page d’aide ou à une décision de modération difficile à comprendre, le marquage rend visible une caractéristique essentielle du contenu.

Les systèmes de détection peuvent s’appuyer sur plusieurs méthodes. Certaines cherchent des traces techniques laissées par les outils de création. D’autres examinent le contenu lui-même à la recherche d’incohérences. Une troisième approche consiste à s’appuyer sur des informations de provenance, c’est-à-dire des données associées au fichier qui renseignent sa création et ses éventuelles modifications.

Aucune de ces méthodes n’est infaillible. Les créateurs de contenus frauduleux peuvent supprimer des métadonnées, réenregistrer une vidéo ou utiliser des outils qui ne transmettent pas les mêmes signaux. À l’inverse, un contenu sans étiquette n’est pas automatiquement authentique. L’absence de marquage peut simplement signifier que la plateforme ne dispose pas de l’information nécessaire.

Étiqueter n’est pas décider du vrai et du faux

L’étiquette proposée par Meta répond à une question précise : un contenu est-il susceptible d’avoir été fabriqué ou altéré par une IA ? Elle ne répond pas, à elle seule, à la question la plus importante pour le public : cette publication dit-elle vrai ?

Une vidéo peut être générée par IA tout en étant explicitement fictive et sans intention de tromper. Inversement, une vidéo authentique peut être accompagnée d’une légende mensongère, présentée comme récente alors qu’elle est ancienne, ou attribuée à tort à une personne. La lutte contre la désinformation ne peut donc pas se réduire à la recherche de pixels artificiels.

Les plateformes doivent articuler plusieurs réponses : des règles contre les contenus trompeurs, des équipes de modération, des dispositifs de signalement, des étiquettes lisibles et, lorsque cela est justifié, une réduction de la visibilité ou un retrait. Ces décisions soulèvent aussi des questions légitimes sur la liberté d’expression, la satire et le risque d’erreur. Une modération crédible doit expliquer ses critères et permettre de contester certaines décisions.

Pour Meta, le défi est d’autant plus grand que la vitesse compte. Un faux peut circuler largement en quelques heures, tandis qu’une vérification rigoureuse exige du temps et du contexte. L’automatisation peut aider à repérer des contenus à examiner, mais elle ne dispense pas d’un jugement humain dans les cas les plus ambigus.

Des règles européennes et une responsabilité partagée

Le développement des deepfakes nourrit également le débat réglementaire. Les autorités s’intéressent à leurs effets sur la sécurité des utilisateurs, la vie privée, les campagnes électorales et la confiance dans l’information. En France, l’Arcom fait partie des acteurs attentifs aux conséquences sociales et juridiques de ces nouveaux formats de désinformation.

À l’échelle européenne, le règlement sur l’intelligence artificielle, entré en vigueur le 1er août 2024, prévoit notamment des obligations de transparence pour certains contenus générés ou manipulés par IA. Les obligations spécifiques de transparence prévues pour les deepfakes doivent s’appliquer à partir du 2 août 2026. L’objectif est que les personnes exposées à un contenu synthétique puissent en être informées de manière appropriée.

La loi ne peut toutefois pas résoudre seule le problème. Les outils de création sont mondiaux, les contenus franchissent les frontières et les techniques de contournement évoluent vite. Les entreprises qui développent ou distribuent ces technologies ont donc un rôle préventif : intégrer des signaux de provenance, faciliter le signalement des abus et coopérer avec les chercheurs, les médias, les associations et les autorités.

Meta, Google et OpenAI figurent parmi les entreprises engagées dans des discussions et des engagements communs autour de la vérifiabilité des contenus et de la lutte contre les usages trompeurs de l’IA. L’intérêt de normes partagées est simple : un signal de provenance n’a de réelle valeur que s’il peut être compris et exploité d’une plateforme à l’autre.

Comment garder les bons réflexes face à un contenu suspect

Même avec de meilleurs outils, l’utilisateur conserve un rôle important. Il ne s’agit pas de devenir expert en intelligence artificielle, mais d’adopter quelques réflexes avant de relayer un contenu saisissant ou outrageant.

Lorsqu’une vidéo ou un message vocal paraît spectaculaire, il est utile de vérifier qui l’a publié en premier, si un média fiable ou la personne concernée l’a confirmé, et si la séquence existe dans un contexte plus long. Les contenus qui jouent sur l’urgence, la peur ou l’indignation méritent une attention particulière, car ce sont précisément les émotions qui favorisent les partages impulsifs.

Il faut aussi éviter de se fier uniquement à des détails visuels, comme un regard étrange ou une voix légèrement artificielle. Ces indices peuvent disparaître à mesure que les outils progressent, et une vidéo de mauvaise qualité n’est pas forcément truquée. La méthode la plus solide reste de croiser les sources et de rechercher l’origine de l’information.

Sur les plateformes de Meta, le signalement reste un levier utile lorsqu’une publication semble usurper l’identité d’une personne, diffuser une fraude ou présenter un contenu manipulé comme réel. Signaler ne constitue pas une preuve, mais permet de soumettre le cas aux mécanismes de modération de la plateforme.

Ce qu’il faut surveiller dans les prochains mois

La question décisive sera celle de la fiabilité des informations affichées par les plateformes. Une étiquette claire, placée au bon endroit et accompagnée d’explications simples, peut aider les internautes à faire une pause avant de partager. À l’inverse, un label imprécis, rare ou mal compris risque d’être ignoré ou de susciter une méfiance excessive envers toute création assistée par IA.

Il faudra également suivre la capacité des réseaux sociaux à traiter les nouveaux formats de manipulation, notamment les voix clonées et les contenus hybrides mêlant images réelles, séquences générées et textes trompeurs. Les deepfakes évolueront avec les outils qui les produisent. La réponse de Meta et des autres plateformes devra donc évoluer elle aussi, sans faire porter toute la charge de la vérification sur les internautes.

La promesse des réseaux sociaux comme remparts contre les deepfakes est crédible à une condition : que la transparence ne soit pas seulement affichée, mais qu’elle s’accompagne de moyens techniques, de règles cohérentes et d’une information compréhensible pour tous.