Vidéos racistes générées par IA : pourquoi TikTok peine à enrayer la vague

Les générateurs vidéo ont rendu possible, en quelques instructions, la production de scènes qui empruntent les gestes, le rythme et les cadrages des contenus les plus familiers des réseaux sociaux. Mais cette facilité de création est aussi exploitée pour fabriquer et diffuser des vidéos racistes. En France, de nombreux comptes TikTok relaient ainsi des séquences attribuées à l’intelligence artificielle, visant notamment les personnes noires, arabes, asiatiques et juives.

Le problème ne tient pas seulement à l’existence de messages ouvertement haineux sur Internet, phénomène antérieur à l’IA générative. Il tient aussi à leur nouveau conditionnement : des vidéos courtes, immédiatement reconnaissables, conçues pour attirer l’attention dans un fil de recommandations. Sous l’apparence d’une scène banale ou d’une plaisanterie, elles réactivent des clichés dégradants et contribuent à les faire circuler auprès d’un très large public.

Des formats familiers utilisés pour diffuser des stéréotypes

Les contenus observés reprennent volontiers deux formats omniprésents sur TikTok : le vlog filmé au téléphone, souvent en caméra frontale, et le micro-trottoir. Ces codes donnent l’impression d’assister à une scène spontanée, captée dans l’espace public, alors même que les personnages, le décor ou l’action peuvent avoir été générés de toutes pièces.

L’outil cité dans ces publications est Veo 3, un modèle de génération vidéo développé par Google. Ce type de système permet de produire une séquence à partir d’une consigne décrivant une situation, des personnages et une mise en scène. Il ne faut pas confondre systématiquement une vidéo synthétique avec un deepfake : un deepfake vise généralement à faire passer une personne identifiable pour l’auteure d’actes ou de propos qu’elle n’a pas tenus. Ici, les vidéos problématiques peuvent ne pas usurper l’identité d’une personne réelle, tout en étant profondément discriminatoires.

Cette distinction technique ne réduit en rien leur gravité. Une séquence qui caricature un groupe en fonction de l’origine supposée, de la couleur de peau ou de la religion peut porter atteinte à la dignité des personnes visées, même si tous ses protagonistes sont artificiels.

Des exemples qui transforment le préjugé en divertissement

L’une des séquences signalées met en scène un gorille accompagné d’un cochon devant une Caisse d’allocations familiales, face à des femmes voilées effrayées. Elle est présentée comme ayant été produite intégralement avec Veo 3. L’accumulation de symboles dans cette mise en scène ne relève pas d’un humour anodin : elle associe des personnes identifiées par leur religion à une situation humiliant d’autres groupes, dans une logique de provocation raciste.

D’autres contenus montrent notamment des enfants noirs se disputant autour d’un seau de poulet d’une chaîne de restauration rapide. Là encore, le procédé consiste à réemployer un stéréotype ancien et dégradant, puis à le rendre plus partageable grâce à une forme brève et absurde. Le caractère caricatural de ces vidéos n’est pas une protection contre leur effet : l’ironie affichée, l’exagération ou le recours à des personnages fictifs peuvent au contraire servir à banaliser le message auprès d’une partie du public.

Le vocabulaire de la plaisanterie ne doit donc pas masquer l’enjeu. Les contenus racistes en ligne ne se limitent pas aux insultes explicites. La répétition de représentations qui rabaissent des personnes en raison de leur origine, de leur appartenance ou de leur religion peut installer l’idée que ces groupes sont légitimement réductibles à quelques clichés.

Pourquoi l’IA accélère la diffusion de ces contenus

Avant les outils génératifs, produire une vidéo de ce type exigeait souvent de filmer, de jouer une scène, de monter les images ou de détourner un extrait existant. Ces étapes n’empêchaient évidemment pas la diffusion de contenus racistes, mais elles créaient une barrière de temps, de compétences ou de moyens. Les générateurs vidéo abaissent cette barrière : il devient possible de tester de multiples scénarios et de reproduire rapidement une formule qui suscite réactions et commentaires.

Le modèle économique des plateformes ajoute une difficulté. Les systèmes de recommandation privilégient généralement les contenus susceptibles de retenir l’attention. Une scène choquante, outrancière ou conçue pour déclencher l’indignation peut alors profiter de nombreuses interactions, y compris lorsque les internautes la critiquent. Commenter pour dénoncer ou partager pour alerter peut involontairement augmenter sa portée.

L’IA ne crée pas le racisme. Elle peut cependant industrialiser certains de ses modes d’expression, en permettant de décliner le même préjugé dans des dizaines de scénarios, avec une apparence visuelle suffisamment crédible pour désorienter les spectateurs. Elle brouille aussi les repères habituels : face à une scène improbable, certains utilisateurs peuvent s’interroger sur sa véracité tandis que d’autres la consomment comme un simple divertissement.

Les règles existent, mais l’application reste difficile

En France, le fait qu’un contenu ait été généré par une machine ne le place pas hors du droit. Les règles qui répriment l’incitation à la haine ou à la discrimination peuvent s’appliquer au message diffusé, quels que soient les outils utilisés pour le fabriquer. La responsabilité peut concerner les auteurs et, selon les circonstances, les personnes qui participent sciemment à sa mise en circulation.

Les plateformes ont également leurs propres règles. TikTok interdit les contenus haineux et propose des dispositifs de signalement. Le défi est celui de l’échelle et du contexte. Un système automatisé peut détecter certains mots ou symboles, mais comprendre qu’une mise en scène visuelle recycle un imaginaire raciste demande d’interpréter les références, les intentions et la cible réelle du message. Cette lecture est particulièrement complexe lorsque le contenu se protège derrière l’absurde, l’humour ou des sous-entendus.

À la date du 29 juillet 2025, le cadre européen ajoute plusieurs niveaux de responsabilité. Le règlement sur les services numériques, ou DSA, prévoit des obligations renforcées pour les très grandes plateformes, notamment en matière de gestion des risques systémiques et de transparence de la modération. L’AI Act européen, de son côté, prévoit des obligations de transparence pour certains contenus générés ou manipulés par IA. Une partie de ces obligations spécifiques doit toutefois encore entrer en application.

Que faire face à une vidéo raciste générée par IA ?

Le premier réflexe consiste à ne pas alimenter la mécanique virale. Il vaut mieux éviter de repartager publiquement la vidéo, y compris avec l’intention de la dénoncer, si cette publication reproduit l’extrait ou le rend facilement accessible. Il est en revanche utile de conserver les éléments nécessaires à un signalement : lien ou identifiant de la publication, nom du compte, date, captures d’écran et description précise du contenu.

Sur TikTok, l’outil de signalement intégré permet d’indiquer qu’un contenu relève de la haine ou de la discrimination. Dans une situation qui paraît manifestement illicite, le signalement peut aussi être adressé aux autorités compétentes via la plateforme française PHAROS. Les mineurs ne doivent pas rester seuls face à ce type de vidéo : parents, enseignants et adultes de confiance peuvent aider à qualifier le contenu, à éviter son repartage et à effectuer les démarches nécessaires.

Quelques principes simples permettent de limiter l’effet recherché par les comptes qui publient ces contenus :

• ne pas liker, commenter ou citer la vidéo si cela n’est pas nécessaire au signalement ;
• signaler le contenu et, si besoin, le compte qui le publie de façon répétée ;
• expliquer autour de soi pourquoi un cliché présenté comme humoristique reste discriminatoire ;
• vérifier avant de croire ou de relayer une séquence qui paraît sensationnelle ;
• demander de l’aide à un adulte, à une association ou aux services compétents lorsqu’un contenu vise ou menace une personne.

Une responsabilité qui dépasse les seuls outils techniques

La réponse ne peut pas reposer uniquement sur la détection automatique. Les entreprises qui développent des modèles vidéo sont confrontées à la nécessité de prévoir des garde-fous contre les demandes manifestement haineuses. Les plateformes doivent, elles, modérer plus vite et mieux, sans laisser les contenus les plus ambigus prospérer sous couvert de divertissement. Mais les usages évoluent rapidement, et les créateurs malveillants cherchent constamment de nouveaux détours.

Les débats sur la reconnaissance faciale montrent que les inquiétudes liées aux biais et aux discriminations technologiques ne sont pas nouvelles. IBM avait annoncé en 2020 qu’il ne proposerait plus de logiciels de reconnaissance et d’analyse faciales à usage général. Cette décision ne répond pas directement aux vidéos racistes générées par IA, mais elle illustre une prise de conscience plus large : une technologie ne peut pas être évaluée seulement à l’aune de ses performances, sans examiner les dommages sociaux auxquels ses usages peuvent contribuer.

L’éducation aux médias a donc un rôle central. Comprendre qu’une vidéo peut être synthétique, identifier les ressorts d’un stéréotype et reconnaître les mécanismes de viralité sont devenus des compétences civiques. L’objectif n’est pas de faire peser sur chaque internaute la charge de la modération, mais de réduire la crédulité et l’impunité dont ces publications tirent parti.

Ce qu’il faut surveiller

La question décisive sera celle de l’efficacité concrète des protections. Les plateformes parviennent-elles à détecter les récidives entre plusieurs comptes ? Les outils de génération vidéo empêchent-ils réellement les demandes qui visent à produire des scènes de haine ? Les signalements obtiennent-ils une réponse assez rapide pour empêcher une publication de devenir virale ?

Il faudra aussi observer la manière dont les règles européennes de transparence seront appliquées aux contenus synthétiques. Un étiquetage peut aider un spectateur à savoir qu’une vidéo a été produite par IA, mais il ne suffit pas à rendre acceptable un message raciste. Le sujet est donc double : rendre l’origine artificielle d’une séquence identifiable, et faire appliquer sans ambiguïté les règles qui protègent les personnes et les groupes visés par la haine.

Face à cette vague de vidéos, l’enjeu n’est pas de traiter toute création par IA comme suspecte. Il est de refuser que la nouveauté technique serve d’alibi à la diffusion de vieux préjugés. La rapidité des outils impose une vigilance accrue, mais elle rend aussi plus urgente une responsabilité partagée entre concepteurs, plateformes, autorités et utilisateurs.