YouTube encadre les vidéos générées par IA avec de nouvelles obligations

Une fausse déclaration d’une personnalité, une vidéo manipulée d’un conflit ou une chanson reproduisant la voix d’un artiste peuvent désormais être produits avec une facilité inédite. Face à cette montée des contenus synthétiques, YouTube annonce, le 16 novembre 2023, un ensemble de mesures destinées à rendre leur présence plus visible et à donner davantage de recours aux personnes concernées.

La plateforme ne cherche pas à interdire l’intelligence artificielle dans la création vidéo. Elle entend plutôt imposer de la transparence lorsque son usage risque de faire passer une fabrication pour une scène, un son ou une prise de parole authentique. Cette nuance est centrale : un effet visuel, une retouche esthétique ou un outil d’assistance ne posent pas nécessairement les mêmes questions qu’un deepfake réaliste d’une personnalité publique.

Ces règles visent autant les créateurs que les annonceurs. Elles concernent aussi la musique, un secteur déjà confronté à la diffusion de faux morceaux imitant des voix célèbres. YouTube promet enfin de mieux traiter les plaintes liées à la vie privée lorsque l’IA sert à simuler une personne identifiable.

Pourquoi YouTube renforce ses règles sur l’IA

L’essor des outils de génération d’images, de voix et de vidéos a rendu possible la création de contenus très convaincants, parfois sans compétences techniques particulières. Une vidéo synthétique peut montrer une personne réelle en train de dire ou de faire quelque chose qui ne s’est jamais produit. Lorsqu’elle est photoréaliste ou accompagnée d’une voix crédible, elle peut tromper un public qui ignore qu’elle a été modifiée.

Le risque est particulièrement élevé pour les sujets dits sensibles. YouTube cite notamment les élections, les conflits en cours, les crises de santé publique et les contenus mettant en scène des personnalités publiques. Dans ces domaines, une séquence trompeuse peut influencer une opinion, alimenter une rumeur ou nuire à la réputation d’une personne.

Le terme « deepfake » est souvent employé pour désigner ces montages réalistes réalisés à l’aide de l’IA. Il recouvre toutefois des situations très différentes : une parodie évidente, un doublage créatif, une simulation non signalée ou une fraude visuelle ne produisent pas les mêmes effets. YouTube annonce donc une approche fondée sur le contexte, l’apparence réaliste du contenu et le risque de confusion pour les spectateurs.

Les créateurs devront indiquer certains contenus synthétiques

Dans les prochains mois, YouTube prévoit de demander aux créateurs de signaler qu’ils ont utilisé un outil synthétique pour modifier ou générer un contenu lorsqu’il paraît réaliste. L’objectif est simple : permettre au spectateur de savoir qu’une image, une vidéo ou un son ne doit pas être interprété comme un enregistrement fidèle de la réalité.

Cette obligation ne signifie pas que chaque vidéo ayant bénéficié d’un outil d’IA sera assortie du même avertissement. La plateforme concentre son dispositif sur les transformations qui peuvent modifier de façon importante le sens d’une séquence. L’enjeu est notamment de distinguer une création assumée d’un contenu susceptible d’induire le public en erreur.

Pour les thèmes les plus sensibles, notamment la politique, YouTube prévoit un étiquetage plus visible. La plateforme veut ainsi limiter le risque qu’un contenu artificiel portant sur une élection ou une crise soit confondu avec un document authentique.

L’obligation de transparence ne remplace donc pas le règlement de la plateforme. Une vidéo synthétique qui viole déjà les règles de la communauté pourra être supprimée, même si son créateur a indiqué qu’elle avait été fabriquée avec l’IA. Le signalement informe le public, mais il ne donne pas un droit à publier un contenu nuisible ou interdit.

Quelles sanctions en cas d’absence de signalement ?

YouTube annonce qu’un créateur qui ne signale pas un contenu réaliste créé ou fortement modifié par IA s’expose à des mesures de la plateforme. Selon les cas, celles-ci peuvent aller de la suppression du contenu à la suspension de la monétisation. Les manquements répétés peuvent également entraîner d’autres sanctions dans le cadre du Programme Partenaire YouTube.

Cette dimension économique est importante. Pour de nombreux vidéastes, la monétisation constitue une source de revenus. En liant la transparence sur l’IA à l’accès à ces revenus, YouTube entend faire de l’étiquetage une responsabilité concrète, et non une simple recommandation.

La plateforme indique aussi qu’elle pourra elle-même ajouter un libellé dans certains cas. Cela doit limiter l’efficacité d’une stratégie consistant à omettre volontairement toute information sur l’origine synthétique d’une vidéo. En revanche, un étiquetage automatique ne résout pas tous les problèmes : détecter avec certitude un contenu produit ou manipulé par IA reste difficile, en particulier lorsque les techniques évoluent vite.

Des recours pour les personnes imitées par une IA

L’une des évolutions les plus notables concerne la vie privée. Les utilisateurs pourront demander la suppression d’un contenu manipulé, créé synthétiquement ou généré par IA qui simule une personne identifiable. Cette procédure vise les cas où l’image, le visage ou d’autres caractéristiques reconnaissables d’un individu sont utilisés sans son accord dans une mise en scène artificielle.

YouTube n’annonce pas un retrait automatique de chaque contenu faisant référence à une personne réelle. La plateforme examinera les demandes en tenant compte de plusieurs éléments, dont le caractère réaliste de la vidéo, le fait qu’elle ait été signalée comme synthétique, son éventuel intérêt pour le public et sa nature artistique, satirique ou parodique.

Cette précision protège une zone importante de la liberté d’expression. Une parodie clairement identifiable ne produit pas les mêmes effets qu’une imitation conçue pour faire croire à une déclaration ou à un comportement réel. Mais elle ne dispense pas la plateforme d’arbitrages délicats, notamment lorsque la frontière entre humour, critique, information et tromperie devient floue.

YouTube prévoit également de mobiliser l’IA dans ses systèmes existants afin de mieux détecter les contenus manipulés impliquant des personnalités publiques. La promesse est significative, car les personnes connues sont des cibles fréquentes de montages trompeurs. Elle illustre aussi une réalité de la modération à grande échelle : les plateformes utilisent de plus en plus l’automatisation pour repérer les abus, tout en devant conserver une évaluation du contexte.

La musique générée par IA entre dans le champ des règles

YouTube cible aussi les faux titres musicaux créés à l’aide d’outils d’intelligence artificielle. Ces systèmes peuvent reproduire ou imiter une voix chantée et donner l’impression qu’un artiste a enregistré une chanson qu’il n’a jamais interprétée. Des exemples de faux morceaux associés à des artistes comme Drake ou Angèle ont montré la rapidité avec laquelle ce type de contenu peut circuler.

La plateforme prévoit de permettre aux partenaires de l’industrie musicale de demander le retrait de contenus audio générés par IA qui imitent la voix distinctive d’un artiste lorsqu’il chante ou rappe. Cette possibilité s’ajoute aux mécanismes déjà mobilisés par les ayants droit pour défendre leurs intérêts sur les plateformes de diffusion.

Le sujet ne se limite pas au droit d’auteur au sens traditionnel. Une voix peut être associée à l’identité artistique et à la réputation d’un interprète, même lorsqu’aucun enregistrement précis n’a été copié. L’IA complique donc la distinction entre inspiration, imitation et appropriation d’une identité vocale. La réponse de YouTube consiste ici à donner aux partenaires de la musique une voie de retrait dédiée pour les imitations vocales synthétiques.

Les publicités politiques devront aussi être transparentes

Les règles ne visent pas uniquement les vidéos publiées par les créateurs. YouTube prévoit aussi de renforcer les obligations de divulgation pour les annonceurs. Dans les prochains mois, les publicités relatives aux élections, aux enjeux politiques ou aux sujets sociaux devront préciser si elles contiennent une image ou une vidéo photoréaliste, ou encore un son réaliste, créé ou modifié numériquement.

L’obligation s’applique lorsqu’une personne réelle est représentée en train de dire ou de faire quelque chose qu’elle n’a en réalité ni dit ni fait. Le principe est particulièrement important en période électorale, où quelques secondes de vidéo ou d’audio crédible peuvent suffire à propager une affirmation erronée.

YouTube disposait déjà de règles contre certains contenus manipulés par des moyens techniques. Cette nouvelle exigence cherche à rendre plus explicite le recours aux médias synthétiques dans les campagnes et publicités traitant de questions politiques ou sociales.

Ce qu’il faut surveiller

L’annonce de YouTube marque une étape dans la manière dont les grandes plateformes tentent d’encadrer l’IA générative. Le dispositif repose sur trois leviers complémentaires : l’information donnée aux spectateurs, la possibilité de retirer certains contenus et des sanctions pour les créateurs qui ne respectent pas leurs obligations.

Son efficacité dépendra d’abord de la clarté des consignes adressées aux créateurs. Ceux-ci devront pouvoir identifier les usages qui exigent une divulgation et ceux qui relèvent de simples outils de production. Elle dépendra ensuite de l’application des règles : des sanctions annoncées n’ont d’effet que si elles sont cohérentes, compréhensibles et suffisamment rapides face à la viralité des vidéos.

Enfin, YouTube devra maintenir un équilibre entre protection du public et espace de création. L’IA peut aider à réaliser, doubler ou transformer des vidéos de manière inventive. Mais lorsque ces capacités servent à fabriquer de faux témoignages, à imiter des artistes ou à mettre en scène des personnes réelles sans leur consentement, la transparence devient une condition essentielle de confiance.