L’Europe veut interdire les contenus d’abus sexuels sur enfants générés par IA

Les outils d’intelligence artificielle capables de créer ou de modifier des images sont devenus plus accessibles, mais ils peuvent aussi être détournés pour produire des contenus criminels. Face à cette réalité, le Parlement européen défend une ligne claire : les contenus d’abus sexuels sur enfants générés par IA doivent être interdits sans exception, y compris lorsqu’ils ne sont pas partagés et sont conservés à titre personnel.

L’enjeu est juridique, technologique et humain. Ces contenus, souvent désignés par l’acronyme anglais CSAM, pour child sexual abuse material, ne sont pas une simple déclinaison des images de synthèse. Ils alimentent des pratiques d’exploitation, brouillent le travail des enquêteurs et peuvent causer un préjudice durable aux enfants concernés. Le débat européen porte donc autant sur la définition de l’infraction que sur les moyens concrets de détecter et poursuivre les auteurs.

Une hausse de 380 % qui alerte les autorités

L’Internet Watch Foundation, ou IWF, une organisation britannique spécialisée dans l’identification et le signalement de contenus pédocriminels en ligne, décrit une progression particulièrement rapide. Le premier cas confirmé de contenu d’abus sexuel sur enfant généré par IA a été signalé en 2023. En l’espace d’un an, les signalements ont augmenté de 380 %.

En 2024, l’organisation a documenté 245 incidents, soit plus de 7 600 images et vidéos. Ces chiffres ne mesurent pas l’ensemble des contenus circulant sur Internet. Ils reflètent les cas repérés et traités par l’IWF. Ils donnent néanmoins la mesure d’un phénomène dont la détection reste difficile et dont la production peut être accélérée par les outils génératifs.

Le terme CSAM est employé par les acteurs de la protection de l’enfance plutôt que l’expression « pornographie infantile ». Cette dernière peut donner l’impression trompeuse d’un contenu de divertissement ou de consentement, alors qu’il s’agit d’images liées à des abus et à l’exploitation sexuelle d’enfants.

Pourquoi l’IA aggrave-t-elle le problème ?

Les modèles de génération d’images à partir de texte, les outils de retouche automatisée et les applications dites de « nudification » abaissent les barrières techniques. Là où la création ou l’altération d’une image nécessitait auparavant des compétences précises, certains services promettent désormais des résultats automatisés. Les systèmes les plus performants peuvent aussi produire des vidéos d’apparence réaliste.

Ce changement ne signifie pas que la technologie est, par nature, criminelle. Les mêmes familles d’outils servent à la création graphique, à l’éducation ou à la recherche. Mais leur détournement par des délinquants pose un défi particulier : le volume potentiel de contenus augmente, tandis que la frontière visuelle entre une image artificielle et une preuve d’abus réel peut devenir moins évidente.

Dan Sexton, directeur technique de l’IWF, souligne que ces technologies sont exploitées pour infliger de véritables traumatismes aux enfants. Cette affirmation rappelle un point essentiel du débat : le caractère synthétique d’un fichier ne permet pas d’écarter automatiquement les conséquences pour les victimes. Une image peut par exemple être fabriquée à partir de photographies existantes, viser une personne identifiable ou circuler dans des espaces où des abus sont encouragés.

La répartition des contenus signalés montre aussi une forte dimension genrée. Selon l’IWF, environ 98 % des contenus synthétiques examinés représentent des jeunes filles, contre 97 % pour l’ensemble des contenus d’abus sexuels sur enfants. L’écart paraît limité, mais il confirme une tendance déjà très marquée dans les contenus illégaux repérés.

Ce que le Parlement européen veut inscrire dans la loi

La réponse défendue par le Parlement européen s’inscrit dans les discussions autour de la directive sur les abus sexuels sur enfants, souvent désignée par l’acronyme CSAD. L’objectif est de faire reconnaître explicitement les contenus générés par IA dans le champ des infractions, afin qu’ils ne puissent pas échapper au droit au motif qu’ils sont synthétiques.

La position parlementaire vise une criminalisation complète du CSAM généré par IA. Elle englobe notamment sa création et sa diffusion, mais aussi sa possession, y compris lorsqu’une personne affirme conserver ces fichiers pour son seul usage personnel. Pour les eurodéputés qui défendent cette approche, une telle exception créerait une incohérence majeure : elle laisserait subsister une demande privée susceptible d’alimenter la production et la circulation de contenus abusifs.

L’enjeu ne se limite pas aux fichiers déjà créés. L’IWF et ses partenaires demandent également une interdiction à l’échelle européenne des guides, instructions et modèles destinés à produire ce type de matériel. La demande porte enfin sur un renforcement de la coopération entre services répressifs et sur davantage de soutien aux victimes et survivants.

À la date du 10 juillet 2025, il s’agit d’une position politique défendue dans une négociation européenne, et non d’une règle définitive déjà entrée en application dans tous les États membres. Le texte final dépendra de l’accord à trouver entre les institutions européennes.

La faille redoutée dans le projet du Conseil de l’UE

Le point de friction principal concerne la possession à titre personnel. Le projet discuté au Conseil de l’Union européenne est critiqué parce qu’il envisagerait de permettre la détention d’images générées par IA lorsqu’elles sont destinées à un usage privé. Pour l’IWF et les organisations mobilisées sur le sujet, cette possibilité constituerait une faille préoccupante.

Le débat peut sembler technique, mais il concerne la cohérence même de la loi. Si la production et la diffusion sont interdites, tout en laissant un espace légal à la détention personnelle, les enquêteurs pourraient se heurter à une distinction difficile à vérifier. La qualification des faits dépendrait alors de l’intention déclarée par le détenteur et de la capacité à démontrer qu’un fichier a été partagé ou devait l’être.

Les défenseurs d’une interdiction complète estiment au contraire qu’il n’existe pas de matériel d’abus inoffensif. Leur raisonnement est qu’un régime d’exception risquerait de normaliser la consommation de contenus sexualisant des enfants, y compris lorsqu’ils sont générés artificiellement. C’est sur ce point précis que le Parlement européen cherche à obtenir une position plus stricte dans le texte final.

Détecter sans confondre les preuves et les contenus synthétiques

L’essor des contenus générés par IA complique le travail des plateformes, des organisations de signalement et des forces de l’ordre. Lorsqu’une image paraît réaliste, il faut déterminer si elle provient d’un abus réel, si elle a été modifiée ou si elle a été produite de toutes pièces. Cette question est décisive : un contenu artificiel ne doit pas conduire à négliger la possibilité qu’un enfant ait été victime, qu’il soit identifiable ou qu’une image réelle ait servi de base.

Les outils de détection peuvent aider, mais ils ne résolvent pas tout. Les systèmes de comparaison de fichiers sont efficaces pour retrouver des contenus déjà connus. Ils le sont moins face à des images nouvelles, légèrement modifiées ou créées à la demande. Les signaux techniques associés à la génération par IA peuvent également évoluer à mesure que les modèles progressent.

C’est pourquoi les appels de l’IWF portent sur des méthodes de détection robustes et sur une coopération transfrontalière renforcée. Les contenus circulent souvent entre plusieurs pays, sur des services différents et à un rythme rapide. Une réponse fragmentée laisserait aux auteurs la possibilité de déplacer leurs activités d’une juridiction à l’autre.

La prudence est tout aussi importante pour les enquêteurs. Classer trop vite une image comme synthétique pourrait retarder l’identification d’une victime réelle. À l’inverse, considérer systématiquement qu’un fichier réaliste atteste d’un abus avéré peut mobiliser inutilement des ressources déjà limitées. La formation, le partage d’expertise et la conservation rigoureuse des éléments numériques deviennent donc des enjeux majeurs.

Une catégorie de gravité très représentée

L’IWF relève un autre élément particulièrement préoccupant : près de 40 % des contenus d’abus sexuels sur enfants générés par IA qu’elle a étudiés relèvent de la catégorie A de la classification britannique, soit le niveau le plus grave. Cette part est presque deux fois supérieure à celle observée dans les contenus d’abus traditionnels, selon l’organisation.

Ce constat ne permet pas, à lui seul, de décrire l’ensemble du phénomène mondial. Il montre toutefois que la génération synthétique n’est pas cantonnée à des contenus présentés comme moins réalistes ou moins sévères. Les auteurs peuvent se servir de ces outils pour produire des fichiers relevant des formes les plus graves de matériel illégal.

La réponse ne peut donc pas reposer uniquement sur le retrait de contenus après signalement. La prévention, les règles applicables aux services numériques, l’enquête judiciaire et l’accompagnement des victimes doivent être pensés ensemble. Les entreprises qui développent ou distribuent des outils génératifs sont également concernées par les choix de conception, les garde-fous et les mécanismes de signalement qu’elles mettent en place.

Ce qu’il faut surveiller dans les négociations européennes

Les discussions sur la directive CSAD devront d’abord clarifier le périmètre de l’infraction. La question centrale est simple dans son principe, mais délicate dans sa rédaction : la loi couvrira-t-elle explicitement toutes les formes de contenus d’abus sexuels sur enfants générés ou modifiés par IA, sans créer d’exception pour la possession privée ?

Plusieurs autres éléments seront déterminants :

• la définition juridique des images et vidéos synthétiques ou manipulées ;
• l’interdiction éventuelle des outils, guides et modèles conçus pour produire ces contenus ;
• les obligations de coopération entre États membres, plateformes et services d’enquête ;
• les moyens consacrés à la détection, à l’identification des victimes et au soutien des survivants.

Le défi est de construire une règle suffisamment précise pour être appliquée par les tribunaux, tout en restant assez robuste pour suivre l’évolution rapide des outils d’IA. Pour le Parlement européen et l’IWF, ne pas inclure explicitement le CSAM synthétique dans le droit pénal européen laisserait une zone grise dangereuse. Les négociations en cours diront si l’Union européenne choisit de fermer cette faille sans réserve.