Images d’abus d’enfants générées par IA : les autorités alertent sur un basculement

Le développement rapide des générateurs d’images ouvre des possibilités créatives réelles, mais il facilite aussi des usages criminels particulièrement graves. En octobre 2024, Europol et des acteurs de la protection de l’enfance alertent sur la progression d’images d’abus sexuels sur enfants créées à l’aide de l’intelligence artificielle. Pour les enquêteurs comme pour les plateformes, le défi ne tient pas seulement au caractère odieux de ces contenus : il tient aussi à leur production potentiellement rapide, à leur réalisme et à leur circulation difficile à enrayer.

Le terme le plus juste est celui d’images d’abus sexuels sur enfants. Il rappelle que le sujet n’est pas une catégorie de contenus comme une autre, mais une forme de violence et d’exploitation. L’expression ancienne « pédopornographie », encore présente dans certains textes et débats publics, peut minimiser cette réalité en suggérant à tort une forme de consentement.

Pourquoi l’alerte intervient-elle en octobre 2024 ?

L’organisme britannique Internet Watch Foundation, qui surveille et signale des contenus d’abus sexuels sur enfants en ligne, estime que la situation a atteint un « point de basculement ». Sa directrice générale, Susie Hargreaves, résume l’inquiétude de l’organisation par une formule sans ambiguïté : « Les pires cauchemars de l’organisation sont devenus réalité. »

Europol alerte également sur cette évolution. Les outils d’intelligence artificielle générative permettent en effet de créer des images inédites à partir d’instructions textuelles ou d’images de référence. Ils abaissent la barrière technique qui séparait jusqu’ici un internaute d’une production visuelle convaincante : il n’est plus nécessaire de maîtriser un logiciel de retouche avancé pour fabriquer ou modifier une image.

L’alerte porte autant sur la quantité que sur les capacités nouvelles de ces outils. La publication d’origine évoque l’apparition de milliers de nouvelles images chaque jour sur les plateformes numériques. Un chiffre de ce type doit être interprété avec prudence lorsqu’il n’est pas associé à une méthode de comptage publique et homogène : les espaces en ligne sont fragmentés, une même image peut être dupliquée, et les services de signalement ne voient pas tout. Mais il souligne une réalité opérationnelle, celle d’un volume qui peut excéder les capacités de vérification humaine.

Que recouvrent les images générées par IA liées à l’abus d’enfants ?

Il faut distinguer plusieurs situations, sans les hiérarchiser ni les banaliser. Certaines images peuvent être entièrement générées par un modèle. D’autres peuvent résulter d’une retouche ou d’une manipulation d’images existantes. Des technologies peuvent aussi être utilisées pour créer des représentations fictives de personnes ayant l’apparence d’un mineur.

Cette diversité compte pour les enquêteurs, car l’origine d’un fichier peut orienter une investigation. Une image peut contenir des indices techniques, être reliée à un compte, à un service ou à d’autres fichiers, ou au contraire avoir été modifiée de nombreuses fois. Pour autant, la distinction technique entre image « réelle » et image synthétique ne suffit pas à déterminer sa dangerosité ni son statut juridique.

L’alerte évoque aussi un risque particulièrement préoccupant : des générateurs d’images peuvent être formés à partir de bases de données incluant des images réelles d’abus. Ce point renvoie à la question plus large de la provenance des données d’entraînement. Lorsqu’un système absorbe des données illicites ou obtenues sans contrôle, il peut contribuer à prolonger une atteinte déjà commise, même si son résultat n’est pas une copie exacte d’une image source.

Les progrès du réalisme accroissent encore la difficulté. Plus une image paraît crédible, plus elle peut tromper un observateur, perturber l’évaluation initiale d’un signalement ou compliquer l’identification de victimes. Les outils d’IA peuvent ainsi servir à produire, transformer, mettre en scène ou diffuser plus facilement des contenus que le droit et les dispositifs de protection cherchent précisément à empêcher.

En France, que dit le droit sur les images fictives ou synthétiques ?

En France, l’article 227-23 du Code pénal encadre la fixation, l’enregistrement, la transmission, la diffusion et la détention d’images ou de représentations pornographiques de mineurs. Le texte s’applique aussi aux images ou représentations pornographiques d’une personne dont l’apparence physique est celle d’un mineur, sauf lorsqu’il est établi que cette personne avait au moins 18 ans au moment de la fixation ou de l’enregistrement de son image.

Autrement dit, l’argument selon lequel une image serait « fictive » ou créée par algorithme ne constitue pas, à lui seul, une immunité. L’analyse judiciaire dépend des faits précis, de la nature de la représentation, des actes reprochés et du contexte de diffusion ou de détention. Les sanctions prévues peuvent aller jusqu’à cinq ans d’emprisonnement dans les cas évoqués par la publication d’origine, avec des peines qui varient selon l’infraction et les circonstances.

Cette base légale est essentielle, mais elle ne résout pas mécaniquement toutes les difficultés. Les services concernés doivent identifier l’auteur d’un contenu, préserver des éléments de preuve, déterminer les services utilisés et coopérer avec des acteurs parfois établis dans plusieurs pays. L’évolution des techniques de génération ajoute une question pratique : comment qualifier rapidement un fichier, sans faire peser sur les victimes, les associations ou les enquêteurs une charge impossible à absorber ?

Pourquoi la modération devient-elle plus complexe

Les plateformes disposent déjà de moyens techniques pour repérer certaines images connues. Le hachage numérique, qui associe une empreinte à un fichier, permet par exemple de reconnaître une image déjà identifiée et de bloquer ses copies exactes. C’est un outil précieux, notamment pour empêcher la remise en circulation de contenus signalés.

Mais les contenus produits par IA posent un problème différent. Une image inédite n’a pas encore d’empreinte connue. Une légère retouche, un recadrage ou une nouvelle génération peuvent aussi empêcher une comparaison strictement identique. Les services doivent donc compléter les bases d’empreintes par des systèmes capables d’analyser des caractéristiques visuelles et par des équipes humaines spécialisées.

Ces outils ne sont pas infaillibles. Un dispositif trop permissif peut laisser passer des contenus graves. Un dispositif trop agressif peut signaler à tort des images légitimes, notamment dans des contextes éducatifs, médicaux ou de prévention. L’enjeu est de concevoir des procédures qui combinent automatisation, vérification humaine, possibilité de recours et transmission rapide des signalements qualifiés aux autorités compétentes.

Qui doit agir face à cette menace ?

La réponse ne peut pas reposer sur un seul acteur. Les fournisseurs de modèles et de services de génération ont un rôle de prévention à jouer dès la conception de leurs produits. Les plateformes d’hébergement et les réseaux sociaux doivent assurer une modération efficace, des mécanismes de signalement accessibles et une coopération avec les organismes compétents. Les autorités judiciaires et policières, de leur côté, ont besoin de moyens adaptés à des enquêtes techniques souvent internationales.

Les institutions internationales, dont les Nations unies, ont elles aussi mis en garde contre la façon dont l’essor de l’IA peut faciliter l’exploitation sexuelle des enfants. Leur message est celui d’une responsabilité partagée : la technologie n’est pas séparée de ses conditions d’accès, de conception et de diffusion. Les choix des entreprises, les règles imposées par les États et les ressources attribuées aux services de protection déterminent concrètement la capacité à prévenir les abus.

Quels réflexes pour les parents, les éducateurs et les internautes ?

La prévention ne consiste pas à faire peser la responsabilité sur les familles ou sur les enfants. Elle consiste d’abord à développer une culture numérique adaptée à l’âge, dans laquelle un enfant sait qu’il peut demander de l’aide sans être jugé. Les discussions sur les images truquées, les manipulations et les risques de partage peuvent être intégrées à l’éducation au numérique, sans montrer de contenus choquants.

Quelques principes simples peuvent guider les adultes :

• rappeler qu’aucune image intime ne doit être envoyée sous pression ou contre une promesse ;
• encourager un enfant à parler immédiatement s’il reçoit un contenu dérangeant ou une demande inhabituelle ;
• signaler les contenus ou comportements suspects via les canaux prévus, sans les recopier ni les diffuser ;
• éviter de transformer un cas suspect en publication sur les réseaux sociaux, ce qui peut gêner une enquête et amplifier la circulation du contenu.

L’information du public est également utile pour déjouer un autre piège : croire que l’IA rend toute image douteuse ou que rien ne peut être établi. Les techniques d’analyse évoluent, les enquêtes ne reposent pas sur une seule image et les services spécialisés travaillent aussi à partir de traces numériques, de signalements et de coopérations internationales. La complexité technique ne doit pas devenir un prétexte à l’inaction.

Ce qu’il faut surveiller

L’alerte lancée en octobre 2024 appelle une réponse durable plutôt qu’une réaction ponctuelle. Il faudra suivre la capacité des plateformes à empêcher la création et le partage de contenus illicites, l’efficacité des outils de détection face aux images nouvelles, ainsi que les moyens consacrés aux enquêteurs et aux associations spécialisées.

La question de la transparence sera tout aussi déterminante. Les entreprises qui développent des systèmes de génération devront pouvoir expliquer la nature de leurs garde-fous et la manière dont elles traitent les abus signalés. Les pouvoirs publics devront, eux, veiller à ce que l’application du droit reste suffisamment rapide et cohérente face à des services numériques mondialisés.

Le « point de basculement » décrit par les organisations de protection de l’enfance ne signifie pas que la lutte est perdue. Il rappelle en revanche qu’attendre que les outils se diffusent davantage avant d’agir laisserait aux réseaux d’exploitation un avantage considérable. Protéger les enfants suppose de traiter la sécurité comme une exigence de base de l’IA, et non comme une correction ajoutée après coup.