Images d’abus sexuels sur enfants créées par IA : l’alerte de l’IWF

Les images synthétiques ont longtemps été perçues comme plus faciles à repérer que des photographies. Ce repère s’effrite. Dans son rapport annuel publié en 2025 sur les données de 2024, l’Internet Watch Foundation, ou IWF, alerte sur une progression rapide des contenus d’abus sexuels sur enfants créés à l’aide de l’intelligence artificielle. L’organisme britannique estime que ces images sont devenues « significativement plus réalistes », au point de compliquer le travail de ses analystes spécialisés.

L’enjeu ne se résume pas à une évolution technique. La multiplication de ces contenus augmente la pression sur les plateformes, les services de signalement et les enquêteurs. Elle nourrit aussi un marché criminel qui exploite les possibilités de génération d’images, alors même que les moyens de détection doivent suivre un rythme d’innovation très rapide.

Une hausse de 380 % des signalements en un an

En 2024, l’IWF a reçu 245 signalements concernant des contenus d’abus sexuels sur enfants générés par IA. Un an plus tôt, l’organisme en avait recensé 51. Cela représente une hausse de 380 %.

Ces chiffres doivent être lus avec précision. Un signalement peut renvoyer vers une adresse en ligne, ou URL, qui contient plusieurs fichiers. Les 245 signalements identifiés par l’IWF correspondaient ainsi à 7 644 images et à un nombre limité de vidéos. Ils ne constituent donc pas un décompte global de tout ce qui circule sur internet, mais ils témoignent d’un phénomène que l’organisme juge en nette accélération.

Pourquoi le réalisme accru de l’IA pose un problème particulier

Les générateurs d’images reposent sur des modèles capables de produire un visuel à partir d’une instruction ou de transformer une image existante. Plus ces systèmes deviennent performants pour reproduire des détails, des textures, des éclairages ou des proportions crédibles, plus la distinction entre contenu synthétique et contenu photographique devient difficile.

L’IWF souligne que même ses analystes formés rencontrent désormais des difficultés à différencier certaines images ou vidéos générées par IA de contenus réels. Cette évolution est préoccupante pour plusieurs raisons.

D’abord, l’identification rapide d’un contenu facilite son retrait et son signalement aux autorités compétentes. Lorsqu’une image paraît authentique, les équipes de modération doivent mener des vérifications supplémentaires, dans un domaine où chaque délai compte. Ensuite, la sophistication des images peut rendre les tentatives de contournement des outils automatisés plus efficaces. Enfin, l’incertitude sur l’origine d’un fichier ne diminue en rien la nécessité de le traiter comme un contenu potentiellement criminel lorsqu’il représente un abus sur enfant.

Il est important de ne pas confondre deux réalités. Une image générée artificiellement n’est pas nécessairement liée à la captation d’un abus réel. Mais sa fabrication, sa diffusion et son emploi peuvent participer à des comportements criminels, normaliser des représentations interdites et compliquer les enquêtes. Le rapport de l’IWF porte précisément sur des contenus considérés comme illicites, pas sur la génération d’images par IA dans son ensemble.

Ce que recouvre la catégorie A dans le rapport

Parmi les contenus générés par IA recensés, 39 % relevaient de la catégorie A. Dans la classification utilisée par l’IWF, cette catégorie correspond aux contenus les plus graves, notamment ceux représentant des actes sexuels avec pénétration impliquant des enfants.

Ce pourcentage montre que la question ne porte pas uniquement sur des images ambiguës ou des détournements isolés. La part de contenus les plus graves dans les dossiers analysés par l’organisme britannique est élevée. C’est l’une des raisons pour lesquelles l’IWF, les associations de protection de l’enfance et les autorités insistent sur l’adaptation des lois et des dispositifs de sécurité en ligne.

La classification a également une fonction opérationnelle. Elle aide les équipes spécialisées à prioriser les cas les plus urgents, à organiser le retrait des contenus et à transmettre les éléments nécessaires aux services compétents. Dans ce contexte, la capacité de l’IA à générer rapidement de nombreuses variantes d’une même image constitue un défi supplémentaire.

Des contenus désormais visibles sur le web ouvert

L’un des constats les plus marquants de l’IWF concerne le lieu de diffusion. Les contenus générés par IA ne circulent pas seulement dans des espaces difficiles d’accès ou associés au dark web. L’organisme observe leur présence croissante sur le web ouvert, c’est-à-dire sur des services et sites accessibles par des moyens ordinaires.

Cette précision ne signifie pas que ces contenus sont visibles partout ni qu’ils apparaissent nécessairement dans les résultats des moteurs de recherche. Elle signifie toutefois que le problème ne peut pas être traité comme une menace confinée à des réseaux clandestins. Les plateformes de toutes tailles, y compris celles qui ne disposent pas de grandes équipes de modération, peuvent être concernées.

Cette diffusion plus accessible augmente aussi le risque d’exposition accidentelle et complique la surveillance. Une plateforme peut devoir réagir rapidement à un contenu publié par un utilisateur, tout en préservant les éléments utiles aux autorités et en évitant toute nouvelle circulation du fichier. La rapidité de retrait reste essentielle, mais elle doit s’inscrire dans une procédure rigoureuse.

Le Royaume-Uni veut combler une lacune juridique

Face à cette évolution, le gouvernement britannique a annoncé en février 2025 des mesures législatives visant les outils d’IA conçus pour produire du matériel d’abus sexuel sur enfants. L’objectif annoncé est de rendre illégales la création, la possession et la diffusion de tels outils.

La mesure vise un point précis : ne pas se limiter à sanctionner les images diffusées, mais s’attaquer aussi à certains moyens techniques explicitement conçus pour les produire. Selon le gouvernement, cette réponse doit combler une lacune qui inquiétait les forces de l’ordre et les acteurs de la protection de l’enfance.

En avril 2025, il faut toutefois distinguer une annonce gouvernementale d’une règle déjà pleinement entrée en vigueur. L’orientation politique est claire, mais l’efficacité concrète dépendra du contenu final des textes, de leur application et de la capacité des autorités à agir contre des services parfois hébergés hors du Royaume-Uni.

Peter Kyle, secrétaire britannique à la technologie, a également cité la progression des contenus créés par IA et de la sextorsion parmi les menaces qui évoluent en ligne. La sextorsion désigne un chantage reposant sur des images intimes ou prétendument intimes. Elle peut viser des mineurs et exploiter la peur, la honte ou l’isolement des victimes.

Image Intercept, un outil pour les petites plateformes

L’IWF a récemment mis à disposition des petites plateformes un outil gratuit baptisé Image Intercept. Son rôle est de les aider à détecter et à bloquer des images figurant dans une base de données de 2,8 millions d’images reconnues comme criminelles.

Pour les services disposant de moyens limités, l’intérêt est concret. Les grandes plateformes ont souvent des équipes, des infrastructures et des systèmes de détection internes. Les plus petites structures, elles, peuvent manquer de ressources pour filtrer efficacement des volumes importants de fichiers mis en ligne par leurs utilisateurs. L’outil proposé par l’IWF doit donc contribuer à réduire cet écart.

Derek Ray-Hill, directeur général par intérim de l’IWF, a présenté cette mise à disposition gratuite comme une étape importante pour la sécurité en ligne. Image Intercept est aussi pensé pour aider les plateformes à répondre aux exigences de sécurité en ligne qui se renforcent au Royaume-Uni.

La limite est essentielle à comprendre. Les outils de correspondance sont efficaces lorsqu’un fichier, ou une version proche, est déjà répertorié. Or, des images synthétiques peuvent être créées en grand nombre et modifiées rapidement. La lutte contre leur diffusion repose donc sur plusieurs couches de protection : détection technique, modération humaine, signalements, coopération avec les autorités et cadre juridique.

Que faire face à un contenu suspect en ligne ?

Un internaute confronté à un contenu susceptible de représenter un abus sexuel sur enfant ne doit ni le télécharger, ni l’enregistrer, ni le partager, y compris dans l’intention de dénoncer son existence. Multiplier les copies prolonge la circulation du contenu et peut nuire aux procédures de retrait.

La bonne démarche consiste à utiliser le mécanisme de signalement de la plateforme concernée et à transmettre l’adresse du contenu ou du compte sans reproduire l’image. En France, les contenus manifestement illicites peuvent aussi être signalés via les canaux publics prévus à cet effet, notamment la plateforme PHAROS. Si un enfant semble en danger immédiat, il faut contacter sans attendre les services d’urgence compétents.

Les parents et les éducateurs peuvent également rappeler quelques principes simples aux jeunes : ne pas céder à un chantage, ne pas envoyer de contenu intime sous pression, conserver les éléments utiles sans les repartager, et demander rapidement l’aide d’un adulte de confiance ou d’un service spécialisé. Dans les cas de sextorsion, l’isolement est l’un des principaux leviers des auteurs de chantage.

Ce qu’il faut surveiller dans les prochains mois

Les données de l’IWF montrent une tendance qui mérite une attention durable : les contenus illicites générés par IA deviennent plus nombreux, plus crédibles et plus accessibles. Les chiffres de 2024 serviront de point de comparaison pour mesurer si les réponses techniques et juridiques parviennent à freiner le phénomène.

Plusieurs questions resteront déterminantes. Les plateformes adopteront-elles largement des outils adaptés, y compris les plus petites d’entre elles ? Les dispositifs de détection pourront-ils suivre la création de contenus inédits ? Les lois annoncées au Royaume-Uni seront-elles suffisamment précises pour viser les outils criminels sans englober des usages légitimes de l’IA ? Et les équipes chargées de l’analyse disposeront-elles des moyens nécessaires pour traiter des volumes croissants de signalements ?

La technologie ne remplace pas la vigilance humaine, mais elle peut renforcer la prévention lorsqu’elle est déployée avec des règles claires. C’est tout l’enjeu soulevé par l’IWF : faire en sorte que les progrès de l’IA ne deviennent pas un avantage durable pour les auteurs d’infractions, mais un domaine où plateformes, autorités et acteurs de la protection de l’enfance peuvent réagir plus vite.