Royaume-Uni : l’IA générative dans le viseur contre les abus sexuels sur enfants

L’intelligence artificielle générative a rendu la création et la modification d’images beaucoup plus accessibles. Cette évolution a aussi ouvert une voie supplémentaire aux auteurs d’abus sexuels sur mineurs, qui peuvent fabriquer des images trompeuses à partir de photographies ordinaires ou produire de faux contenus de toutes pièces. Au 2 février 2025, le gouvernement britannique annonce vouloir répondre à cette menace par le droit pénal, en s’attaquant non seulement aux images illégales, mais aussi à certains outils numériques conçus pour les générer.

L’enjeu est double. Il s’agit d’empêcher la diffusion de contenus qui causent un préjudice réel aux enfants représentés ou ciblés, y compris lorsqu’une image a été manipulée, tout en tenter de fermer une faille juridique liée à la disponibilité de logiciels et de guides spécialisés. L’annonce ne signifie pas que l’IA serait, en elle-même, mise hors la loi : elle vise des usages et des outils spécifiquement pensés pour faciliter la production d’images d’abus sexuels sur enfants.

Le Royaume-Uni veut viser les outils conçus pour générer des contenus illicites

La mesure annoncée par le ministère de l’Intérieur britannique prévoit de rendre illégale la création, la possession et la diffusion d’outils d’IA conçus pour générer des images d’abus sexuels sur enfants. Les personnes reconnues coupables de ces faits pourraient encourir jusqu’à cinq ans d’emprisonnement.

Le choix de s’attaquer aux outils en amont répond à une difficulté propre aux technologies génératives. Dans les infractions traditionnelles, le droit réprime la production, la détention et la diffusion du contenu illégal. Or, des services ou programmes peuvent être configurés, promus ou distribués précisément pour permettre à leurs utilisateurs de produire de tels contenus. Le projet britannique cherche donc à traiter cet équipement spécialisé comme un élément de la chaîne de l’infraction.

Les autorités veulent également interdire les manuels, parfois qualifiés de guides d’usage, expliquant comment employer l’IA à des fins d’abus sexuels sur enfants. La peine maximale annoncée pour la fabrication, la fourniture ou la possession de ces guides est de trois ans de prison.

La formulation exacte des infractions, les critères permettant d’établir la finalité d’un outil et les modalités d’application dépendront du processus législatif. Au stade de l’annonce, le gouvernement britannique présente ces dispositions comme un moyen de combler une lacune face à des services numériques dédiés à la création de contenus criminels.

Pourquoi les images générées par IA inquiètent-elles autant ?

Les chiffres de l’Internet Watch Foundation, une organisation britannique spécialisée dans le repérage des images d’abus sexuels sur enfants en ligne, illustrent l’accélération du phénomène. L’organisation a enregistré 245 signalements confirmés en 2024, contre 51 en 2023. Le nombre de cas identifiés a donc été multiplié par plus de quatre en un an.

L’IWF a également signalé avoir trouvé 3 512 images générées par IA sur un seul site du dark web, sur une période de 30 jours. Ce chiffre ne permet pas, à lui seul, de mesurer l’ensemble du phénomène mondial ni d’établir le nombre de victimes concernées. Il montre toutefois la capacité de certains espaces en ligne à agréger rapidement de très grandes quantités de contenus.

Le terme d’images générées par IA recouvre plusieurs réalités. Certaines images peuvent être entièrement synthétiques. D’autres reposent sur le détournement d’une photographie authentique, par exemple une image prise dans un contexte familial, scolaire ou sportif. Des outils de retouche automatisée peuvent alors placer un visage dans une scène inappropriée ou modifier une image réelle pour la sexualiser.

Cette possibilité de partir de photographies banales accentue le risque pour les mineurs. Un enfant n’a pas besoin d’avoir lui-même créé ou partagé une image intime pour être ciblé. Une photo de profil, une image publique ou un cliché transmis dans un cercle privé peut, selon les cas, être récupéré et détourné par un auteur malveillant.

En quoi l’IA change-t-elle la nature de la menace ?

L’IA ne crée pas la pédocriminalité en ligne, qui existait bien avant les modèles génératifs. Elle peut en revanche réduire le temps, les compétences techniques et les moyens nécessaires pour fabriquer des contenus truqués. Les générateurs d’images, les outils de montage automatisé et les systèmes de clonage vocal peuvent rendre un faux plus facile à produire et, parfois, plus crédible aux yeux de l’entourage de la victime.

La menace ne se limite donc pas à la diffusion publique d’images. Elle peut aussi alimenter des mécanismes de harcèlement, de chantage ou de sextorsion. Dans ce dernier cas, une personne menace de partager une image intime réelle ou fabriquée afin d’obtenir de l’argent, d’autres images ou le silence de sa victime. Chez les adolescents, la peur que les proches ne reconnaissent pas immédiatement un faux peut devenir un levier particulièrement puissant.

Le préjudice est réel même lorsque l’image est artificielle. La victime peut avoir le sentiment de perdre le contrôle de son identité, craindre que les contenus circulent durablement et redouter le regard de ses amis, de son établissement scolaire ou de sa famille. Pour les parents, la dimension technique ajoute souvent un sentiment de désarroi : il est difficile d’identifier l’origine d’un montage, d’en évaluer la diffusion et de savoir à quels interlocuteurs signaler la situation.

L’usage de voix clonées pose un problème voisin. Une voix d’enfant peut être imitée et insérée dans un scénario trompeur ou traumatisant. Là encore, le caractère synthétique de l’enregistrement ne fait pas disparaître les conséquences pour la personne ciblée et ses proches.

Interdire les outils ne remplace pas la détection des contenus

L’annonce britannique concerne avant tout les moyens de production. Elle ne doit pas être confondue avec un dispositif public qui utiliserait une IA pour analyser toutes les communications ou tous les appareils. Les deux approches répondent à des objectifs différents.

La lutte contre les images d’abus sexuels sur enfants repose déjà sur plusieurs maillons : le signalement par les internautes, la modération des plateformes, le travail d’organisations spécialisées, les enquêtes des forces de l’ordre et la coopération entre services numériques et autorités compétentes. Des outils automatisés peuvent aider à prioriser des signalements ou à repérer des contenus connus, mais ils ne constituent pas une réponse autonome.

Dans le cas des images générées par IA, le défi est renforcé par l’absence possible d’image d’origine connue. Les systèmes de détection doivent alors repérer des indices visuels ou des schémas de diffusion, tout en limitant les erreurs. Une automatisation mal calibrée peut produire des faux positifs, c’est-à-dire signaler à tort un contenu légal, ou manquer certains contenus criminels. L’intervention humaine, la procédure judiciaire et la protection des droits fondamentaux restent donc essentielles.

Que peuvent faire les familles et les plateformes ?

La prévention ne consiste pas à faire porter aux enfants la responsabilité des actes commis par des adultes ou par d’autres adolescents. Elle peut néanmoins réduire l’isolement des victimes. Un mineur doit savoir qu’il peut parler sans être jugé s’il découvre une image truquée le concernant, s’il reçoit une menace ou si une personne lui demande des contenus intimes.

Face à un contenu suspect ou à une tentative de chantage, la priorité est d’éviter toute nouvelle diffusion. Il est préférable de ne pas repartager l’image, de conserver les éléments utiles au signalement sans les faire circuler, puis d’alerter la plateforme concernée et les autorités compétentes. Dans une situation de danger immédiat, le recours aux services d’urgence reste nécessaire.

Les plateformes ont, elles aussi, un rôle déterminant. Les services proposant de créer ou de modifier des images peuvent prévoir des garde-fous techniques, des règles d’usage explicites, des moyens de signalement et une réaction rapide aux abus. Les acteurs qui hébergent ou diffusent des contenus doivent pouvoir retirer les contenus illégaux et coopérer avec les enquêtes dans le cadre prévu par la loi.

La question dépasse par ailleurs les seuls très grands services. Certains outils peuvent être distribués dans des communautés fermées, sur des sites spécialisés ou via des réseaux difficiles à surveiller. C’est précisément ce que cherche à prendre en compte la volonté britannique de sanctionner les outils et les guides conçus pour ces usages.

Une réponse juridique qui pose aussi des questions de mise en œuvre

Réprimer les outils dédiés peut compliquer l’accès à certains moyens de production, mais l’efficacité dépendra de l’application concrète de la loi. Il faudra notamment pouvoir distinguer les logiciels généralistes des outils explicitement conçus ou présentés pour fabriquer des images d’abus sexuels sur enfants. Cette distinction est importante pour éviter qu’une incrimination très large ne concerne des usages légitimes de technologies d’édition d’images.

La coopération internationale sera également décisive. Les contenus, les services et les utilisateurs peuvent être répartis entre plusieurs pays, tandis que les sites illicites peuvent changer rapidement d’hébergement ou de nom de domaine. Une loi nationale peut renforcer les capacités d’enquête et de poursuite, mais elle ne supprime pas à elle seule l’infrastructure transfrontalière de ces réseaux.

Le gouvernement britannique souligne vouloir faire de la protection des enfants une priorité, y compris dans un contexte où le pays souhaite soutenir l’innovation en intelligence artificielle. Ce double objectif résume le débat : favoriser des technologies utiles sans laisser se développer des outils explicitement conçus pour nuire.

Ce qu’il faut surveiller

Les prochaines étapes seront législatives. Il faudra suivre la présentation du texte, son examen par le Parlement britannique et la définition précise des comportements interdits. Les sanctions annoncées donnent une indication claire de la gravité accordée par le gouvernement à ces faits, mais leur effet réel dépendra aussi des moyens d’enquête, de la coopération des plateformes et de la capacité à agir contre les services opérant depuis l’étranger.

La hausse constatée par l’Internet Watch Foundation rappelle surtout que l’IA générative n’est pas un sujet abstrait de politique technologique. Lorsqu’elle est détournée pour produire des images d’abus sexuels sur enfants, elle devient un enjeu immédiat de protection de l’enfance, de sécurité numérique et de justice pénale.