Royaume-Uni : cinq ans de prison pour les outils d’IA destinés aux abus sexuels sur mineurs

Les générateurs d’images et les outils capables de modifier une photo ont élargi les possibilités de création numérique. Ils ont aussi donné aux auteurs d’infractions de nouveaux moyens de fabriquer des contenus criminels sans recourir à une prise de vue réelle. Face à ce risque, le gouvernement britannique a annoncé, le 31 janvier 2025, vouloir punir non seulement les images d’abus sexuels sur mineurs, déjà illégales, mais aussi certains outils d’intelligence artificielle conçus pour les produire.

La mesure la plus commentée prévoit une peine pouvant aller jusqu’à cinq ans de prison pour la création, la possession ou la diffusion de tels outils. Elle ne vise donc pas les logiciels d’IA en général, ni les usages ordinaires de générateurs de texte ou d’images. Elle cible des moyens explicitement destinés à faciliter la production de contenus d’abus sexuels sur mineurs.

Au 2 février 2025, il s’agit d’une annonce gouvernementale : le texte doit encore suivre le processus parlementaire britannique avant de devenir applicable. Cette nuance est importante, tout comme la distinction avec le règlement européen sur l’intelligence artificielle, l’AI Act, dont certaines dispositions entrent en application le même jour.

Ce que le Royaume-Uni veut rendre illégal

Le droit britannique réprime déjà la production, la possession et le partage d’images d’abus sexuels sur mineurs. Cela inclut les images créées ou modifiées avec des moyens numériques. Le projet annoncé cherche à intervenir plus tôt dans la chaîne des infractions : au niveau des outils spécialisés et des instructions qui permettent de les utiliser à des fins criminelles.

Selon les informations communiquées par le gouvernement, les nouvelles infractions envisagées se répartissent ainsi :

Le point central est l’intention associée au logiciel. Un modèle d’IA à usage général peut répondre à une grande variété de demandes et servir dans l’éducation, le travail ou la création. À l’inverse, un outil configuré, présenté ou distribué pour produire des contenus d’abus sexuels sur mineurs relève de l’objectif précis visé par l’annonce britannique.

Pourquoi viser l’outil, et pas seulement l’image produite ?

Dans le droit pénal, poursuivre la production ou la circulation d’un contenu illicite reste indispensable. Mais une enquête peut se heurter à plusieurs difficultés : les fichiers peuvent être supprimés, partagés depuis l’étranger, chiffrés ou produits en très grand nombre. En criminalisant aussi les outils spécialement dédiés à cette activité, les autorités espèrent pouvoir agir avant qu’un contenu soit fabriqué ou diffusé.

Cette logique existe déjà dans d’autres domaines : le droit peut sanctionner certains moyens préparatoires lorsqu’ils sont étroitement associés à un projet criminel. Pour l’IA, l’enjeu est de rédiger une infraction suffisamment précise. Une loi trop large risquerait d’englober des logiciels généralistes ou des travaux légitimes de recherche en sécurité. Une définition trop étroite laisserait au contraire des marges de contournement à des services présentés sous des appellations ambiguës.

La proposition britannique place donc au premier plan la destination de l’outil. Les enquêteurs et les tribunaux devraient notamment examiner sa conception, ses fonctionnalités, sa promotion et les circonstances de sa détention. C’est cette approche qui permet de distinguer un logiciel polyvalent d’un dispositif créé pour une infraction spécifique.

La secrétaire d’État à l’Intérieur, Yvette Cooper, a alerté sur le fait que des prédateurs pouvaient utiliser l’IA pour manipuler des enfants et faciliter des abus. Son intervention s’inscrit dans une préoccupation plus large : l’IA générative rend la fabrication d’images truquées plus accessible et plus rapide, y compris lorsque les victimes ne sont pas physiquement présentes devant une caméra.

Des manuels criminels également dans le viseur

L’annonce britannique ne se limite pas aux logiciels. Elle vise aussi des guides, parfois désignés comme des manuels, qui expliqueraient comment employer l’IA dans le but de commettre des abus sexuels sur mineurs. Leur possession pourrait être punie de trois ans de prison.

Le gouvernement prévoit une sanction plus lourde, jusqu’à dix ans de prison, pour l’administration de sites destinés à partager ces manuels. Cette dernière mesure répond à un élément essentiel de la diffusion en ligne : un document isolé peut être dangereux, mais une plateforme organisée peut permettre sa circulation à grande échelle, l’échange de méthodes et la mise en relation d’auteurs d’infractions.

Il faut ici corriger une confusion fréquente. La peine de dix ans annoncée ne concerne pas, dans la présentation du gouvernement, n’importe quel site contenant une image générée par IA. Elle concerne les sites conçus pour partager des guides criminels sur l’usage de ces outils. La diffusion d’images d’abus sexuels sur mineurs demeure, elle, déjà une infraction grave par les règles existantes.

Des pouvoirs de contrôle renforcés à la frontière

Autre volet annoncé : les autorités britanniques veulent étendre leurs capacités d’intervention à l’entrée du pays. Les agents chargés du contrôle aux frontières pourraient examiner et saisir les appareils d’une personne entrant au Royaume-Uni lorsqu’elle est soupçonnée de détenir des images d’abus sexuels sur mineurs.

L’objectif est d’éviter qu’un téléphone, un ordinateur ou un support de stockage ne permette de transporter des contenus illicites au-delà des frontières sans contrôle. Cette disposition ne crée pas un pouvoir de fouille généralisé de tous les appareils des voyageurs. Elle est présentée comme un outil utilisable en présence de soupçons liés à ce type d’infraction.

Ces contrôles soulèvent néanmoins une question de proportionnalité, commune à de nombreuses politiques de sécurité numérique : jusqu’où les pouvoirs d’inspection peuvent-ils aller tout en protégeant la vie privée des personnes qui ne sont impliquées dans aucune activité illégale ? Le cadre précis, les garanties procédurales et le contrôle de ces pouvoirs dépendront de la rédaction finale de la loi et de son examen par le Parlement.

L’AI Act européen est-il concerné ?

Le calendrier peut prêter à confusion. Le 2 février 2025, les premières interdictions de l’AI Act européen deviennent applicables. Ce règlement interdit certaines pratiques jugées inacceptables, comme des formes de manipulation subliminale, l’exploitation de vulnérabilités ou la notation sociale par les pouvoirs publics. Mais il ne constitue pas le fondement de l’infraction pénale annoncée par Londres.

Le Royaume-Uni ne fait plus partie de l’Union européenne et suit sa propre trajectoire réglementaire. L’AI Act peut toutefois concerner des entreprises situées hors de l’UE lorsqu’elles mettent des systèmes d’IA sur le marché européen ou que leurs usages produisent des effets dans l’Union. Son rôle est avant tout d’encadrer les systèmes d’IA, les obligations des fournisseurs et les pratiques interdites. Le dispositif britannique annoncé relève, lui, du droit pénal et de la lutte contre les abus sexuels sur mineurs.

Ce que cela change pour les plateformes et les créateurs d’IA

Les entreprises qui développent des modèles génératifs sont confrontées à un défi concret : empêcher le détournement de services conçus pour des usages légitimes. Plusieurs mécanismes peuvent contribuer à réduire ce risque, sans le supprimer entièrement : règles d’utilisation claires, systèmes de détection, signalement par les utilisateurs, modération humaine pour les cas les plus sensibles et coopération avec les autorités dans le cadre légal applicable.

La loi ne peut pas, à elle seule, faire disparaître les contenus illicites. Des outils peuvent être hébergés à l’étranger, circuler dans des réseaux fermés ou être modifiés. L’intérêt d’une infraction sur la possession d’un outil spécialisé est cependant de donner aux enquêteurs une base d’action supplémentaire lorsque le contenu final n’a pas encore été retrouvé ou lorsqu’il n’est pas possible d’identifier immédiatement une victime.

Pour les particuliers, le message juridique reste ciblé : les usages créatifs licites d’une IA ne sont pas assimilés à la détention d’un outil criminel. En revanche, transformer, fabriquer, rechercher ou diffuser des dispositifs destinés à produire des images d’abus sexuels sur mineurs expose à des conséquences pénales majeures lorsque le nouveau cadre sera adopté.

Les parents, les établissements scolaires et les plateformes ont aussi un rôle de prévention. Sans entrer dans la recherche ou le partage de contenus illicites, toute personne confrontée à une image suspecte impliquant un mineur doit éviter de la transférer ou de la sauvegarder et utiliser les canaux de signalement adaptés. La conservation ou la circulation d’un tel fichier peut aggraver le préjudice subi.

Ce qu’il faut surveiller

La première étape sera parlementaire. Au 2 février 2025, les peines de cinq, trois et dix ans appartiennent à un ensemble de mesures annoncées par le gouvernement britannique, et non à une loi déjà entrée en vigueur. Le calendrier d’examen, le texte exact des infractions et leur champ territorial devront donc être suivis avec attention.

Le deuxième enjeu concerne la précision des définitions. Pour être efficace, la loi devra permettre d’identifier les outils conçus pour commettre des abus sans pénaliser indistinctement les logiciels polyvalents, les chercheurs ou les entreprises qui développent des technologies légitimes. Cette frontière sera probablement au cœur des débats juridiques.

Enfin, cette initiative illustre une évolution plus générale de la réponse publique à l’IA générative. Les États ne s’intéressent plus uniquement aux contenus produits par les systèmes : ils cherchent aussi à réguler les conditions de conception, de mise à disposition et de détournement des outils. Dans les affaires qui touchent aux mineurs, l’objectif est clair : empêcher que la sophistication technologique ne fournisse une nouvelle facilité à des comportements déjà criminels.