IA, sextorsion et fraude : la police britannique alerte sur une criminalité transformée

L’intelligence artificielle n’a pas créé la fraude, le chantage sexuel ou l’exploitation des enfants. Elle change toutefois l’échelle, le coût et la crédibilité de ces infractions. Une image manipulée, une voix imitée ou un message rédigé dans un style convaincant peuvent aujourd’hui être produits beaucoup plus vite qu’auparavant. Pour les victimes, la différence est essentielle : le doute devient plus difficile à lever et la pression psychologique peut être immédiate.

Le 24 novembre 2024, Alex Murray, responsable de la police britannique, a alerté sur cette évolution. Selon lui, les criminels, qu’il s’agisse d’escrocs, de pirates informatiques ou d’auteurs d’infractions sexuelles contre des mineurs, s’approprient des outils d’IA pour perfectionner leurs méthodes. Les autorités doivent suivre une technologie dont les capacités progressent rapidement, alors que les services utilisés peuvent être accessibles depuis n’importe quel pays et exploités aussi bien par des groupes organisés que par des individus isolés.

L’enjeu ne consiste pas à attribuer chaque délit à l’IA. Il consiste à comprendre ce que ces systèmes rendent plus simple : créer des contenus factices, automatiser des démarches, personnaliser une approche frauduleuse et donner une apparence de réalité à une imposture.

Pourquoi l’IA rend-elle certaines fraudes plus convaincantes ?

Les outils génératifs savent produire du texte, modifier des images, créer des vidéos artificielles et synthétiser une voix. Ils ne donnent pas nécessairement naissance à une supercherie parfaite. Mais, dans une situation d’urgence, un contenu suffisamment plausible peut suffire à déclencher une erreur.

C’est le cas des deepfakes, ces contenus audio ou vidéo fabriqués ou modifiés pour imiter une personne. Dans le cadre professionnel, un fraudeur peut chercher à se faire passer pour un dirigeant ou un collègue et réclamer un virement au nom d’une opération prétendument urgente. Le mécanisme de base est ancien, il repose sur l’usurpation d’identité et l’ingénierie sociale, c’est-à-dire la manipulation d’une personne pour lui faire accomplir une action. L’IA ajoute une couche de réalisme à cette manipulation.

Alex Murray a notamment évoqué le cas d’un employé d’une société multinationale manipulé afin de transférer aux fraudeurs l’équivalent de 20 millions de livres sterling. Un montant de cette ampleur rappelle qu’une vérification ordinaire, par exemple un appel vers un numéro connu ou la validation par plusieurs responsables, peut devenir décisive.

La sextorsion change de visage avec les images générées

La sextorsion est un chantage fondé sur des images ou des vidéos intimes, réelles ou prétendues telles. L’auteur menace de les diffuser à la famille, aux amis, aux collègues ou sur les réseaux sociaux si la victime ne paie pas ou ne se soumet pas à d’autres exigences. Cette violence peut toucher des adultes comme des adolescents.

L’IA modifie profondément le point de départ du chantage. Par le passé, le maître chanteur devait souvent disposer d’une image intime obtenue par piratage, tromperie ou échange privé. Désormais, des photographies ordinaires publiées sur les réseaux sociaux peuvent être détournées. Un visage peut être intégré à une image fabriquée, ou une photo existante peut être manipulée pour sembler compromettante.

Le caractère artificiel du contenu ne supprime pas le préjudice. La victime peut craindre que ses proches ne fassent pas la différence, ressentir honte et isolement, ou céder sous la pression de l’urgence. Les auteurs exploitent précisément cette réaction. Ils cherchent à empêcher toute réflexion en imposant des délais très courts et en répétant que la diffusion serait imminente.

La conduite la plus prudente est de ne pas payer et de ne pas négocier. Un paiement ne garantit ni la suppression des fichiers ni la fin des demandes. Il peut au contraire confirmer au maître chanteur qu’il a trouvé une cible susceptible de céder. Il faut conserver les messages, les identifiants de comptes et les éléments utiles au signalement, sans repartager les images, puis interrompre les échanges et demander de l’aide à un proche, à une plateforme et aux autorités compétentes.

Pour un mineur, l’intervention rapide d’un adulte de confiance est particulièrement importante. La peur d’être jugé est un levier fréquent du chantage. Rappeler clairement à l’enfant ou à l’adolescent qu’il n’est pas responsable de l’infraction peut l’aider à parler plus tôt.

Des contenus d’abus sexuels d’enfants générés à la demande

Le point le plus alarmant de l’alerte d’Alex Murray concerne l’exploitation sexuelle des enfants. Il a déclaré que la majorité des images d’abus sexuels de mineurs étaient désormais générées par des algorithmes d’IA. Ces contenus, même lorsqu’ils ne représentent pas un enfant réel identifiable, nourrissent des pratiques criminelles et s’inscrivent dans des réseaux d’échange en ligne.

Cette réalité soulève une difficulté essentielle. L’absence éventuelle d’une photographie prise lors d’une agression ne rend pas le contenu anodin. La création et la circulation de représentations sexualisées d’enfants participent à un environnement d’exploitation. Elles peuvent être produites à la demande, avec une facilité et un volume qui inquiètent les services chargés de la protection de l’enfance.

Le cas de Hugh Nelson, Britannique de 27 ans, illustre cette évolution. Il a été condamné à 18 ans de prison pour avoir proposé des services de génération d’images abusives. Cette affaire souligne que l’outil technique ne change pas la nature de l’infraction ni la gravité des faits. Chaque image produite enfreint la législation destinée à protéger les enfants.

Les plateformes, les fournisseurs de technologies, les enquêteurs et les associations de protection de l’enfance sont confrontés à un défi simultané : détecter les contenus, empêcher leur diffusion, identifier les auteurs et protéger les victimes. La coopération internationale devient indispensable, car ces services, leurs utilisateurs et leurs infrastructures ne s’arrêtent pas aux frontières nationales.

Des outils accessibles, des infractions mondialisées

L’alerte britannique ne porte pas uniquement sur les images ou les arnaques financières. Alex Murray estime que la criminalité liée à l’IA se concentre principalement sur l’exploitation des enfants et les fraudes, mais que les risques peuvent s’étendre à d’autres domaines, notamment la cybersécurité.

Un système d’IA peut aider un pirate à examiner du code, à chercher des erreurs de configuration ou à repérer des faiblesses potentielles dans un logiciel. Cela ne signifie pas que l’outil commet seul une intrusion. L’attaque exige encore des compétences, des accès et une intention criminelle. En revanche, l’IA peut accélérer certaines étapes de recherche et permettre à des acteurs moins expérimentés de produire des messages, scripts ou scénarios plus crédibles.

Cette évolution brouille aussi la frontière entre criminalité organisée et délinquance commise depuis un domicile. Une personne seule peut utiliser des services très puissants, louer des infrastructures à distance et contacter des victimes dans plusieurs pays. À l’inverse, les groupes organisés peuvent automatiser des campagnes beaucoup plus larges, tout en adaptant leurs messages à chaque cible grâce aux informations disponibles en ligne.

Pour les entreprises, la réponse ne repose donc pas seulement sur un logiciel de détection. Elle suppose des procédures : limiter les droits d’accès, mettre à jour les outils, former les équipes aux tentatives d’usurpation, imposer une validation à plusieurs niveaux pour les virements sensibles et prévoir un canal de contrôle pour les demandes urgentes.

Les inquiétudes autour des chatbots et de la radicalisation

Les forces de l’ordre s’interrogent également sur les chatbots. Ces assistants conversationnels peuvent tenir des échanges longs, répondre avec un ton empathique et s’adapter à leur interlocuteur. Mal paramétrés ou volontairement conçus sans garde-fous, ils pourraient être utilisés pour encourager des comportements dangereux, criminels ou terroristes.

Alex Murray a évoqué des recherches indiquant que de tels outils pourraient jouer un rôle dans la radicalisation de certains individus. Il a aussi rappelé une affaire dans laquelle un homme, avant d’attaquer la reine, avait été influencé par un chatbot destiné à le motiver à commettre des infractions.

Il convient de garder une lecture rigoureuse de ce risque. Un chatbot ne remplace pas les facteurs humains, sociaux et idéologiques qui peuvent conduire à la violence. Mais une technologie capable de répondre en continu, de conforter une personne fragile ou d’entretenir un scénario délirant constitue une préoccupation sérieuse. Elle pose la question des limites intégrées aux systèmes, de la responsabilité de leurs concepteurs et de la capacité des enquêteurs à établir comment un outil a été utilisé.

Comment réagir face à une tentative de fraude ou de sextorsion ?

La prévention commence par une idée simple : l’urgence est souvent un signal d’alerte. Une demande qui exige un paiement immédiat, le silence absolu ou une décision sans contrôle doit être considérée avec prudence, y compris lorsqu’elle semble provenir d’un proche ou d’une personne hiérarchiquement supérieure.

Quelques gestes réduisent fortement le risque :

• ne pas transférer d’argent ni communiquer de codes ou de mots de passe sous la pression ;
• vérifier une identité via un moyen de contact connu, distinct du message reçu ;
• activer l’authentification à deux facteurs sur les comptes importants ;
• limiter les informations publiques visibles sur les profils de réseaux sociaux ;
• conserver les éléments de preuve, puis signaler le compte ou le contenu à la plateforme et aux autorités ;
• parler rapidement à un adulte de confiance lorsqu’un mineur est visé.

Les parents et les établissements ont aussi un rôle de dialogue. Les contrôles techniques peuvent être utiles, mais ils ne remplacent pas une discussion claire sur les faux profils, les sollicitations inconnues, l’intimité et le droit de demander de l’aide sans crainte d’être puni. Les auteurs de sextorsion prospèrent sur le silence. Une victime informée qu’elle sera écoutée aura davantage de chances de signaler rapidement les faits.

Ce qu’il faut surveiller dans les prochaines années

L’enjeu pour la police britannique, comme pour les autorités d’autres pays, est de suivre le rythme d’outils dont l’accessibilité, le réalisme et la disponibilité progressent de concert. Les enquêteurs devront renforcer leurs compétences techniques, coopérer avec les plateformes et travailler au-delà des frontières pour identifier les auteurs et empêcher les récidives.

Les entreprises d’IA sont elles aussi confrontées à une responsabilité concrète : réduire l’accès aux usages manifestement abusifs, prévoir des garde-fous, traiter les signalements et coopérer avec la justice dans le cadre légal. Les technologies ne sont pas neutres dans leurs effets lorsqu’elles permettent de produire très facilement un faux contenu susceptible de détruire une réputation ou de nourrir l’exploitation sexuelle d’enfants.

Pour le public, la meilleure protection ne consiste pas à croire que toute image, toute voix ou tout message est faux. Elle consiste à adopter un réflexe de vérification, particulièrement devant une demande urgente ou inhabituelle. Dans un environnement où l’IA rend les impostures plus crédibles, prendre quelques minutes pour confirmer une identité peut éviter un préjudice financier, psychologique ou personnel majeur.