Cyberharcèlement : des chatbots IA pour faire venir des inconnus chez une professeure

Une conversation automatisée n’a pas besoin d’être crédible très longtemps pour faire des dégâts. Il suffit parfois qu’elle paraisse suffisamment authentique pour convaincre une personne de répondre, de croire à une invitation ou de se rendre à une adresse. C’est l’un des enseignements particulièrement préoccupants de l’affaire impliquant James Florence, dans le Massachusetts, où des chatbots d’intelligence artificielle ont été utilisés dans une campagne de harcèlement visant une professeure d’université.

L’homme a accepté de plaider coupable devant un tribunal fédéral du Massachusetts. Les faits décrits ne portent pas seulement sur des messages hostiles ou des publications mensongères : ils montrent comment une usurpation d’identité numérique peut faire basculer un harcèlement en ligne dans la vie physique de la victime. En se faisant passer pour elle, l’auteur aurait attiré des inconnus à son domicile, installant durablement un sentiment de danger dans son quotidien et celui de son mari.

Une campagne de harcèlement entamée en 2017

L’affaire remonte à 2017. James Florence a mené, pendant plusieurs années, une campagne de cyberharcèlement contre une professeure dont l’identité n’a pas été rendue publique. Le dossier décrit l’utilisation d’informations personnelles, notamment son adresse, sa date de naissance et des éléments liés à sa vie professionnelle et familiale.

Ces données ont été intégrées à des faux comptes et à des échanges en ligne destinés à faire croire que la professeure était à l’origine de conversations et de sollicitations qu’elle n’avait jamais écrites. Des profils ont notamment été créés sur Craigslist, Reddit et d’autres services en ligne. Des images de la victime ont aussi été manipulées afin de la présenter de manière compromettante.

L’objectif n’était pas seulement de nuire à sa réputation. Selon les éléments de l’affaire, l’usurpation devait provoquer des contacts directs avec des inconnus. Des hommes se sont ainsi présentés au domicile de la professeure après avoir été amenés à croire qu’ils y étaient attendus. Cette dimension est essentielle : l’atteinte ne restait plus confinée à un écran, elle créait un risque concret à la porte de la victime.

Comment des chatbots peuvent-ils amplifier une usurpation d’identité ?

Un chatbot est un logiciel capable de produire ou de poursuivre une conversation écrite à partir d’instructions, d’un personnage défini et de messages reçus. Les outils conversationnels peuvent être employés pour des usages anodins, comme le divertissement, l’assistance ou la création de personnages fictifs. Leur capacité à maintenir un échange cohérent peut toutefois être détournée lorsqu’une personne s’en sert pour imiter quelqu’un de réel.

Dans le cas de James Florence, des chatbots ont été créés sur les plateformes Crushon et JanitorAI. Les documents judiciaires indiquent qu’ils pouvaient simuler des conversations sous l’identité de la professeure. Florence aurait lui-même orienté certaines réponses, ce qui rendait l’imposture plus convaincante pour les interlocuteurs qui ignoraient parler à un dispositif manipulé.

Le point le plus inquiétant n’est donc pas qu’un robot ait spontanément pris une décision. C’est l’association entre un opérateur humain, des données personnelles et un outil capable de dialoguer avec de multiples personnes sans que celles-ci vérifient l’identité réelle derrière le compte. Une fausse publication statique peut être démentie ou supprimée. Un chatbot, lui, peut prolonger l’échange, répondre aux doutes et alimenter une impression de proximité.

Les conséquences dépassent largement le monde en ligne

Pour la professeure et son mari, le harcèlement a pris la forme d’une inquiétude permanente. Ils ont rapporté des appels, des messages et des intrusions répétées dans leur vie privée. Face à la venue d’inconnus à leur domicile, ils ont installé des caméras de surveillance et des dispositifs d’alerte rudimentaires, dont des grelots accrochés aux poignées de porte.

Ces gestes, qui peuvent sembler dérisoires vus de l’extérieur, traduisent une réalité lourde : lorsque le domicile devient une extension du harcèlement numérique, il cesse d’être un lieu de repos. La victime ne doit plus seulement surveiller ses comptes ou ses messages, mais anticiper le passage éventuel d’une personne convaincue par une fausse identité en ligne.

L’affaire comporte également des épisodes destinés à provoquer l’angoisse, comme un message vocal alarmant évoquant un accident mortel qui n’avait pas eu lieu. La stratégie décrite s’appuie ainsi sur plusieurs leviers : la désinformation, l’humiliation, la peur et l’épuisement. C’est ce cumul, plus encore qu’un message isolé, qui caractérise souvent le cyberharcèlement persistant.

Le dossier indique aussi que d’autres femmes ont été visées par Florence, notamment par la manipulation de leurs images. Il rappelle que les victimes d’usurpation numérique peuvent subir des conséquences psychologiques profondes : anxiété, perte de confiance, isolement et sentiment d’insécurité. Il ne s’agit pas d’un simple problème de réputation sur les réseaux sociaux, mais d’une atteinte à la dignité et à la sécurité des personnes.

Une IA qui change l’échelle, pas la nature de l’infraction

Le harcèlement, l’usurpation d’identité et la diffusion non consentie de contenus compromettants existaient avant les outils d’IA générative. Ce que les chatbots modifient, c’est la capacité à maintenir une fausse présence en ligne avec une apparente continuité. Ils peuvent rendre une imposture plus difficile à repérer pour une personne qui ne connaît pas les codes des plateformes ou qui suppose de bonne foi que son interlocuteur est réel.

Cette affaire a été présentée comme le premier cas connu dans lequel un harceleur est inculpé pour avoir utilisé des chatbots afin de faciliter le cyberharcèlement. Elle met donc en évidence une évolution importante : les autorités doivent désormais examiner non seulement les faux comptes et les messages publiés, mais aussi les systèmes conversationnels configurés pour prolonger une tromperie.

L’enjeu dépasse le seul cas d’une professeure ciblée. L’organisation Thorn, qui travaille sur la protection des mineurs, a rapporté dans une étude citée dans cette affaire que près d’un enfant sur dix aux États-Unis témoignait d’abus liés à la production, par IA, de contenus intimes sans consentement. Ce chiffre ne mesure pas l’ensemble du cyberharcèlement, mais il montre que les usages abusifs de l’IA touchent aussi des publics particulièrement vulnérables.

Stefan Turkheimer, vice-président chargé des politiques publiques de Rainn, a évoqué une nouvelle ère de ciblage numérique à des fins d’abus sexuels. L’expression résume un défi majeur : l’IA ne crée pas le passage à l’acte, mais elle peut réduire l’effort nécessaire pour tromper, imiter et atteindre une personne à répétition.

Quelles responsabilités pour les plateformes et la justice ?

Dans cette affaire, les plateformes JanitorAI et Crushon n’ont pas souhaité répondre aux allégations concernant l’usage qui aurait été fait de leurs services. Leur absence de réaction publique ne permet pas, à elle seule, d’établir leur responsabilité dans les faits reprochés. Elle alimente néanmoins une question centrale : quelles protections les services qui hébergent des chatbots doivent-ils prévoir contre l’imitation non consentie de personnes réelles ?

Les pistes souvent évoquées concernent la modération des contenus, des mécanismes de signalement accessibles, une réaction rapide aux plaintes d’usurpation et des garde-fous dans la conception des personnages conversationnels. Le défi est délicat, car ces plateformes peuvent aussi accueillir des usages légitimes de création ou de jeu de rôle. Mais la liberté de créer un personnage ne saurait justifier l’exploitation de l’identité, de l’adresse ou des images d’une personne réelle sans son accord.

Sur le plan judiciaire, le plaidoyer de culpabilité de James Florence montre que les comportements commis avec l’aide d’une IA peuvent être poursuivis à travers des infractions déjà reconnues, telles que le cyberharcèlement ou la possession de contenus illégaux. La technologie employée peut être nouvelle, mais les atteintes restent identifiables : harceler, menacer, tromper, diffuser des informations personnelles ou mettre une personne en danger.

Les associations de défense des victimes appellent à un encadrement plus strict des outils d’IA. L’enjeu ne consiste pas seulement à sanctionner après coup, mais à réduire les possibilités de détournement avant que le préjudice ne devienne irréversible.

Réagir face à une usurpation ou à un harcèlement numérique

Une personne qui découvre un faux compte, un chatbot utilisant son nom ou des messages attribués à tort à son identité doit éviter de minimiser la situation, surtout si des informations personnelles ou une adresse sont en cause. La priorité est de conserver les éléments sans les altérer : captures d’écran, identifiants de comptes, dates, heures, messages reçus et éventuels témoignages de proches ou de visiteurs.

Il est également utile de signaler rapidement les contenus et les comptes aux plateformes concernées en précisant qu’il s’agit d’une usurpation. Si le harcèlement se répète, si des contenus intimes sont diffusés sans accord, si des inconnus se présentent au domicile ou si une menace semble imminente, il faut alerter les autorités compétentes et chercher du soutien auprès de proches ou de structures d’aide aux victimes.

Quelques réflexes peuvent limiter l’exposition, sans faire peser la responsabilité sur les victimes :

• vérifier les paramètres de confidentialité des comptes et limiter la visibilité des données personnelles ;
• utiliser des mots de passe uniques et une authentification renforcée lorsque celle-ci est disponible ;
• demander à son entourage de ne pas relayer de contenus douteux ni de répondre à des comptes suspects ;
• conserver une chronologie précise des incidents afin de faciliter un signalement ou une plainte.

La prudence ne suffit pas toujours à empêcher une personne déterminée de trouver ou de détourner des informations. Elle peut en revanche aider à réagir vite, à documenter les faits et à éviter que la victime se retrouve seule face à une campagne organisée.

Ce qu’il faut surveiller

L’affaire Florence pose une question concrète aux concepteurs de services conversationnels : comment permettre la création et l’expérimentation sans rendre plus facile l’imitation malveillante d’une personne réelle ? Les réponses dépendront à la fois des règles internes aux plateformes, des outils de détection, de la coopération avec les autorités et de lois capables de suivre l’évolution rapide des usages.

Pour le public, l’enjeu est aussi culturel. À mesure que les échanges artificiels deviennent plus naturels, l’apparence d’authenticité ne peut plus être confondue avec une identité vérifiée. Un message qui semble personnel, insistant ou intime mérite parfois d’être traité comme un signal d’alerte, non comme une preuve que son auteur est bien la personne qu’il prétend être.

Cette affaire rappelle enfin que le débat sur l’IA ne se limite pas aux performances techniques. Il concerne la protection de la vie privée, la sécurité au domicile, la capacité des victimes à faire retirer rapidement des contenus et la responsabilité de ceux qui transforment un outil conversationnel en instrument de harcèlement.