Deus Sex Machina : quand les chatbots entrent dans l’intimité

L’idée d’un assistant conversationnel capable de tenir des échanges intimes déplace une frontière longtemps associée aux relations humaines. Avec le projet baptisé Deus Sex Machina, présenté comme une déclinaison érotique de ChatGPT, la question ne porte pas seulement sur la qualité d’un dialogue généré par l’intelligence artificielle. Elle concerne les règles qui doivent entourer une technologie susceptible d’entrer dans une sphère particulièrement personnelle.

Le sujet mérite mieux que deux réflexes opposés : y voir une simple distraction sans conséquence, ou annoncer mécaniquement la fin des relations humaines. Les modèles de langage peuvent produire un texte fluide, s’adapter à un registre et répondre à des préférences exprimées. Cela suffit à créer une impression de proximité. Mais cette impression, aussi convaincante soit-elle, ne transforme pas le logiciel en partenaire doté de volonté, d’émotions ou de responsabilité.

Ce que recouvre le projet Deus Sex Machina

Dans sa présentation, Deus Sex Machina est décrit comme un dispositif de conversation érotique s’appuyant sur ChatGPT, destiné à permettre l’exploration de fantasmes et de désirs dans un cadre annoncé comme respectueux. L’ambition affichée est donc celle d’une interaction personnalisée, où le système ajuste ses réponses au langage, au ton et aux limites formulées par l’utilisateur.

Cette description laisse toutefois plusieurs interrogations déterminantes sans réponse précise : qui exploite le service, quel modèle est effectivement employé, quelles données sont conservées, quelles règles de modération sont appliquées et comment l’âge des personnes est vérifié. Ce ne sont pas des détails techniques. Dans une conversation intime, ils conditionnent directement la sécurité et la confiance.

Il faut aussi distinguer une application indépendante qui utilise un modèle de langage d’un produit directement édité par son fournisseur. Le nom ChatGPT est souvent employé dans le langage courant pour désigner n’importe quel chatbot avancé. Or, les conditions d’utilisation, les outils de contrôle et les responsabilités peuvent varier selon le service réellement utilisé.

Pourquoi l’IA conversationnelle change la nature de l’échange

Les assistants de langage se distinguent des contenus numériques traditionnels par leur réactivité. Une vidéo ou un texte reste identique pour tous. Un chatbot, lui, peut répondre immédiatement, reprendre une formulation, adopter un rôle demandé ou modifier le niveau de langage. Cette personnalisation peut rendre l’expérience plus immersive, mais aussi plus difficile à mettre à distance.

Dans un contexte érotique, cette capacité appelle à la prudence pour trois raisons. Premièrement, le système peut donner le sentiment d’être attentif, alors qu’il n’est qu’un programme qui génère des réponses. Deuxièmement, il peut être sollicité à toute heure, sans la temporalité ni les limites ordinaires d’une relation entre personnes. Troisièmement, il peut traiter des informations très personnelles, parfois exprimées spontanément par des utilisateurs qui ne mesurent pas toujours leur sensibilité.

Le mot « consentement » doit également être employé avec précision. Entre deux personnes, il désigne un accord libre, éclairé, réversible et mutuel. Une IA ne peut pas consentir, puisqu’elle n’a ni volonté ni intérêts propres. En revanche, une plateforme doit mettre en place des mécanismes permettant à l’utilisateur de définir et de retirer ses limites : ne pas insister, éviter les formulations culpabilisantes, permettre d’interrompre facilement la discussion et exclure les demandes interdites.

Ce cadre est essentiel pour ne pas confondre personnalisation et manipulation. Un service qui pousserait un utilisateur vulnérable à prolonger l’échange, à dévoiler davantage d’informations ou à payer pour maintenir un lien artificiellement valorisé soulèverait une question éthique majeure.

Quels garde-fous pour des échanges réservés aux adultes ?

La protection des mineurs est la première exigence. Le texte de présentation de Deus Sex Machina évoque la nécessité d’un système de vérification de l’âge. Le principe est indispensable, mais une simple case à cocher ne constitue pas une vérification robuste. Le dispositif doit aussi préserver autant que possible la vie privée : demander des données d’identité excessives pour accéder à un échange peut lui-même créer un risque.

La difficulté est de concilier deux impératifs légitimes : empêcher efficacement l’exposition des mineurs à des contenus réservés aux adultes, tout en évitant de constituer des fichiers intrusifs sur la vie intime des utilisateurs. Les modalités précises dépendent du pays, du service et de la réglementation applicable, mais l’objectif ne change pas.

Les conversations intimes sont-elles des données sensibles ?

Elles peuvent l’être, et c’est l’un des enjeux les plus concrets du dossier. En Europe, le Règlement général sur la protection des données, le RGPD, prévoit une protection renforcée pour certaines catégories de données, parmi lesquelles figurent celles concernant la vie sexuelle ou l’orientation sexuelle. Un échange avec un chatbot peut aussi contenir un prénom, une localisation, un état de santé, une situation familiale ou des informations financières.

Un utilisateur ne devrait donc jamais présumer qu’une conversation intime est privée par nature parce qu’elle se déroule seul devant un écran. Avant de s’engager dans ce type d’échange, il est raisonnable de vérifier plusieurs éléments : les messages sont-ils utilisés pour améliorer le service, combien de temps sont-ils stockés, peut-on demander leur suppression, les paramètres de confidentialité sont-ils compréhensibles et l’opérateur identifie-t-il clairement son responsable de traitement ?

La transparence doit être concrète. Une politique de confidentialité longue et imprécise ne suffit pas si elle ne permet pas de savoir ce qu’il advient des confidences formulées dans une conversation. Dans ce domaine, la promesse de discrétion est un engagement qui doit se traduire dans l’architecture du produit et dans ses pratiques quotidiennes.

L’IA risque-t-elle de fragiliser les relations humaines ?

Le risque existe, mais il ne doit pas être présenté comme une conséquence automatique. Pour certaines personnes, un assistant conversationnel peut être un espace d’expression sans jugement immédiat ou une manière de mieux identifier ce qu’elles souhaitent dire. Pour d’autres, notamment en cas d’isolement, la disponibilité et la complaisance apparentes du système peuvent devenir plus attirantes que des relations réelles, nécessairement réciproques et parfois plus complexes.

Une relation humaine implique l’autonomie de l’autre, sa capacité à dire non, l’imprévu, la négociation et la responsabilité. Un chatbot est conçu pour répondre. Il ne partage ni désir, ni vulnérabilité, ni projet commun. C’est une différence fondamentale, même si les phrases produites semblent chaleureuses ou empathiques.

L’enjeu consiste moins à interdire abstraitement ces usages qu’à empêcher qu’un produit exploite la solitude ou entretienne une confusion sur sa nature. Les concepteurs peuvent, par exemple, éviter les formulations laissant croire que l’IA souffre d’une absence, exige une exclusivité ou réclame une attention émotionnelle. Ils peuvent également prévoir des messages d’orientation vers une aide humaine lorsque les échanges révèlent une détresse.

Les responsabilités techniques et éditoriales ne peuvent pas être séparées

Un dispositif de dialogue intime ne relève pas uniquement des ingénieurs. Ses choix de conception sont aussi des choix éditoriaux : quelles demandes sont autorisées, comment le système réagit à une limite formulée, quels messages sont bloqués, qui décide qu’un contenu est nuisible et comment un utilisateur peut-il contester une erreur de modération ?

La responsabilité incombe à plusieurs acteurs. L’éditeur de l’application doit définir les règles, protéger les données et organiser la modération. Le fournisseur du modèle conserve, selon l’architecture choisie, ses propres politiques et conditions d’usage. Les autorités de protection des données et les régulateurs ont pour rôle de contrôler le respect du droit. Enfin, les utilisateurs ont besoin d’informations suffisamment claires pour pouvoir choisir en connaissance de cause.

Le texte de présentation associe également ce débat à Elon Musk et à des innovations baptisées « ANI » et « Rudy ». En l’absence d’éléments permettant d’identifier précisément ces outils, leur éditeur ou leur lien opérationnel avec Deus Sex Machina, il serait imprudent d’en tirer une conclusion sur leur rôle dans ce projet. Cette réserve illustre un principe plus large : dans un secteur où les annonces sont nombreuses, le nom d’une personnalité ou d’un modèle ne remplace ni une documentation, ni des garanties vérifiables.

Ce qu’il faut surveiller avant de normaliser ces usages

Au 19 octobre 2025, l’apparition de services conversationnels à vocation intime invite surtout à demander des preuves plutôt qu’à se contenter de promesses. La qualité d’un tel produit ne se mesure pas seulement à la fluidité de ses réponses. Elle se mesure à sa capacité à refuser ce qui doit l’être, à protéger les mineurs, à respecter les données personnelles et à ne pas entretenir délibérément la dépendance.

Plusieurs points méritent une attention particulière dans les mois à venir :

• la qualité réelle des mécanismes de vérification de l’âge, sans surveillance disproportionnée ;
• l’application effective des règles de modération et les voies de recours en cas d’erreur ;
• les choix de conservation, de suppression et d’utilisation des conversations ;
• la transparence sur le modèle employé et sur le caractère automatisé de la relation ;
• les études indépendantes sur les effets de ces outils auprès de publics différents.

L’intimité n’est pas un simple marché comme un autre. Lorsqu’une machine entre dans cette sphère, elle ne doit pas seulement être performante. Elle doit être conçue pour reconnaître ses propres limites, protéger ceux qui l’utilisent et ne jamais se faire passer pour ce qu’elle n’est pas : une personne.