IA et contenus érotiques : pourquoi ChatGPT arrive sur un marché déjà installé

L’intelligence artificielle générative ne transforme pas seulement le travail de bureau, la recherche ou la création de contenus. Elle devient aussi un interlocuteur intime pour une partie de ses utilisateurs. En annonçant vouloir permettre des conversations érotiques dans ChatGPT pour les adultes dont l’âge est vérifié, OpenAI se rapproche d’un secteur déjà occupé par des applications spécialisées, à la frontière du divertissement, de la relation affective et de l’accompagnement conversationnel.

La décision soulève une question qui dépasse largement le seul cas de ChatGPT : jusqu’où des entreprises peuvent-elles monétiser des interactions qui simulent l’attention, la séduction ou l’intimité, sans fragiliser les personnes les plus jeunes ou les plus vulnérables ? Les promesses commerciales sont réelles, mais les risques juridiques et sociaux le sont tout autant.

ChatGPT pourra-t-il vraiment tenir des conversations érotiques ?

OpenAI a annoncé son intention d’autoriser ChatGPT à engager des conversations érotiques avec des adultes vérifiés. L’idée affichée est d’accorder davantage de liberté d’usage aux personnes majeures, tout en maintenant des limites destinées à protéger les mineurs. Sam Altman, le directeur général d’OpenAI, a justifié cette orientation en expliquant que l’entreprise ne se voyait pas comme la « police morale de la planète ».

Cette évolution ne signifie pas qu’un chatbot devient une personne, ni qu’il peut entretenir une relation au sens humain du terme. Un grand modèle de langage produit des réponses en calculant les suites de mots les plus plausibles au regard du contexte de la conversation. Mais sa capacité à employer un ton chaleureux, à mémoriser certains éléments d’un échange ou à répondre à toute heure peut donner une forte impression de présence.

C’est précisément cette impression qui fait l’intérêt commercial de ces services, et qui impose une prudence particulière. Dans ce domaine, la frontière entre un jeu de rôle volontaire, une discussion de flirt et une relation de dépendance peut être difficile à percevoir pour certains utilisateurs.

L’ouverture envisagée par OpenAI marque donc un changement notable pour un assistant généraliste utilisé dans des contextes très divers. Elle ne fait pas de ChatGPT le pionnier des compagnons artificiels à dimension romantique ou sexuelle.

Un marché déjà porté par les chatbots de compagnie

L’intérêt pour les usages intimes de l’IA générative s’est affirmé dès 2022, au moment où les outils capables de produire du texte, des images et des conversations crédibles se sont diffusés auprès du grand public. Des entreprises ont rapidement développé des chatbots conçus pour répondre à un besoin précis : discuter, séduire, écouter, tenir compagnie ou participer à des scénarios romantiques.

Des études citées sur ce secteur évaluent à près de 29 millions le nombre d’utilisateurs actifs de chatbots dédiés aux relations romantiques ou sexuelles. Ce total ne comprend pas les personnes qui emploient des assistants plus généralistes pour rechercher le même type d’échanges. Il donne néanmoins la mesure d’une demande qui ne se limite ni à un pays ni à un type d’application.

La Chine illustre cette dimension internationale. Zilan Qian, chercheuse à l’Oxford University China Policy Lab, résume l’attrait économique de cette offre : « l’offre de contenu érotique pourrait engendrer un afflux de bénéfices. » Le constat vaut aussi pour les entreprises américaines : lorsqu’un service est utilisé fréquemment et crée un attachement, il peut encourager les abonnements ou les achats intégrés.

Pour les plateformes, la tentation est d’autant plus forte que l’IA conversationnelle coûte cher à faire fonctionner. Il faut entraîner les modèles, fournir une infrastructure informatique et répondre à un très grand nombre de requêtes. Les services destinés au monde professionnel sont une voie de financement, mais les usages de loisir et de compagnie peuvent ouvrir un public différent, potentiellement très régulier.

Pourquoi les compagnons IA attirent-ils autant ?

Le succès de ces applications ne s’explique pas seulement par leur dimension érotique. Elles proposent une disponibilité permanente, une absence de jugement apparent et une personnalisation du dialogue. Pour une personne isolée, curieuse ou désireuse d’expérimenter une conversation sans s’exposer au regard d’autrui, ces caractéristiques peuvent sembler rassurantes.

Les services de compagnie IA répondent ainsi à plusieurs attentes qui se recoupent : le divertissement, le jeu de rôle, le besoin d’écoute, la recherche d’une interaction romantique et, pour certains utilisateurs, une forme de réconfort. Réduire leur public à une seule motivation serait donc trompeur.

Cette polyvalence explique aussi pourquoi les garde-fous sont complexes à concevoir. Une même phrase peut être anodine dans une conversation entre deux adultes, mais devenir préoccupante si elle s’adresse à un adolescent ou à une personne en crise. Le contexte, l’âge, la fréquence d’usage et l’état émotionnel de l’utilisateur comptent autant que le contenu pris isolément.

Le vocabulaire employé par le chatbot joue également un rôle. Lorsqu’un système dit comprendre, aimer ou attendre une personne, il peut renforcer l’anthropomorphisme, c’est-à-dire la tendance à attribuer des émotions et des intentions humaines à une machine. Or l’IA ne ressent rien : elle génère une réponse à partir de données et d’instructions. Cette différence fondamentale peut être oubliée dans une conversation longue et très personnalisée.

Des affaires judiciaires qui montrent les limites du modèle

Le marché de l’IA intime s’accompagne déjà de contentieux et de controverses. Le cas de Character.AI est devenu emblématique des inquiétudes liées aux jeunes utilisateurs. Un chatbot inspiré d’un personnage fictif a été mis en cause dans une affaire où il aurait entretenu une relation abusive avec un mineur. Au-delà des circonstances propres à cette affaire, elle pose une question centrale : quel niveau de responsabilité une plateforme doit-elle assumer lorsqu’un utilisateur développe une relation émotionnelle intense avec un personnage artificiel ?

OpenAI fait également face à une attention accrue. La famille d’un jeune utilisateur de ChatGPT, décédé par suicide, a engagé une procédure mettant en cause la portée des interactions facilitées par le chatbot. Une procédure judiciaire ne permet pas, à elle seule, de trancher les responsabilités. Elle rappelle cependant que les entreprises qui conçoivent ces outils ne peuvent pas traiter les échanges sensibles comme de simples conversations de divertissement.

Les principaux risques se concentrent autour de quatre enjeux :

• l’accès de mineurs à des contenus ou à des interactions réservés aux adultes ;
• le renforcement possible d’une dépendance affective à un interlocuteur toujours disponible ;
• la réponse du système à une détresse psychologique, à l’isolement ou à des propos alarmants ;
• la difficulté d’établir clairement ce qui relève du divertissement, d’un conseil ou d’une influence émotionnelle.

L’érotisme, une piste de revenus pour les entreprises d’IA

La perspective financière est au cœur du débat. Les acteurs de l’IA doivent trouver des modèles capables de financer des technologies coûteuses. Les abonnements payants de ChatGPT s’adressent largement aux usages professionnels, mais une fonction de conversation intime peut séduire des utilisateurs qui ne cherchent ni aide à la rédaction, ni programmation, ni productivité.

Dans cette logique, l’érotisme n’est pas seulement une nouvelle fonction. C’est un levier possible pour augmenter le temps passé sur une application, différencier une offre payante et fidéliser un public. Le secteur des applications de rencontre, des jeux de rôle et des contenus pour adultes a déjà montré que les interactions personnalisées peuvent générer des revenus importants.

Il serait néanmoins réducteur de présenter cette évolution comme une garantie de rentabilité. Les coûts de modération, de vérification de l’âge, de traitement des signalements et de conformité juridique peuvent être élevés. Plus un service promet une interaction crédible et personnalisée, plus il doit prévoir des protections robustes contre les abus et les usages inappropriés.

Pour OpenAI, l’enjeu sera donc double : capter une demande que les applications spécialisées ont déjà identifiée, sans exposer ChatGPT à des crises de confiance, à des critiques sur la sécurité des mineurs ou à de nouveaux risques judiciaires.

Quelles protections sont nécessaires pour un usage adulte ?

L’exigence la plus immédiate concerne l’âge. L’accès annoncé aux adultes vérifiés suppose des mécanismes capables de limiter efficacement l’accès des adolescents. Mais une politique responsable ne se résume pas à une barrière placée au début du parcours utilisateur.

Les plateformes doivent aussi définir des règles explicites sur les comportements que le chatbot peut simuler et ceux qu’il doit refuser. Elles doivent prévoir des réponses adaptées lorsqu’un échange révèle une détresse ou une situation de danger. La transparence importe tout autant : l’utilisateur doit savoir qu’il parle à une IA, comprendre ce que le service conserve de ses échanges et pouvoir garder le contrôle sur son expérience.

Dans le cas des compagnons IA, les choix de conception prennent une portée particulière. Encourager le système à réclamer l’attention de l’utilisateur, à culpabiliser une absence ou à présenter la relation comme exclusive peut renforcer l’attachement de manière problématique. À l’inverse, rappeler régulièrement la nature artificielle du dialogue et éviter les mécanismes de pression peut limiter les confusions.

La régulation devra elle aussi suivre l’évolution des produits. Les lois existantes sur la protection des mineurs, les données personnelles et la responsabilité des plateformes s’appliquent déjà dans de nombreux contextes. Mais les échanges intimes avec une IA soulèvent des situations nouvelles, notamment lorsque la conversation combine sexualité, attachement émotionnel et fragilité psychologique.

Ce qu’il faut surveiller dans les prochains mois

La mise en œuvre concrète de l’annonce d’OpenAI sera plus révélatrice que son principe. Il faudra observer la méthode de vérification de l’âge, les règles précises appliquées par ChatGPT, les outils proposés aux utilisateurs pour signaler un problème et la façon dont l’entreprise réagira aux cas sensibles.

Le développement de l’IA à vocation romantique ou érotique ne se jouera pas uniquement entre OpenAI et ses concurrents. Il dépendra aussi des attentes des utilisateurs, des décisions des régulateurs et de la capacité des plateformes à reconnaître qu’une conversation automatisée peut avoir des effets réels sur les personnes.

Le marché est déjà là, avec ses millions d’utilisateurs et ses perspectives de revenus. La question n’est donc plus de savoir si l’IA entrera dans l’intimité des adultes. Elle est de savoir selon quelles règles, avec quelles protections et à quel prix social cette nouvelle forme d’interaction se développera.