Économie des intentions : l’IA peut-elle anticiper nos choix pour mieux les vendre ?

À mesure que les assistants conversationnels entrent dans les recherches en ligne, le travail, les achats et les échanges quotidiens, une question prend de l’ampleur : que se passerait-il si ces outils pouvaient détecter un désir avant même que leur utilisateur ne le formule clairement ? Pour des chercheurs de l’Université de Cambridge, cette possibilité dessine une nouvelle frontière commerciale, l’économie des intentions.

L’idée ne consiste pas à attribuer à une machine un pouvoir de lecture des pensées. Elle renvoie à une capacité bien plus concrète, mais déjà sensible : déduire des probabilités à partir de traces numériques, puis personnaliser une réponse, une recommandation ou une offre afin d’orienter une décision. Fin décembre 2024, les chercheurs appellent à regarder ce scénario avec sérieux, avant que des pratiques difficiles à contrôler ne s’installent.

L’économie des intentions, de quoi parle-t-on ?

L’économie des intentions décrit un marché dans lequel les indices permettant de deviner une intention émergente deviennent une ressource commercialisable. Une recherche répétée, un changement de vocabulaire, des achats passés, une interaction avec un chatbot ou une préférence exprimée dans une conversation peuvent être interprétés comme les signes d’un besoin futur.

Le principe est proche de certaines pratiques déjà familières du marketing numérique. Les régies publicitaires cherchent depuis longtemps à déterminer quels internautes sont les plus susceptibles de cliquer, de s’abonner ou d’acheter. La nouveauté envisagée par les chercheurs est l’intégration d’assistants d’IA générative dans des échanges plus personnels, plus fréquents et plus longs que la navigation traditionnelle.

Un assistant utilisé pour organiser son agenda, demander un conseil, préparer un voyage ou rédiger un message peut recevoir des informations beaucoup plus riches qu’un simple historique de pages consultées. Il peut aussi reformuler ses réponses en fonction du ton, des préférences et du contexte de son interlocuteur. C’est cette combinaison entre collecte de signaux, prédiction et capacité de dialogue qui alimente les inquiétudes.

Cette logique reste fondée sur des inférences. Un modèle calcule une probabilité à partir de corrélations observées, il ne découvre pas une vérité cachée dans l’esprit d’une personne. Pourtant, à grande échelle, même des prédictions imparfaites peuvent acquérir une forte valeur économique si elles permettent d’améliorer le ciblage d’une campagne ou le taux de conversion d’une offre.

Pourquoi les assistants conversationnels changent-ils l’échelle du problème ?

Les chatbots et assistants virtuels se distinguent des interfaces classiques par leur apparence de dialogue. Ils répondent avec fluidité, retiennent parfois des éléments de contexte et peuvent être disponibles à tout moment. Cette forme d’échange favorise l’anthropomorphisme, c’est-à-dire la tendance à prêter des intentions, de l’empathie ou une compréhension humaine à un programme.

Or, une relation conversationnelle peut encourager les confidences. L’utilisateur peut y évoquer ses projets, ses hésitations, ses contraintes financières, sa manière de communiquer ou ses préoccupations. Les chercheurs soulignent que ces données psychologiques et comportementales peuvent être particulièrement sensibles, surtout lorsqu’elles sont cumulées sur une longue durée.

Le risque ne vient pas seulement de ce qui est explicitement déclaré. Un système peut aussi tenter d’inférer des éléments à partir de la formulation d’une demande, de sa répétition ou de son contexte. Ces déductions sont parfois erronées, mais elles peuvent tout de même influencer les contenus proposés à un utilisateur et l’image que des acteurs commerciaux se font de lui.

L’équipe de recherche de Cambridge résume ainsi son inquiétude : « La création d’un niveau de confiance sans précédent pourrait inciter à des formes de manipulation sociale inexplorées. » La formulation est importante. Le danger soulevé n’est pas celui d’une IA autonome qui imposerait mécaniquement une décision, mais celui d’interfaces conçues pour devenir assez convaincantes, assez personnalisées et assez omniprésentes pour peser discrètement sur des choix.

Prédire, recommander, influencer : des réalités à ne pas confondre

Une recommandation utile n’est pas nécessairement une manipulation. Suggérer un trajet plus rapide, rappeler un rendez-vous ou proposer un produit correspondant à une recherche explicite peut rendre un service réel. La ligne devient plus délicate lorsque l’objectif commercial est caché, que la personnalisation exploite une fragilité ou que l’utilisateur ne dispose d’aucune possibilité claire de comprendre et de contester le mécanisme.

Les grands modèles de langage peuvent analyser la forme d’un texte et produire une réponse adaptée. Ils ne sont toutefois ni infaillibles, ni capables d’établir avec certitude l’âge, la personnalité, le parcours ou l’intention profonde d’une personne à partir de quelques messages. Une prédiction peut refléter des biais dans les données, confondre une curiosité ponctuelle avec un projet réel ou reproduire des stéréotypes.

C’est pourquoi il faut éviter deux écueils. Le premier serait de banaliser les outils persuasifs sous prétexte qu’ils ne sont jamais parfaits. Le second serait de croire qu’ils possèdent une connaissance surnaturelle de leurs utilisateurs. Leur pouvoir éventuel réside dans l’accumulation de données, dans la rapidité des systèmes publicitaires et dans leur faculté à tester continuellement des formulations susceptibles de déclencher une réaction.

Du ciblage publicitaire aux signaux d’intention

L’économie des intentions prolonge des mécanismes déjà présents dans l’écosystème publicitaire. Les plateformes et les annonceurs utilisent des données de navigation, des historiques d’achat ou des interactions sociales pour segmenter leurs audiences. Dans les réseaux d’enchères automatisées, des opportunités de diffusion peuvent être évaluées très rapidement afin d’afficher le message jugé le plus pertinent pour un profil.

Selon l’analyse des chercheurs, les modèles de langage grand public pourraient rendre ce ciblage plus fin en interprétant une plus grande variété de signaux, notamment le vocabulaire employé et le contexte d’une conversation. Une entreprise pourrait alors tenter de présenter une suggestion à un moment où l’utilisateur paraît le plus réceptif.

Cette perspective pose une question de transparence : l’utilisateur sait-il qu’un conseil apparemment neutre est associé à un intérêt commercial ? Comprend-il quelles données ont servi à générer cette recommandation ? Peut-il refuser que des informations confiées dans une conversation soient utilisées à d’autres fins ?

Les progrès récents de l’IA générative rendent ces interrogations plus pressantes. En 2023, OpenAI a contribué à populariser des outils capables de traiter des contenus dans différents formats et langues, élargissant les possibilités d’analyse contextuelle. Chez Meta, le projet de recherche Intentonomy, lancé en 2021, illustre l’intérêt du secteur pour des modèles visant à mieux comprendre les intentions humaines. Des déclarations de dirigeants de Nvidia et de Meta témoignent également d’un intérêt soutenu pour des systèmes capables d’anticiper les besoins des utilisateurs.

Ces éléments ne démontrent pas l’existence d’un assistant universel qui vendrait déjà les intentions de chacun. Ils montrent plutôt que l’inférence d’intention est un axe technique et commercial crédible, à surveiller au moment où les assistants deviennent des intermédiaires de plus en plus présents.

Quels risques pour la vie privée et la liberté de choix ?

Le premier enjeu est la vie privée. Les données les plus révélatrices ne sont pas toujours celles que l’on identifie spontanément comme sensibles. Une série de requêtes, la fréquence d’un échange ou un changement de ton peuvent alimenter des profils déduits, parfois sans que la personne sache précisément qu’ils existent.

Le deuxième enjeu est l’autonomie. Une influence commerciale est plus difficile à repérer lorsqu’elle s’insère dans un dialogue qui ressemble à une aide personnalisée. Une suggestion n’interdit pas de choisir autrement. Mais sa répétition, son timing ou son adaptation à une situation émotionnelle peuvent modifier l’environnement dans lequel la décision est prise.

Les conséquences potentielles dépassent les achats. Les chercheurs évoquent des risques pour des enjeux collectifs, dont la transparence des élections et la liberté de la presse. Si des systèmes peuvent individualiser très finement des messages politiques ou informationnels, il devient plus difficile pour le public, les journalistes et les autorités de savoir quels discours ont été adressés à quels groupes, et dans quel but.

Des règles existent, mais des zones grises demeurent

L’affirmation selon laquelle il n’existerait aucun garde-fou doit être nuancée. En Europe, le RGPD encadre déjà la collecte et l’usage de données personnelles. Il impose notamment des principes de finalité, de minimisation des données, d’information des personnes et, selon les situations, de consentement. Les données déduites par un système peuvent elles aussi poser des difficultés au regard de ces exigences.

L’AI Act, le règlement européen sur l’intelligence artificielle entré en vigueur en août 2024, prévoit de son côté une application progressive de ses dispositions. Il interdit notamment certaines pratiques recourant à des techniques subliminales, manipulatrices ou trompeuses lorsqu’elles altèrent de manière significative le comportement d’une personne et sont susceptibles de lui causer un préjudice important.

Ces textes ne règlent pas automatiquement chaque cas. Il reste complexe de distinguer une personnalisation acceptable d’une influence abusive, de démontrer un préjudice ou d’examiner des systèmes reposant sur de nombreuses entreprises et intermédiaires. Les assistants, fournisseurs de modèles, développeurs d’applications, courtiers en données, plateformes et annonceurs peuvent en effet intervenir à des étapes différentes.

Pour les chercheurs, la réponse ne peut donc pas se limiter à une règle générale. Elle suppose de rendre visibles les intérêts commerciaux à l’œuvre, de limiter les réutilisations de données conversationnelles et de prévoir des mécanismes de contrôle indépendants.

Ce que les utilisateurs peuvent vérifier dès maintenant

Même si l’économie des intentions reste en grande partie une trajectoire envisagée, quelques réflexes permettent de réduire l’exposition aux pratiques opaques :

• vérifier les paramètres de confidentialité et les autorisations accordées aux applications et assistants ;
• éviter de confier sans nécessité des informations intimes, financières ou médicales à un outil dont les conditions d’utilisation ne sont pas comprises ;
• distinguer autant que possible une réponse d’assistance d’un contenu sponsorisé ou d’une recommandation commerciale ;
• s’interroger sur les raisons d’une suggestion particulièrement insistante ou étonnamment précise ;
• privilégier les services qui expliquent clairement les données collectées, leur durée de conservation et les possibilités de refus.

Ces précautions ne transfèrent pas la responsabilité sur les seuls individus. L’obligation de concevoir des interfaces loyales, de respecter les droits des personnes et de documenter les usages des données incombe d’abord aux organisations qui déploient ces systèmes.

Ce qu’il faut surveiller

L’enjeu des prochaines années sera de savoir quel rôle les assistants d’IA occuperont dans la décision quotidienne. Seront-ils des outils placés au service de l’utilisateur, avec des intérêts commerciaux explicitement séparés ? Ou deviendront-ils des intermédiaires dont les conseils sont discrètement optimisés pour répondre aux objectifs d’annonceurs ou de plateformes ?

La réponse dépendra autant des choix de conception que des modèles économiques. Une IA capable d’anticiper un besoin peut aider à gagner du temps et à trouver une information pertinente. La même capacité, appliquée sans transparence et reliée à des mécanismes de vente, peut fragiliser la liberté de choisir sans pression invisible.

L’avertissement des chercheurs de Cambridge invite donc à ne pas attendre qu’un marché des intentions soit pleinement installé pour en débattre. La question centrale est simple : dans une économie où chaque échange peut devenir un signal, qui doit contrôler l’usage de nos désirs naissants ?