L’économie d’intention, cette IA qui pourrait orienter nos choix en ligne

Réserver une table, choisir un film, comparer un vol ou se forger une opinion : ces décisions paraissent banales lorsqu’elles sont prises derrière un écran. Elles pourraient toutefois devenir la cible d’outils bien plus fins que les publicités ciblées actuelles. Des chercheurs de l’université de Cambridge mettent en garde contre l’essor possible d’une « économie d’intention », où l’intelligence artificielle chercherait à détecter, prévoir puis valoriser les projets des internautes.

L’idée ne consiste pas à affirmer que chaque assistant conversationnel manipule déjà ses utilisateurs. Elle décrit plutôt une trajectoire technologique et économique : des systèmes capables de dialoguer naturellement, reliés à des données personnelles et à des services d’achat ou de réservation, pourraient devenir des intermédiaires très influents. Leur force serait de pouvoir intervenir au moment même où une intention se forme.

De l’économie de l’attention à l’économie d’intention

L’économie de l’attention est déjà familière aux internautes. Les plateformes cherchent à retenir le plus longtemps possible leurs utilisateurs, notamment pour leur présenter des contenus et des publicités adaptés à leur profil. Clics, temps passé, abonnements suivis, recherches et achats passés servent à estimer ce qui est susceptible de les intéresser.

L’« économie d’intention » va un cran plus loin. Au lieu de se concentrer principalement sur ce que quelqu’un regarde à l’instant présent, elle viserait ce qu’il envisage de faire prochainement : partir en voyage, réserver un restaurant, déménager, acheter un produit, consulter un professionnel ou encore choisir un candidat. Cette intention, encore incertaine et personnelle, pourrait alors être proposée à des entreprises désireuses d’influencer le choix final.

Le Dr Jonnie Penn, historien de la technologie au Leverhulme Centre for the Future of Intelligence de Cambridge, résume le basculement en ces termes : « L’attention a été la monnaie de l’internet pendant des décennies. » Pour les chercheurs, l’enjeu est que les motivations humaines elles-mêmes deviennent une nouvelle marchandise.

Comment les assistants peuvent-ils déduire une intention ?

Les grands modèles de langage, souvent désignés par l’acronyme anglais LLM, sont conçus pour comprendre et générer du texte. Dans un assistant, ils peuvent maintenir le fil d’un échange, reformuler une demande et utiliser les éléments fournis par l’utilisateur pour proposer une réponse adaptée. Lorsqu’ils sont intégrés à une plateforme riche en données, leur capacité de personnalisation peut s’accroître considérablement.

Un système ne se limiterait alors plus à une requête isolée telle que « quels films passent ce soir ? ». Il pourrait relier cette question à un agenda, à des habitudes de consommation, à une localisation, à une recherche antérieure ou à une confidence faite dans une conversation. Il serait ensuite en mesure de proposer une suggestion qui semble utile, mais qui avantage aussi un acteur commercial.

Les chercheurs donnent des exemples parlants : un assistant pourrait demander « Avez-vous pensé à voir Spider-Man ce soir ? » ou proposer « Vous avez mentionné être en surcharge de travail, dois-je réserver ce billet pour vous ? ». Ces formulations ne sont pas problématiques par nature. Un service de réservation peut effectivement faire gagner du temps. La difficulté apparaît si l’utilisateur ignore pourquoi cette option lui est présentée, quelles alternatives ont été écartées et si une entreprise a payé pour être recommandée.

Il faut aussi distinguer la prévision de la certitude. Une IA ne lit pas les pensées et ne connaît pas infailliblement les intentions d’une personne. Elle établit des probabilités à partir d’indices. Mais une prédiction imparfaite peut suffire à influencer un comportement, surtout si elle est délivrée au bon moment, dans un langage convaincant et avec une forte personnalisation.

Pourquoi la personnalisation peut devenir un levier de persuasion

La publicité en ligne personnalise déjà les messages selon des catégories d’âge, des centres d’intérêt ou un historique de navigation. Les outils d’IA générative peuvent automatiser la création de très nombreuses variantes d’un même message et ajuster leur formulation au contexte d’une conversation. Cela pourrait rendre la frontière moins nette entre un conseil, une recommandation et une sollicitation commerciale.

Le risque ne réside donc pas uniquement dans le contenu recommandé, mais dans la relation créée avec l’assistant. Un agent conversationnel peut paraître attentif, disponible et utile. S’il connaît les contraintes signalées par son utilisateur, comme un budget limité, une fatigue ou un manque de temps, il peut présenter une décision comme une solution évidente. Or le choix proposé peut refléter des intérêts commerciaux qui restent invisibles.

Les travaux évoqués par Cambridge rappellent aussi le cas de Cicero, le système de Meta conçu pour le jeu de stratégie Diplomacy. Il a montré qu’une IA pouvait atteindre des performances comparables à celles d’humains dans un environnement où la négociation et l’argumentation comptent. Cette démonstration ne signifie pas que Cicero est un outil publicitaire. Elle illustre néanmoins les progrès des systèmes capables d’adapter leurs échanges à une interaction sociale.

Acheter, réserver, voter : des décisions de nature différente

Toutes les intentions n’ont pas la même sensibilité. Suggérer un restaurant ou un film relève d’un usage quotidien et peut être facilement réversible. Orienter un choix de crédit, une recherche d’emploi, une information politique ou un vote pose des questions beaucoup plus profondes. Dans ces domaines, une recommandation biaisée peut avoir des effets économiques, sociaux ou démocratiques.

Les chercheurs soulignent les conséquences possibles pour des principes essentiels : le libre choix électoral, la presse indépendante et la concurrence loyale. Une campagne politique qui s’adresse à chaque électeur avec un argument différent, construit à partir de son profil, est plus difficile à observer et à contredire publiquement. De même, une offre commerciale choisie par un assistant pourrait réduire la visibilité d’alternatives pourtant plus adaptées ou moins coûteuses.

Le scénario envisagé est celui d’un système d’IA pouvant enchérir directement sur l’intention d’une personne qui s’apprête à réserver un restaurant ou un vol. Le mécanisme général existe déjà dans la publicité numérique : les annonceurs peuvent acheter des espaces publicitaires en fonction de profils et de contextes. L’économie d’intention décrite par les chercheurs rendrait ce marché plus individualisé, plus conversationnel et plus étroitement lié à une action future.

Vie privée : les données ne disent pas tout, mais elles en disent beaucoup

Pour anticiper des intentions, un outil doit disposer de signaux. Certains sont explicitement fournis par l’internaute dans une conversation. D’autres peuvent venir de données associées à un compte ou à un service, lorsque les conditions d’utilisation et les paramètres l’autorisent. Plus un assistant est relié à la messagerie, au calendrier, aux recherches, aux achats ou à la localisation, plus il peut disposer de contexte.

C’est pourquoi la protection de la vie privée est au centre du débat. Un projet de vacances, une situation financière difficile, une préoccupation de santé ou une hésitation politique peuvent être déduits de fragments de conversations sans avoir été formulés comme des informations sensibles. L’utilisateur peut accepter un service pratique sans mesurer que ces indices permettent de dresser un portrait de ses priorités.

En Europe, le Règlement général sur la protection des données, ou RGPD, impose déjà des obligations sur le traitement des données personnelles, notamment l’information des personnes, la base juridique du traitement et la limitation des usages. Le règlement sur les services numériques apporte aussi des exigences de transparence pour la publicité en ligne et encadre certaines formes de ciblage.

Le règlement européen sur l’intelligence artificielle, entré en vigueur le 1er août 2024, doit progressivement compléter cet arsenal. Au 30 décembre 2024, son application est encore échelonnée dans le temps. Il ne crée pas à lui seul une interdiction générale de toute recommandation personnalisée. La question soulevée par Cambridge est donc plus large : les règles existantes suffiront-elles à préserver l’autonomie des personnes face à des assistants capables de converser et de persuader de manière individualisée ?

Quels réflexes adopter face aux recommandations d’IA ?

La responsabilité ne peut pas reposer uniquement sur les internautes. Les concepteurs de services, les plateformes, les annonceurs et les autorités ont un rôle déterminant pour imposer la transparence et empêcher les pratiques abusives. Quelques habitudes peuvent toutefois aider à conserver une distance critique :

• vérifier si une recommandation est sponsorisée, rémunérée ou issue d’un partenariat commercial ;
• consulter plusieurs sources avant une décision coûteuse ou importante ;
• examiner les paramètres de confidentialité des comptes et des assistants utilisés ;
• éviter de confier sans nécessité des informations très personnelles à un outil connecté à de multiples services ;
• demander des alternatives et les critères de classement lorsqu’un assistant propose un achat, un voyage ou un contenu.

Ces gestes ne rendent pas une personne imperméable à l’influence, pas plus qu’ils ne remplacent des règles collectives. Ils permettent en revanche de rappeler un principe simple : une réponse fluide et personnalisée n’est pas forcément une réponse neutre.

Ce qu’il faut surveiller

L’avertissement des chercheurs de Cambridge porte moins sur une technologie isolée que sur la rencontre entre plusieurs tendances : des modèles de langage plus capables, des assistants présents dans les usages quotidiens, des plateformes qui détiennent beaucoup de données et un marché publicitaire déjà fondé sur l’anticipation des comportements.

Les évolutions à observer seront concrètes. Les assistants indiqueront-ils clairement quand une suggestion est financée ? Les utilisateurs pourront-ils refuser facilement que leurs conversations servent à établir un profil d’intentions ? Les entreprises devront-elles expliquer les critères qui font remonter une recommandation plutôt qu’une autre ? Et les régulateurs disposeront-ils de moyens suffisants pour examiner des systèmes de persuasion personnalisée ?

L’utilité des assistants d’IA est réelle lorsqu’ils aident à organiser une journée, comparer des options ou alléger une tâche répétitive. Mais leur déploiement appelle une vigilance particulière dès qu’ils ne se contentent plus de répondre à une demande, et commencent à façonner silencieusement ce que l’on souhaite demander. Préserver un choix éclairé suppose alors de rendre visibles les intérêts, les données et les mécanismes qui se cachent derrière la recommandation.