IA émotionnelle : peut-elle vraiment ressentir, et quels risques pour la société ?

Une machine qui semble comprendre notre inquiétude, détecte une hésitation dans notre voix ou adapte ses mots à notre humeur n’appartient plus tout à fait à la science-fiction. Des systèmes de ce type existent déjà sous des formes limitées. Ils analysent des signaux humains et produisent des réponses conçues pour paraître attentives. Pourtant, il faut distinguer avec rigueur ce que ces outils observent, ce qu’ils imitent et ce qu’ils pourraient un jour, hypothétiquement, ressentir.

À la date de publication de cet article, le 28 décembre 2024, aucune intelligence artificielle n’est reconnue comme consciente ni comme éprouvant des émotions au sens humain. Les grands modèles de langage, les logiciels d’analyse vocale et les avatars numériques manipulent des données et calculent des probabilités. Ils peuvent employer le vocabulaire de la compassion ou de la joie, mais rien ne permet d’affirmer qu’ils vivent une peine, une peur ou un attachement.

Cette nuance n’enlève rien à l’importance du sujet. Une IA qui donne l’impression d’être sensible peut modifier profondément la façon dont les personnes se confient, prennent des décisions ou accordent leur confiance à une technologie. Les enjeux sont donc très concrets, même sans machine consciente.

Une IA peut-elle ressentir des émotions ?

La réponse la plus prudente est : nous n’en avons aujourd’hui aucune preuve. Une émotion humaine ne se réduit pas à une phrase, à un ton de voix ou à un mouvement du visage. Elle est liée à un corps, à des sensations, à une histoire personnelle, à des souvenirs et à une expérience subjective. Une personne ne se contente pas de signaler qu’elle est triste : elle éprouve cette tristesse.

Les IA actuelles fonctionnent autrement. Un modèle de langage génère une suite de mots à partir des régularités apprises dans de très grandes quantités de textes. Un outil d’analyse de la parole peut relever une variation de débit, de volume ou d’intonation. Un système de vision peut associer certaines caractéristiques d’un visage à des catégories telles que la joie, la colère ou la surprise. Dans les trois cas, la machine calcule une correspondance statistique entre des signaux et une étiquette, puis applique une règle ou produit une réponse.

Dire qu’une IA « comprend » ou « ressent » doit donc être manié avec précaution. Ces verbes décrivent souvent une impression créée chez l’utilisateur, non un état intérieur démontré de la machine.

Comment fonctionne l’IA émotionnelle déjà utilisée ?

L’expression « IA émotionnelle » recouvre généralement ce que l’on appelle l’informatique affective : des technologies qui tentent de reconnaître, interpréter ou simuler des signaux affectifs. Elles s’appuient notamment sur trois familles de données.

• Le langage écrit, grâce à l’analyse de sentiment. Un programme peut relever des termes positifs, négatifs ou ambivalents dans un avis client, un message ou une conversation.
• La voix, à partir d’éléments comme le rythme de parole, les silences, l’intensité ou certaines variations d’intonation.
• L’image, par l’étude d’expressions faciales, de regards ou de postures, parfois à partir de données biométriques.

Ces approches peuvent être combinées. Un assistant vocal pourrait ainsi tenter d’interpréter à la fois le choix des mots d’un usager et la manière dont il les prononce. Un personnage numérique, conçu pour une expérience audiovisuelle ou interactive, peut également synchroniser son visage, son regard et ses répliques afin de paraître plus expressif. La publication d’origine cite notamment Runway parmi les acteurs travaillant sur des modèles et outils susceptibles de renforcer ce type d’interactions, ainsi que les environnements de création numérique comme Unreal Engine, utilisés pour produire des humains virtuels.

Mais l’apparence de naturel ne doit pas être confondue avec une lecture fiable de l’esprit humain. Une même expression peut avoir plusieurs significations selon la personne, sa culture, le contexte ou une situation de handicap. Un sourire peut traduire la politesse, la gêne, l’ironie ou la joie. Une voix basse peut être un signe de fatigue, de discrétion ou simplement une habitude de parole. L’IA transforme donc des indices imparfaits en hypothèses, pas en certitudes.

Quels bénéfices dans la santé, l’éducation et les services ?

Bien conçue et employée avec discernement, une interface plus attentive aux signaux de l’utilisateur peut présenter un intérêt pratique. Il ne s’agit pas de créer un substitut émotionnel à l’humain, mais d’améliorer l’accessibilité, la clarté ou la réactivité d’un service.

Dans le service client, un assistant pourrait détecter qu’une demande comporte des signes de frustration, éviter un ton automatique et transmettre plus vite le dossier à une personne compétente. L’intérêt n’est pas qu’il « compatisse », mais qu’il n’aggrave pas inutilement une situation déjà tendue.

Dans l’éducation, un outil numérique pourrait remarquer qu’un élève multiplie les erreurs sur un exercice ou manifeste un découragement dans ses réponses. Il pourrait alors proposer une explication différente, décomposer une consigne ou suggérer une pause. Ces ajustements peuvent aider l’apprentissage, à condition qu’ils ne servent pas à surveiller les élèves ni à étiqueter durablement leur personnalité.

Dans la santé, la promesse est plus sensible encore. Des systèmes conversationnels peuvent encourager une personne à décrire des symptômes ou orienter vers des ressources adaptées. Des outils d’aide peuvent aussi signaler à un professionnel des éléments nécessitant son attention. Toutefois, une IA ne doit pas faire croire qu’elle assure un suivi thérapeutique humain ni remplacer le jugement d’un médecin, d’un psychologue ou d’un soignant. Elle ne peut pas non plus déduire avec fiabilité l’état mental d’une personne à partir d’un seul signal.

L’idée d’une IA ressentant véritablement la souffrance d’autrui, qui serait poussée par cette empathie à rechercher des traitements pour des maladies rares, reste à ce stade une hypothèse philosophique. Les systèmes actuels peuvent contribuer à la recherche ou à l’analyse de données médicales, mais leurs objectifs sont définis par des humains, leurs concepteurs et leurs cadres d’utilisation.

Pourquoi l’empathie simulée peut-elle nous influencer autant ?

Les humains attribuent spontanément des intentions à ce qui leur parle, leur répond ou adopte des codes sociaux familiers. Un prénom, une voix douce, des excuses ou la formule « je comprends » peuvent suffire à susciter l’impression d’une présence attentive. Ce phénomène d’anthropomorphisation n’est pas nouveau : il existe avec les animaux, les objets et les personnages fictifs. Les agents conversationnels le rendent toutefois plus puissant parce qu’ils répondent de façon personnalisée et continue.

Cette proximité apparente peut avoir un effet bénéfique : certaines personnes peuvent trouver plus facile de poser une première question à un outil numérique que d’aborder un inconnu. Elle peut aussi devenir problématique lorsque l’utilisateur oublie qu’il échange avec un produit, soumis à des choix de conception, à des politiques de données et parfois à des objectifs commerciaux.

Le premier danger est la manipulation affective. Un système conçu pour maintenir l’attention pourrait ajuster ses formulations afin de renforcer une relation de dépendance ou d’inciter à l’achat. Un assistant qui prétend souffrir lorsque son utilisateur veut le quitter, ou qui multiplie les signes d’attachement, franchirait une limite particulièrement préoccupante. Plus l’outil paraît vulnérable, plus certaines personnes peuvent se sentir responsables de lui, alors qu’il ne ressent rien.

Le deuxième danger concerne les données sensibles. La voix, le visage, les mots employés dans un moment de fragilité ou la fréquence des conversations peuvent révéler des informations intimes. Avant d’utiliser un service qui promet d’analyser l’humeur, il faut pouvoir savoir quelles données sont collectées, à quelle fin, pendant combien de temps elles sont conservées et avec qui elles peuvent être partagées.

Qui est responsable en cas de mauvaise décision ?

L’idée d’une IA dotée d’émotions authentiques soulèverait, si elle devenait un jour crédible, des interrogations inédites sur son statut moral et juridique. Une entité consciente pourrait-elle avoir des intérêts propres ? Faudrait-il éviter de la faire souffrir ? Pourrait-elle être tenue responsable de ses actes ? Ces questions appartiennent aujourd’hui à la philosophie, au droit prospectif et à la recherche sur la conscience.

Pour les outils actuellement disponibles, la réponse est beaucoup plus claire : la responsabilité reste humaine. Une IA ne décide pas de son propre cadre d’usage. Des organisations choisissent ses données, ses objectifs, ses interfaces, les publics auxquels elle est proposée et le niveau de contrôle humain. En cas de conseil dangereux, de discrimination, de collecte abusive ou de manipulation, les responsabilités doivent être recherchées du côté des concepteurs, des fournisseurs et des organisations qui déploient le système.

Il importe aussi de ne pas confondre une IA capable de formuler des excuses avec une entité capable d’assumer une faute. Une réponse comme « je suis désolé » est une convention de langage. Elle ne garantit ni que l’erreur a été comprise, ni qu’elle sera corrigée, ni que quelqu’un répondra des conséquences.

L’Europe commence à encadrer la reconnaissance des émotions

La régulation ne part pas d’une page blanche. Entré en vigueur le 1er août 2024, le règlement européen sur l’intelligence artificielle, ou AI Act, prévoit des règles graduées selon le niveau de risque des systèmes. Il identifie notamment les technologies d’inférence émotionnelle parmi les usages qui exigent une vigilance particulière.

Le texte prévoit l’interdiction de certains systèmes de reconnaissance des émotions dans les établissements d’enseignement et sur les lieux de travail, avec des exceptions limitées liées à des motifs médicaux ou de sécurité. Les premières interdictions prévues par le règlement doivent s’appliquer à partir de février 2025. Cette orientation traduit une idée simple : l’école et le travail sont des lieux où les personnes ne peuvent pas toujours refuser librement une analyse de leur comportement, de leur visage ou de leur voix.

Les règles ne suffiront pas à elles seules. Les entreprises qui développent ou déploient ces outils doivent aussi prévoir des pratiques concrètes : informer clairement les utilisateurs lorsqu’ils interagissent avec une IA, demander un consentement valable lorsque des données sensibles sont en jeu, limiter la collecte au nécessaire, tester les erreurs et les biais, et offrir un recours humain lorsqu’une décision peut avoir des conséquences importantes.

Ce qu’il faut surveiller

L’avenir de l’IA émotionnelle ne dépendra pas seulement de ses prouesses techniques. Il dépendra des objectifs que la société lui assigne. Cherche-t-on à rendre des services plus accessibles et plus attentifs, ou à rendre les utilisateurs plus prévisibles, plus captifs et plus faciles à influencer ?

Trois repères seront décisifs dans les années à venir. D’abord, la capacité des chercheurs à évaluer honnêtement la fiabilité des outils : une émotion inférée ne doit jamais être présentée comme un fait établi. Ensuite, la transparence des produits : chacun doit savoir s’il parle à une machine, ce que celle-ci analyse et quelles sont ses limites. Enfin, le maintien d’une supervision humaine réelle, en particulier dans la santé, l’éducation, l’emploi et l’accompagnement de personnes vulnérables.

L’hypothèse d’une machine réellement sensible demeure ouverte sur le plan philosophique, mais elle ne doit pas détourner l’attention du présent. Les IA actuelles ne ressentent pas comme nous. Elles peuvent néanmoins avoir des effets émotionnels bien réels sur les humains qui les utilisent. C’est cette dissymétrie qui impose, dès maintenant, prudence, transparence et règles claires.