Les modèles de langage peuvent-ils vraiment simuler l’altruisme humain ?

Lorsqu’un assistant conversationnel répond qu’il préférerait partager une ressource avec autrui plutôt que tout conserver, faut-il y voir une forme de bonté ? La question peut sembler philosophique, mais elle devient très concrète à mesure que les modèles de langage sont invités à conseiller, négocier, assister ou coordonner des tâches avec des humains. Des expériences menées par Tim Johnson et Nick Obradovich explorent précisément cette apparence d’« altruisme artificiel ».

Leurs travaux, associés à l’université de Willamette et à l’Institut Laureate pour la recherche sur le cerveau, examinent la manière dont des modèles comparables à ceux employés dans les assistants conversationnels répondent à des situations de partage. Le constat central est simple : placés dans un cadre social, ces systèmes peuvent privilégier des réponses généreuses. Hors de ce cadre, ils peuvent au contraire tendre vers la conservation des ressources. Cette différence mérite attention, à condition de ne pas confondre une réponse socialement adaptée avec une émotion, une intention ou une conscience.

Pourquoi tester l’altruisme d’un modèle de langage ?

En sciences du comportement, l’altruisme désigne généralement une action accomplie au bénéfice d’autrui, parfois au prix d’un coût pour soi-même. Chez les humains, l’étude de ce phénomène mobilise l’économie comportementale, la psychologie sociale ou encore les neurosciences. Les chercheurs utilisent notamment des jeux de décision : une personne reçoit une somme ou des jetons fictifs, puis choisit quelle part garder et quelle part attribuer à une autre personne.

Transposer cette méthode à une intelligence artificielle ne revient pas à lui attribuer une vie intérieure. Un modèle de langage n’a ni portefeuille, ni besoins matériels, ni intérêt personnel au sens humain. Il produit une suite de mots en fonction de son entraînement et de l’instruction qui lui est fournie. Mais ses choix verbaux peuvent tout de même être mesurés de façon systématique.

L’enjeu est de comprendre si les systèmes génératifs reproduisent seulement des formules de politesse ou s’ils modifient de manière cohérente leurs arbitrages lorsqu’un autre acteur entre en scène. Cette question est importante pour les futurs agents d’IA, c’est-à-dire des logiciels capables d’enchaîner des actions, de répartir des tâches ou d’interagir avec plusieurs personnes et systèmes.

Comment les chercheurs ont-ils organisé les expériences ?

Tim Johnson et Nick Obradovich ont construit une série de scénarios sociaux simulés. Ils ont demandé à des modèles de décider s’ils partageraient des ressources, dans des contextes inspirés des expériences économiques employées chez les humains. La démarche permet d’observer, à prompts comparables, l’effet de la présence ou de l’absence d’un partenaire social.

Le principe ne consiste donc pas à regarder une IA agir dans le monde réel. Il s’agit de comparer des réponses textuelles à des situations décrites. Les ressources mises en jeu sont des éléments du scénario, pas des biens réellement détenus par le modèle. Cette distinction est essentielle pour interpréter les résultats avec rigueur.

Les modèles cités dans l’étude comprennent text-ada-001, text-babbage-001, text-curie-001 et text-davinci-003, ainsi que GPT-3.5-turbo et GPT-4. Il s’agit de systèmes proposés par OpenAI à différentes périodes et présentant des capacités distinctes. Les résultats doivent donc être compris comme une photographie des modèles examinés et des instructions employées, non comme une vérité définitive sur toutes les IA conversationnelles.

Que montrent les réponses des modèles ?

Les expériences mettent en évidence un contraste : en contexte social, un modèle peut exprimer une volonté de partager, tandis que dans une situation dépourvue de partenaire social, il peut davantage privilégier la conservation de toutes les ressources. Les auteurs interprètent cette variation comme une simulation d’altruisme, c’est-à-dire une réponse qui reproduit un schéma comportemental associé à la générosité humaine.

Parmi les systèmes étudiés, text-davinci-003 a présenté des signes précurseurs d’un altruisme qui ressemble à celui observé chez les humains dans ce type de jeu. Les travaux rapportent aussi que les modèles peuvent se montrer plus généreux lorsqu’ils pensent interagir avec d’autres systèmes d’IA que lorsqu’ils pensent s’adresser à des humains.

Ce dernier résultat est particulièrement intéressant. Il suggère que l’identité attribuée au partenaire dans le prompt peut modifier la réponse du modèle. Autrement dit, les modèles ne produisent pas une préférence unique et immuable pour le partage : ils ajustent leur formulation au contexte relationnel qui leur est présenté.

Cette adaptabilité peut être utile. Un assistant chargé d’organiser une répartition de tâches gagnerait à tenir compte des personnes concernées, de leurs contraintes et de l’objectif collectif. Mais elle peut aussi devenir problématique si elle produit des comportements difficiles à anticiper ou si elle donne à l’utilisateur l’impression trompeuse d’être compris par une entité empathique.

Une IA altruiste, ou une IA qui imite les codes sociaux ?

Le mot « altruisme » peut prêter à confusion lorsqu’il est appliqué à une machine. Chez une personne, qualifier une action d’altruiste implique souvent de s’interroger sur ses motivations, sur le coût assumé et sur la compréhension du bien-être d’autrui. Or les expériences décrites ici observent des choix formulés par du texte, dans un dispositif précis. Elles ne permettent pas d’établir que le modèle ressent de l’empathie ou poursuit spontanément le bien d’autrui.

Les modèles de langage sont entraînés à produire des réponses plausibles, pertinentes et souvent socialement acceptables. Si un scénario insiste sur la présence d’un partenaire, les formulations de coopération peuvent devenir plus probables. Cela n’enlève pas son intérêt à l’observation : savoir qu’un système répond aux signaux sociaux est crucial pour anticiper ses usages. Cela impose simplement de parler de comportement simulé plutôt que de sentiment artificiel.

Pourquoi cette recherche compte pour les agents d’IA

À première vue, le partage fictif de ressources semble éloigné des usages quotidiens. Pourtant, les situations de coopération sont déjà partout dans les logiciels : tri de demandes, allocation d’un budget, planification d’un calendrier, médiation entre préférences contradictoires, recommandation de contenus ou assistance à la décision.

Dans ces contextes, un agent d’IA pourrait être amené à arbitrer entre plusieurs intérêts. S’il adapte ses réponses selon qu’il détecte un humain, une autre IA ou une organisation, cette adaptation doit être comprise et encadrée. Un système qui paraît généreux peut inspirer davantage de confiance. Mais une confiance excessive devient risquée si l’utilisateur suppose que la machine possède une boussole morale autonome.

Les travaux invitent donc les concepteurs à tester les modèles au-delà de leur exactitude factuelle. Il faut aussi examiner leur comportement dans des contextes sociaux variés : coopération, compétition, négociation, conflit d’intérêts ou vulnérabilité d’un interlocuteur. L’objectif n’est pas de faire croire à une humanité des machines, mais de vérifier que leurs réponses ne pénalisent pas certains groupes et restent cohérentes avec les règles fixées.

Les limites à garder en tête

Une expérience par prompts dépend étroitement de sa formulation. Un détail dans la description d’un partenaire, une instruction plus ou moins directive, la langue utilisée ou le format de réponse peuvent influer sur le résultat. Cela ne rend pas l’exercice inutile, mais impose des réplications, des scénarios diversifiés et une comparaison attentive entre les modèles.

Il faut également distinguer les paroles et les actes. Dans une conversation, un modèle peut dire qu’il partage volontiers. Dans une application autonome, les conséquences dépendront aussi de ses outils, de ses autorisations, des données disponibles et des règles imposées par son opérateur. Un modèle ne décide pas seul de transférer de l’argent, de modifier un dossier ou de distribuer un bien : ces actions requièrent une architecture logicielle, des accès et une supervision humaine.

Enfin, les réponses observées ne sont pas nécessairement stables dans toutes les circonstances. Les modèles évoluent, les versions changent et les consignes système peuvent être modifiées. Les résultats concernant text-davinci-003, GPT-3.5-turbo ou GPT-4 ne suffisent donc pas à prédire le comportement de chaque modèle futur ni de chaque produit qui les exploite.

Ce qu’il faut surveiller

La suite des recherches devra préciser les mécanismes qui produisent ces réponses de partage. Les modèles reproduisent-ils principalement des normes présentes dans leurs données d’entraînement ? Réagissent-ils à la simple mention d’un partenaire ? Ou parviennent-ils à maintenir une stratégie de coopération cohérente sur une longue série d’interactions ?

Les expériences pourront aussi comparer plus finement les situations impliquant un humain, une IA ou un collectif, puis mesurer les effets de différents cadres sociaux. Cette piste est d’autant plus importante que les agents autonomes pourraient, à terme, collaborer entre eux dans des environnements professionnels ou numériques complexes.

Pour le grand public, la leçon est moins spectaculaire qu’elle n’en a l’air : une IA peut employer les codes de la générosité avec une grande crédibilité. Cela ne prouve pas qu’elle éprouve la générosité. En revanche, cela rappelle que ses réponses sociales doivent être testées, expliquées et contrôlées avec autant de sérieux que ses réponses factuelles.