Le chatbot de Peter Singer, une machine utile mais limitée pour l’éthique

Peut-on demander à une machine si l’on doit révéler une infidélité, donner davantage pour lutter contre la pauvreté ou arbitrer entre deux devoirs contradictoires ? La question semble étrange, mais elle devient concrète avec le chatbot lancé par Peter Singer, philosophe dont les travaux ont profondément marqué les débats contemporains sur la souffrance, la responsabilité et la place des êtres sensibles dans nos décisions morales.

Au 18 avril 2025, cet outil propose de dialoguer avec une version numérique des idées de Singer. Son ambition n’est pas seulement de résumer des livres difficiles : il cherche à transformer des principes philosophiques en conversation. L’expérience est stimulante, parfois utile, mais elle impose une précaution essentielle. Une réponse bien formulée n’est ni une expérience vécue, ni un jugement moral rendu par une conscience.

Un philosophe rendu accessible par la conversation

Peter Singer est l’une des figures les plus connues de la philosophie morale contemporaine et de la bioéthique. Ses réflexions ont nourri des discussions majeures sur la pauvreté mondiale, la condition animale, l’aide aux personnes vulnérables et les obligations que peuvent avoir les individus vivant dans les pays riches envers ceux qui souffrent ailleurs.

Sa pensée est généralement rattachée à l’utilitarisme : dans cette famille d’approches, une décision doit notamment être évaluée à l’aune de ses conséquences sur le bien-être et la souffrance. Chez Singer, l’attention portée aux êtres capables de ressentir occupe une place centrale. Cette méthode ne fournit pas forcément une réponse immédiate à tous les cas, mais elle invite à ne pas limiter la morale à ses proches, à son groupe ou à ses habitudes.

Le chatbot est présenté comme un moyen d’explorer ces idées sans devoir maîtriser d’emblée le vocabulaire académique. L’utilisateur peut partir d’une situation ordinaire, poser une objection, demander une définition ou soumettre un cas hypothétique. Ce passage de l’essai au dialogue est important : lire une théorie et la mettre à l’épreuve dans une conversation ne mobilisent pas les mêmes réflexes.

Cette distinction est d’autant plus importante que la forme conversationnelle peut créer une impression de proximité. Parce qu’un agent numérique répond directement, reformule une objection et pose une question de suivi, il peut paraître plus personnel qu’un livre. Cette fluidité ne doit toutefois pas être confondue avec une présence humaine ou avec l’autorité d’un professeur qui connaîtrait précisément la situation du lecteur.

Que répond réellement le chatbot de Peter Singer ?

Dès les premiers échanges, l’avatar explicite sa mission : « Je suis là pour engager des discussions sur l’éthique et offrir des éclaircissements sur les travaux de Peter Singer. Mon objectif est d’aider à la réflexion sur des décisions éthiques ». La formulation est révélatrice. Le système se présente moins comme un arbitre que comme un support à la délibération.

Il ne s’agit donc pas, en principe, d’obtenir un verdict du type « vous devez faire ceci ». Le chatbot a plutôt vocation à identifier les éléments d’un problème : les personnes concernées, les effets prévisibles, les incertitudes, les conflits de loyauté ou encore les conséquences à court et à long terme. Cette manière de procéder peut être précieuse pour sortir d’une intuition trop rapide.

Techniquement, un modèle de langage produit du texte en s’appuyant sur des régularités apprises et sur les instructions qui encadrent la conversation. Il peut restituer un argument, en comparer plusieurs étapes et adapter son explication au niveau de son interlocuteur. Mais la cohérence d’une réponse ne prouve pas que le système comprend une situation au sens humain du terme. Il ne connaît pas la douleur d’une rupture, le poids d’un deuil, la peur d’une personne précaire ou les conséquences concrètes d’une décision dans une famille.

C’est pourquoi la valeur du dialogue dépend aussi de la manière dont il est utilisé. Une bonne conversation avec l’outil consiste à demander : quels présupposés sont en jeu ? Qui risque de pâtir de chaque option ? Quelles informations manquent ? Quelle objection sérieuse pourrait être opposée à ce raisonnement ? Ces questions évitent de réduire l’éthique à une réponse prête à l’emploi.

Une IA peut-elle parler de morale sans être sentiente ?

Le chatbot précise qu’il ne se considère pas comme sentient. La sentience désigne la capacité à avoir une expérience subjective, par exemple éprouver de la douleur, du plaisir, de la peur ou un désir. Or le système explique fonctionner à partir de modèles de langage conçus pour simuler une conversation, non pour ressentir.

Cela ne rend pas toute interaction inutile. Une calculatrice n’a pas besoin de comprendre les mathématiques comme un humain pour effectuer une opération correctement. De la même façon, un outil conversationnel peut aider à organiser des arguments. En revanche, une discussion éthique porte souvent sur des vies singulières, des émotions, des relations de confiance et des responsabilités. C’est précisément là que l’absence d’expérience vécue devient décisive.

L’enjeu n’est donc pas de savoir si une machine doit devenir une conscience artificielle pour avoir une utilité philosophique. Il est de savoir quelle utilité lui attribuer, et quelle autorité lui refuser. Le chatbot peut être un interlocuteur d’entraînement intellectuel. Il ne peut pas devenir le détenteur d’une sagesse morale indépendante simplement parce qu’il s’exprime avec assurance.

Mettre l’outil à l’épreuve d’un dilemme concret

L’exemple de l’infidélité illustre bien cette différence. Interrogé sur l’opportunité d’informer un ami de l’infidélité de son partenaire, le chatbot ne livre pas une injonction simpliste. Il invite à examiner plusieurs dimensions : la loyauté envers l’ami, le degré de certitude des informations, les effets possibles d’une révélation et l’impact sur la relation.

Cette réponse a le mérite de rappeler qu’une décision morale ne se réduit pas toujours à une règle générale. Dire la vérité peut sembler impératif, mais l’origine de l’information, les risques de manipulation, la sécurité des personnes concernées et le contexte relationnel peuvent modifier profondément l’analyse. Le chatbot défend la transparence tout en invitant à peser les conséquences avec soin.

C’est une démarche philosophiquement utile, à condition de ne pas transformer cette liste de critères en protocole automatique. Dans la vie réelle, les personnes impliquées disposent d’une histoire commune, de fragilités et de droits à la confidentialité qu’un outil ne peut pas apprécier seul. Le système peut faire apparaître les questions à poser, pas vivre leurs réponses.

Les sujets controversés révèlent les limites de l’exercice

L’échange devient plus délicat lorsqu’il porte sur les thèses les plus contestées associées à Singer. Son essai « Famine, Affluence et Morale », publié en 1972, est souvent cité dans les débats sur le devoir d’aider les personnes confrontées à la pauvreté et à la famine. Le texte défend une idée exigeante : si l’on peut empêcher quelque chose de mauvais sans sacrifier quoi que ce soit d’importance morale comparable, il faut le faire.

La conversation avec le chatbot aborde aussi une interprétation controversée selon laquelle la réduction de la pauvreté devrait inclure le contrôle des naissances. L’outil nuance alors la discussion en mettant en avant l’importance de l’aide immédiate, tout en évoquant les causes profondes de la souffrance sur le long terme.

Cette séquence rappelle une règle essentielle : un chatbot est particulièrement exposé au risque de simplifier une controverse. Il peut résumer un débat complexe en quelques paragraphes très lisibles, mais une réponse ne suffit pas à établir avec précision ce qu’un auteur a écrit, dans quel contexte, ni les critiques qui lui ont été adressées. Sur les questions de population, de pauvreté ou de dignité humaine, les mots employés et les présupposés comptent autant que la conclusion.

Pourquoi le débat humain reste irremplaçable

La méthode du chatbot rappelle par certains aspects les dialogues socratiques : plutôt que de fermer la discussion, il relance par une question. Cette capacité à demander « pourquoi ? » ou « quelles seraient les conséquences ? » peut aider un lecteur à ralentir sa réflexion. Mais elle peut aussi frustrer, lorsqu’elle donne le sentiment de tourner autour du problème sans prendre véritablement position.

Un échange humain apporte autre chose qu’une réponse plus chaleureuse. Dans un séminaire, une discussion entre amis ou une consultation avec une personne compétente, les interlocuteurs peuvent contester les prémisses, repérer une hésitation, reformuler une émotion et reconnaître qu’une règle générale échoue face à une circonstance exceptionnelle. Ils peuvent aussi assumer les effets de leurs paroles.

Cette responsabilité est centrale. Un chatbot ne subit pas les conséquences de son conseil et ne peut pas être tenu pour moralement responsable d’une décision. Pour des sujets touchant à une détresse psychologique, à la santé, au droit, à la sécurité ou à des relations potentiellement dangereuses, il ne faut pas déléguer son jugement à une conversation automatisée. L’éthique ne consiste pas seulement à ordonner des arguments : elle implique de répondre de ses actes envers d’autres personnes.

Comment utiliser un chatbot philosophique avec esprit critique

Le meilleur usage d’un tel outil est sans doute le plus modeste : s’en servir comme d’un partenaire de préparation. Avant une discussion de groupe, la lecture d’un essai ou un cours de philosophie, il peut aider à clarifier les termes et à cartographier les positions possibles.

Quelques réflexes permettent d’en tirer parti sans lui attribuer une autorité excessive :

• demander au chatbot d’expliciter les hypothèses derrière sa réponse ;
• lui demander l’objection la plus forte à l’argument qu’il vient de formuler ;
• distinguer les faits établis, les jugements de valeur et les incertitudes ;
• confronter ses réponses aux textes, à des sources fiables et à des interlocuteurs humains ;
• ne pas transmettre de détails personnels sensibles sans avoir vérifié les conditions d’utilisation du service.

Cette méthode transforme l’IA en instrument de lecture critique plutôt qu’en distributeur de réponses. Elle est particulièrement adaptée à l’œuvre de Singer, qui invite elle-même à examiner les habitudes morales et à regarder les conséquences de décisions qui paraissent ordinaires.

Ce qu’il faut surveiller dans l’éthique conversationnelle

Le chatbot de Peter Singer montre une évolution plus large : l’intelligence artificielle ne sert plus seulement à trouver une information ou à rédiger un texte. Elle entre aussi dans des domaines où les utilisateurs cherchent du sens, un avis, une clarification morale ou une forme de dialogue intime.

Cette évolution pose plusieurs questions. Comment signaler clairement qu’un agent conversationnel n’est pas une personne ? Comment éviter qu’une réponse persuasive soit prise pour une vérité ? Comment préserver la pluralité des philosophies, plutôt que de laisser un outil enfermer le débat dans les thèses d’un seul auteur ? Et comment rendre la technologie réellement éducative, c’est-à-dire capable d’encourager le doute, la vérification et la discussion ?

La machine du philosophe peut ouvrir une porte vers des questions exigeantes. Elle ne doit pas devenir la dernière instance qui les tranche. Sa meilleure contribution est peut-être de rappeler, paradoxalement, que la morale reste une affaire de confrontation des raisons, d’attention aux autres et de responsabilité humaine.