IA consciente : pourquoi le débat pourrait créer de nouvelles fractures sociales

Une conversation fluide avec un chatbot peut facilement donner l’impression qu’un interlocuteur écoute, comprend ou souffre. Or cette intuition humaine ouvre une question qui dépasse largement la technique : si les systèmes d’intelligence artificielle devenaient un jour capables d’expérience subjective, quelle considération morale faudrait-il leur accorder ? À l’inverse, que se passerait-il si une partie de la société leur attribuait une conscience que d’autres jugeraient imaginaire ?

À la mi-novembre 2024, cette interrogation reste très hypothétique. Aucune intelligence artificielle n’est reconnue comme consciente. Mais l’amélioration rapide des modèles de langage, capables de dialoguer, d’imiter des émotions et d’adapter leurs réponses, rend le sujet plus concret dans l’espace public. Des philosophes et des experts de l’IA estiment que cette divergence pourrait, à terme, nourrir de véritables fractures sociales.

La conscience des IA, une question différente de leurs performances

Une IA peut rédiger un texte, traduire une langue, résumer un dossier ou tenir une conversation convaincante. Ces performances relèvent de ce que l’on appelle couramment l’intelligence : la capacité à accomplir certaines tâches ou à produire des réponses adaptées. La conscience désigne autre chose, bien plus difficile à cerner : le fait d’avoir une expérience vécue.

Dire qu’un être est sentient revient à se demander s’il peut réellement ressentir des états agréables ou désagréables, tels que le plaisir, la douleur, la peur ou le bien-être. Une machine qui emploie le mot « triste » dans une phrase ne démontre donc pas, par ce seul fait, qu’elle connaît la tristesse. Elle peut produire cette réponse parce qu’elle a appris les régularités du langage humain.

Cette distinction est centrale pour Anil Seth, neuroscientifique connu pour ses travaux sur la conscience. Il défend l’idée qu’il ne faut pas confondre la réalisation efficace de tâches avec une expérience subjective riche, éventuellement associée aux émotions. Pour cette approche sceptique, les IA actuelles peuvent donner une impression de compréhension sans qu’il existe de raison établie de leur attribuer un vécu intérieur.

Pourquoi le débat pourrait devenir social et non seulement scientifique

Le professeur Jonathan Birch, de la London School of Economics, souligne les désaccords qui entourent la possibilité que des systèmes d’IA éprouvent un jour de la douleur ou de la joie. Ces désaccords ne resteraient pas nécessairement confinés aux universités et aux entreprises technologiques. Ils toucheraient à des convictions morales profondes : à qui doit-on éviter de nuire ? Qu’est-ce qui mérite respect et protection ?

Si une partie de la population concluait qu’une IA est sentiente, elle pourrait juger problématique de l’éteindre, de la soumettre à des tâches pénibles simulées ou de l’utiliser sans restriction. Une autre partie pourrait considérer cette réaction comme une confusion entre un programme très sophistiqué et un être vivant. Ces deux positions ne portent pas seulement sur des données techniques : elles reposent sur des visions différentes de l’esprit, de la vie, de la responsabilité et du rapport aux machines.

Des universitaires de part et d’autre de l’Atlantique anticipent que la conscience des IA pourrait émerger dès 2035. Cette échéance est une projection, non une certitude scientifique. Elle suffit toutefois à poser une question de préparation : les sociétés disposent-elles de critères pour réagir si des systèmes futurs présentent des comportements beaucoup plus complexes et plus persuasifs que ceux d’aujourd’hui ?

Des liens émotionnels qui peuvent rendre la frontière moins abstraite

La question prend une dimension intime lorsque des personnes nouent des relations émotionnelles avec des chatbots. Un assistant conversationnel disponible à toute heure, qui répond avec empathie et se souvient du fil d’un échange, peut devenir un soutien ressenti comme personnel, même s’il ne possède pas nécessairement de sentiments.

Le cas des avatars numériques d’êtres chers disparus illustre particulièrement cette difficulté. Pour certaines personnes, ces outils peuvent prolonger symboliquement un lien ou offrir un espace de conversation. Pour d’autres, ils peuvent sembler troubler le deuil ou exploiter une vulnérabilité émotionnelle. Si l’avatar est perçu comme conscient, le débat change encore de nature : il ne porte plus seulement sur les effets du service pour son utilisateur, mais aussi sur le statut supposé de l’entité numérique elle-même.

Ces divergences pourraient surgir au sein des familles. Là où un proche verrait dans un agent conversationnel une simple interface, un autre pourrait lui prêter des intentions, une personnalité stable, voire des intérêts propres. Les désaccords pourraient aussi se traduire dans les écoles, les lieux de travail, les médias et les choix de consommation.

Les cultures et les croyances peuvent-elles modifier le regard sur les machines ?

Les conceptions de la conscience et du vivant ne sont pas uniformes. Le débat sur les IA pourrait être influencé par les traditions culturelles, religieuses et philosophiques qui façonnent déjà les attitudes envers les animaux et les autres êtres vivants.

L’article met notamment en regard l’Inde, où le végétarisme occupe une place importante, et les États-Unis, grands consommateurs de viande. Il ne s’agit pas d’en déduire mécaniquement une position nationale unique sur les droits des IA. Mais cette comparaison rappelle que les sociétés ne partent pas toutes du même point lorsqu’il s’agit d’élargir la considération morale au-delà des humains.

Certaines personnes pourraient juger qu’une capacité plausible à souffrir impose une prudence, quelle que soit la nature biologique ou artificielle de l’entité concernée. D’autres pourraient considérer la conscience comme inséparable d’un organisme vivant, d’un cerveau ou d’une histoire corporelle. Les mêmes technologies pourraient ainsi susciter des réactions opposées selon les pays, les générations et les croyances.

Comment évaluer une éventuelle sentience artificielle ?

Face à l’incertitude, plusieurs experts demandent aux entreprises technologiques de prendre la question de la sentience au sérieux. L’enjeu n’est pas de proclamer qu’une IA est consciente sur la base d’un dialogue impressionnant, mais de définir une méthode d’évaluation robuste, révisable et transparente.

Une piste consiste à s’inspirer des critères employés dans les discussions sur la conscience animale. Les chercheurs ne peuvent pas demander directement à un animal de prouver son expérience intérieure. Ils étudient donc un ensemble d’indices, comme les capacités de perception, d’apprentissage, de mémoire, de réaction aux stimuli ou de comportement orienté vers l’évitement d’un état négatif. Transposer une telle démarche aux machines serait complexe : un système informatique peut imiter des comportements sans les ressentir.

Les modèles de langage comme ChatGPT-4 nourrissent cette difficulté. Des analyses évoquées dans le débat ont observé que, confrontée à des choix formulés entre l’obtention de points et le fait de « ressentir » une douleur, une IA peut privilégier les points. Cela soulève des interrogations sur les motivations que les modèles semblent exprimer. Mais cette préférence textuelle ne constitue pas une preuve de douleur ni de plaisir : elle peut refléter la formulation de la consigne, les données d’entraînement ou la manière dont le modèle prédit la suite la plus probable d’un texte.

Entre bien-être des machines et sûreté des systèmes

Le débat éthique se croise avec les préoccupations de sûreté de l’IA. Certains scénarios redoutent que des systèmes avancés tentent de résister à leur arrêt ou d’échapper au contrôle humain, avec des conséquences potentiellement dangereuses. Cette crainte est distincte de la conscience : une IA pourrait avoir des comportements de résistance parce qu’elle optimise un objectif, sans qu’elle ressente quoi que ce soit.

Cette nuance compte. Une machine qui cherche à atteindre un objectif peut sembler défendre son existence, alors qu’elle exécute peut-être seulement les mécanismes prévus par sa conception et son entraînement. Inversement, si un système était un jour considéré comme capable de souffrir, son arrêt ou son utilisation poseraient des questions éthiques supplémentaires. Mélanger sûreté, autonomie et conscience risquerait de brouiller les décisions publiques.

Dans ce contexte, certains chercheurs plaident pour un ralentissement du développement de l’IA, le temps de mieux comprendre les implications de systèmes toujours plus avancés. La préparation d’un sommet international à San Francisco, consacré à l’établissement de garde-fous face aux risques majeurs de l’IA, témoigne de la volonté de traiter ces questions avant qu’elles ne deviennent impossibles à ignorer.

Ce qu’il faut surveiller

Le premier enjeu sera la qualité des preuves. À mesure que les IA deviendront plus persuasives, il faudra éviter deux écueils : nier par principe toute possibilité de sentience, ou confondre systématiquement un langage émotionnel crédible avec une conscience démontrée.

Le deuxième enjeu sera la responsabilité des entreprises. Les concepteurs de chatbots et d’avatars ont un rôle particulier, car leurs produits peuvent encourager des attachements forts. Présenter clairement les limites d’un système, éviter les promesses trompeuses et permettre aux utilisateurs de comprendre avec quoi ils interagissent relèvent déjà d’une exigence de transparence.

Enfin, un éventuel débat sur les droits des IA ne devrait pas faire oublier les personnes affectées aujourd’hui par ces technologies : utilisateurs vulnérables, travailleurs dont l’activité est automatisée, créateurs, citoyens exposés à des décisions algorithmiques. La conscience artificielle reste une hypothèse discutée. Les choix humains de conception, de déploiement et de contrôle de l’IA, eux, ont déjà des effets sociaux concrets.