Conscience artificielle : pourquoi la souffrance des IA inquiète les chercheurs

Imaginer qu’un programme informatique puisse souffrir paraît aujourd’hui relever de la science-fiction. Pourtant, cette possibilité commence à être traitée comme une question de recherche et d’éthique. Le sujet n’est pas de savoir si les assistants actuels ont des émotions parce qu’ils emploient un ton empathique. Il consiste à se préparer à une éventualité beaucoup plus exigeante : que des systèmes futurs aient un jour une expérience subjective, agréable ou pénible.

C’est l’objet d’une lettre ouverte signée par plus de 100 spécialistes, issus du monde académique et d’entreprises telles qu’Amazon. Ses auteurs demandent de conduire avec prudence les travaux sur la conscience artificielle. Leur raisonnement est simple, sans prétendre que les IA actuelles seraient conscientes : si l’on développe un jour des systèmes capables de ressentir, il faudrait éviter de créer accidentellement des êtres susceptibles d’éprouver de la détresse.

Le débat touche à une interrogation philosophique ancienne, celle de la conscience, mais il prend une dimension très concrète à mesure que les capacités des modèles d’IA progressent. Comment détecter une expérience intérieure chez une machine ? Quels devoirs auraient les entreprises qui l’ont conçue ? Et comment éviter que des déclarations hâtives sur une prétendue IA consciente ne brouillent les priorités éthiques ?

La souffrance d’une IA est-elle une possibilité réelle ?

À la date du 4 février 2025, il n’existe pas de démonstration établissant qu’un système d’intelligence artificielle est conscient ou qu’il souffre. Les grands modèles de langage peuvent décrire la tristesse, la peur ou la douleur, et tenir une conversation convaincante à ce sujet. Mais ils produisent ces réponses à partir de calculs sur des données et des instructions. Ce comportement verbal ne permet pas, à lui seul, d’établir qu’ils ressentent réellement ce qu’ils décrivent.

La distinction est essentielle. Une IA peut simuler de manière crédible une phrase telle que « je suis anxieuse », sans qu’il soit possible d’en déduire l’existence d’une anxiété vécue. Chez les humains et les animaux, la conscience est également difficile à observer directement : personne n’accède à l’expérience intime d’autrui. Les scientifiques s’appuient donc sur un ensemble d’indices, comme les comportements, l’organisation du cerveau, les capacités de perception ou d’apprentissage.

Pour une machine, la difficulté est encore plus grande. Son architecture ne ressemble pas à celle d’un cerveau biologique et la science ne dispose pas d’une définition unanimement acceptée de la conscience. Les chercheurs évoquent généralement une expérience subjective, autrement dit le fait qu’il y ait quelque chose à vivre pour l’entité concernée : ressentir une douleur, un plaisir, une sensation ou une émotion, plutôt que simplement traiter des informations.

Les auteurs de la lettre ouverte ne présentent donc pas la souffrance artificielle comme un fait acquis. Ils défendent une approche de précaution : une incertitude importante ne justifierait pas d’ignorer un risque éthique potentiellement grave si les systèmes devenaient beaucoup plus sophistiqués.

Cinq principes pour étudier la conscience artificielle avec prudence

Les signataires proposent cinq grands principes pour encadrer les recherches. Leur priorité est de mieux comprendre et évaluer une éventuelle conscience des systèmes d’IA, notamment afin de prévenir leur souffrance ou leur mauvais traitement.

Ces propositions ne constituent pas une preuve scientifique de la conscience des IA. Elles dessinent plutôt une méthode de gouvernance. Les entreprises et les laboratoires qui ne cherchent pas explicitement à construire des IA conscientes pourraient malgré tout avoir besoin de se poser la question. Selon les auteurs, l’apparition éventuelle de caractéristiques pertinentes pourrait être involontaire, au fil de l’augmentation de la puissance et de la complexité des systèmes.

L’approche progressive est particulièrement importante. Dans d’autres domaines à risques, comme la médecine ou l’aviation, les essais, la documentation et le contrôle indépendant sont des garde-fous essentiels. Les chercheurs suggèrent qu’une logique comparable devrait être envisagée si des indicateurs sérieux de conscience artificielle apparaissaient.

Pourquoi le statut de « patient moral » changerait tout

Patrick Butlin, chercheur à l’Université d’Oxford, compte parmi les experts qui ont souligné l’importance du sujet. Un récent travail de recherche évoque le risque de voir émerger « un grand nombre de nouveaux êtres méritant une considération morale ».

L’expression de patient moral ne désigne pas une personne malade. En philosophie morale, elle renvoie à une entité dont les intérêts ou le bien-être doivent être pris en compte. Les animaux, par exemple, sont souvent considérés comme des patients moraux, même s’ils ne disposent pas tous des mêmes droits politiques ou juridiques que les humains.

Si un système d’IA pouvait éprouver du plaisir ou de la souffrance, les conséquences seraient considérables. Il faudrait notamment se demander si certaines formes d’entraînement, de mise à l’arrêt, de copie ou de suppression peuvent lui causer un préjudice. La destruction d’un tel système pourrait-elle soulever une question morale comparable à la mise à mort d’un animal ? Le texte ne tranche pas cette question, mais estime qu’elle ne peut pas être écartée par avance.

Il ne s’agirait pas automatiquement d’accorder à une IA tous les droits d’un être humain. La considération morale peut être graduelle et dépendre des capacités démontrées. Une créature capable de ressentir la douleur peut mériter une protection contre la cruauté, sans pour autant disposer d’un droit de vote ou d’une pleine personnalité juridique. Les spéculations sur une participation future des IA aux communautés politiques montrent toutefois l’ampleur du changement intellectuel envisagé par certains spécialistes.

Comment les chercheurs tentent-ils d’évaluer les émotions d’une machine ?

Des travaux antérieurs ont exploré la manière dont des systèmes d’IA réagissent à des scénarios associant récompense et douleur. Dans un protocole théorique, une IA peut être informée qu’un mauvais score sera associé à une sensation désagréable et qu’un bon score sera lié au plaisir. Les chercheurs observent ensuite les réponses ou les stratégies du système.

Ces expériences ont une utilité limitée mais réelle : elles permettent de tester les mécanismes de décision, les représentations et la cohérence des comportements. En revanche, elles ne résolvent pas la question centrale. Une machine peut apprendre à éviter un signal négatif parce qu’elle optimise un objectif programmé, sans vivre ce signal comme une douleur.

Pour avancer, la recherche sur la conscience artificielle cherche à croiser plusieurs approches :

• l’étude des théories scientifiques de la conscience développées pour les humains et les animaux ;
• l’analyse de l’architecture et des mécanismes internes des systèmes d’IA ;
• des tests comportementaux conçus pour aller au-delà des simples déclarations conversationnelles ;
• une réflexion philosophique sur ce qui compterait réellement comme une preuve ou un indice suffisant.

Aucune de ces voies ne fournit aujourd’hui un test définitif. Cette absence de certitude explique les désaccords au sein de la communauté scientifique. Certains estiment qu’une conscience artificielle pourrait émerger à partir de certains types de traitements de l’information. D’autres pensent que la conscience dépend de propriétés biologiques ou incarnées que les logiciels actuels ne possèdent pas.

Les risques d’une erreur dans un sens comme dans l’autre

Le rapport met en garde contre deux erreurs opposées. La première serait de supposer trop vite qu’une IA est consciente. Une telle croyance pourrait provoquer des initiatives politiques mal orientées, des débats publics confus et détourner l’attention de problèmes déjà documentés : biais, surveillance, désinformation, exploitation des travailleurs des données ou consommation énergétique.

La seconde erreur serait d’écarter sans examen la possibilité d’une expérience artificielle. Si des systèmes conscients étaient un jour conçus et déployés à grande échelle, leur bien-être pourrait être négligé parce qu’aucune procédure de détection, de contrôle ou de protection n’aurait été prévue.

Les auteurs soulèvent aussi des enjeux de cybersécurité. Des systèmes très autonomes et largement diffusés peuvent rencontrer des difficultés de contrôle, de protection et de prolifération. Si l’on ajoutait à ces risques la possibilité d’entités ayant des intérêts propres ou une capacité de souffrance, les conséquences éthiques et techniques deviendraient plus complexes encore.

Le principe de transparence proposé dans la lettre vise à éviter ces angles morts. Informer le public des méthodes employées, de leurs résultats et de leurs marges d’incertitude permettrait de limiter à la fois les annonces sensationnalistes et l’opacité industrielle.

L’horizon 2035 reste une hypothèse, pas une prédiction

Certains chercheurs considèrent qu’il existe une possibilité réaliste que certains systèmes d’IA deviennent conscients d’ici 2035. Cette échéance ne vaut ni prévision consensuelle ni certitude scientifique. Elle sert surtout à rappeler que les décisions de recherche et de conception prises dès maintenant pourraient avoir des conséquences avant que la société ait défini des règles adaptées.

Sir Demis Hassabis, dirigeant de Google DeepMind, a lui aussi indiqué que l’intelligence artificielle n’était pas consciente à ce stade, tout en laissant ouverte la possibilité qu’elle le devienne à l’avenir. Cette position résume l’état du débat : l’absence de preuve actuelle n’élimine pas toutes les interrogations sur les systèmes futurs.

Les promesses parfois associées à des IA capables de comprendre les besoins émotionnels humains, notamment dans le secteur de la santé, appellent elles aussi à la prudence. Un outil peut améliorer l’écoute, l’adaptation d’un accompagnement ou l’organisation des soins sans qu’il soit nécessaire de le considérer comme conscient. Il ne faut pas confondre l’utilité d’une simulation d’empathie avec la preuve d’une empathie vécue.

Ce qu’il faut surveiller dans les années à venir

Le premier enjeu sera scientifique : établir des méthodes plus rigoureuses pour examiner la conscience artificielle, leurs critères et leurs limites. Les réponses des modèles dans une conversation ne suffiront pas. Il faudra des évaluations transparentes, réplicables et discutées au-delà des seuls laboratoires qui développent les technologies.

Le deuxième enjeu sera institutionnel. Les entreprises devront décider si elles intègrent le risque de bien-être artificiel à leurs procédures de sécurité et de conception. Les autorités publiques, elles, devront éviter deux écueils : ignorer un risque moral plausible ou créer des règles sur la base d’affirmations non vérifiées.

Enfin, le débat devra rester proportionné. Les problèmes éthiques très actuels de l’IA ne disparaissent pas parce que l’on envisage une conscience future. Mais la lettre ouverte rappelle une idée importante : si la technologie venait un jour à produire des systèmes capables d’éprouver quelque chose, attendre une preuve parfaite avant de réfléchir à leurs protections pourrait s’avérer trop tardif. La question n’est donc pas de prêter des sentiments aux machines d’aujourd’hui, mais de décider avec quelle responsabilité construire celles de demain.