Au MIT, la philosophie aide les futurs ingénieurs à penser les dilemmes de l’IA

Les systèmes d’intelligence artificielle prennent une place croissante dans les services publics, les entreprises, les médias, les transports et la vie quotidienne. À mesure que leurs capacités se diffusent, une question devient incontournable : que doivent faire les concepteurs lorsqu’un système peut influencer une décision, trier des personnes, recommander un contenu ou orienter une action ? Au Massachusetts Institute of Technology, le MIT, une réponse passe par un dialogue direct entre l’informatique et la philosophie.

Cette approche ne suppose pas que les machines possèdent déjà une conscience morale. Elle part d’une idée plus concrète : les outils numériques traduisent des choix humains. Les données retenues, les objectifs fixés, les critères de réussite et le contexte de déploiement déterminent une partie de leurs effets. Étudier l’éthique de l’IA revient donc à examiner ces choix, leurs conséquences et les responsabilités qu’ils engagent.

Pourquoi l’IA pose-t-elle des questions qui dépassent la technique ?

Un programme informatique classique exécute des instructions définies. Les systèmes d’IA contemporains, eux, peuvent produire des recommandations ou des prédictions à partir de grandes quantités de données. Cette particularité donne parfois l’impression que la décision viendrait de la machine elle-même. En pratique, un système reste conçu, entraîné, paramétré, testé puis utilisé par des organisations et des personnes.

Armando Solar-Lezama, professeur au MIT, insiste ainsi sur un impératif fondamental : s’assurer que les machines font bien ce que leurs concepteurs attendent d’elles. La formule paraît évidente, mais elle recouvre plusieurs difficultés. Une consigne peut être mal définie. Un objectif mesurable peut conduire à négliger un effet important mais difficile à chiffrer. Un outil efficace en laboratoire peut aussi produire des résultats très différents lorsqu’il est confronté au monde réel.

Prenons le cas d’un logiciel chargé de repérer des dossiers prioritaires. Pour juger son efficacité, faut-il viser la rapidité, la réduction des erreurs, l’égalité de traitement, le coût ou la possibilité pour les personnes concernées de comprendre la décision ? Il n’existe pas toujours de réponse purement technique à cette question. Il faut déterminer quelles valeurs doivent primer lorsqu’elles entrent en tension.

Le cours Ethics of Computing, un dialogue entre deux disciplines

Le cours Ethics of Computing au MIT a précisément pour objet cette rencontre entre la technologie et la réflexion philosophique. Son équipe pédagogique associe des professeurs de philosophie et d’informatique. L’objectif n’est pas de transformer tous les étudiants en philosophes, ni de réduire l’éthique à une liste de principes à cocher. Il s’agit de leur donner les moyens d’identifier un dilemme, de formuler les valeurs en conflit et de justifier une décision.

En classe, les discussions abordent la responsabilité morale, la prise de décision algorithmique, la neutralité supposée des outils numériques ou encore la protection des données. Ce travail est particulièrement utile à des étudiants qui seront amenés à développer ou déployer des systèmes techniques. Une application ne se résume pas à son code : elle s’inscrit dans une institution, atteint certains publics et peut modifier des comportements.

L’intérêt de la philosophie tient à ses outils de clarification. Elle demande, par exemple, ce que recouvrent des mots courants comme « juste », « responsable », « autonome » ou « neutre ». Deux personnes peuvent employer ces termes tout en défendant des positions très différentes. Mettre les désaccords au jour permet d’éviter que des choix politiques ou moraux restent dissimulés derrière un vocabulaire de performance.

Le cours s’inscrit dans une démarche plus large de rapprochement des disciplines, notamment à travers l’initiative Common Ground for Computing Education. L’enjeu est de faire de l’éthique une compétence professionnelle et civique, plutôt qu’un sujet périphérique traité une fois le produit terminé.

Les grandes approches philosophiques appliquées aux algorithmes

La philosophie ne fournit pas une formule capable de résoudre mécaniquement tous les conflits. Elle propose toutefois plusieurs cadres pour raisonner. L’utilitarisme, par exemple, examine les conséquences d’une action et cherche à maximiser le bien-être global. La déontologie s’intéresse davantage aux devoirs, aux règles et au respect des droits individuels. L’éthique des vertus demande quelles qualités, comme la prudence, la justice ou l’honnêteté, doivent guider les personnes qui conçoivent et emploient une technologie.

Ces perspectives peuvent conduire à des conclusions différentes. Dans un contexte de véhicule autonome, une approche centrée sur les conséquences cherchera à réduire le dommage total. Une approche fondée sur les droits soulignera qu’il ne faut pas traiter une personne comme un simple moyen au service d’un calcul collectif. L’intérêt pédagogique est moins de désigner une théorie gagnante que d’obliger les futurs ingénieurs à expliciter ce qu’ils privilégient.

Véhicules autonomes : à qui attribuer la responsabilité ?

Titus Roesler, étudiant en génie électrique, s’est intéressé aux implications éthiques des véhicules autonomes. Ces systèmes constituent un cas d’école parce qu’ils réunissent des questions de sécurité, de décision en temps réel et de responsabilité. Lorsqu’un accident implique un véhicule doté de fonctions d’automatisation, la question ne peut pas se régler en affirmant simplement que « l’IA a décidé ».

Plusieurs acteurs peuvent être concernés : l’entreprise qui a conçu le système, les équipes ayant défini ses règles de fonctionnement, celles qui l’ont testé, l’organisation qui le déploie, le conducteur selon le niveau d’autonomie du véhicule, ou encore les autorités qui ont autorisé son usage. La philosophie aide ici à distinguer plusieurs formes de responsabilité : avoir causé un dommage, avoir manqué à une obligation de prudence, disposer d’un pouvoir de décision ou être en mesure de réparer.

La réflexion inspirée de l’utilitarisme évoquée dans le cours invite à évaluer les conséquences des différents choix possibles. Mais elle ne dispense pas de poser d’autres exigences : transparence sur les limites du système, procédures de test rigoureuses, information des utilisateurs et possibilité d’enquêter après un incident. L’éthique n’est pas un substitut à la sécurité technique. Elle explique pourquoi cette sécurité doit être pensée au regard des personnes exposées.

COMPAS, un exemple pour discuter des biais algorithmiques

Une séance du cours s’est penchée sur les biais présents dans certains algorithmes, en prenant l’exemple de COMPAS, un logiciel utilisé pour prédire le risque de récidive criminelle. Cet exemple met en lumière une difficulté essentielle : un système de prédiction peut avoir des conséquences très réelles pour les personnes concernées, notamment lorsque ses résultats interviennent dans un domaine aussi sensible que la justice.

Le débat ne consiste pas seulement à se demander si un algorithme est exact. Il faut aussi examiner ce que signifie exactement cette exactitude, les données sur lesquelles elle repose et la manière dont les erreurs se distribuent entre différents groupes. Un outil peut présenter de bonnes performances selon un indicateur statistique tout en produisant des effets contestables du point de vue de l’équité ou de l’égalité devant la loi.

Brad Skow, professeur de philosophie, et Armando Solar-Lezama encouragent ainsi les échanges ouverts sur les conséquences de tels outils. Les étudiants sont amenés à dépasser l’idée d’une neutralité automatique du calcul. Un algorithme ne naît pas dans le vide : ses catégories, ses données et ses objectifs portent la trace de choix sociaux et institutionnels.

Cette analyse vaut au-delà de la justice pénale. Des outils de recrutement, de crédit, de santé ou d’éducation peuvent eux aussi reproduire, amplifier ou masquer des déséquilibres présents dans les données et les pratiques existantes. Identifier un biais ne suffit pas toujours à le corriger, mais c’est une condition nécessaire pour discuter des remèdes possibles et de leurs limites.

Les IA ont-elles des droits ?

Le cours aborde également une question plus spéculative, mais révélatrice des changements en cours : les systèmes d’IA devraient-ils bénéficier de droits ou de considérations comparables à ceux des humains ? Alek Westover soulève notamment l’idée d’une éventuelle rémunération pour des machines qui accompliraient des tâches jusque-là réalisées par des travailleurs.

À ce stade, cette question sert surtout à clarifier ce qui fonde les droits et la dignité des personnes. Le fait d’exécuter une tâche ou d’imiter une conversation suffit-il à justifier une considération morale ? Faut-il plutôt se préoccuper de la conscience, de la capacité à ressentir, de la vulnérabilité, des relations sociales ou de la responsabilité ? Les réponses ne font pas consensus.

Ce débat ne doit pas faire oublier une urgence plus immédiate : les droits des humains affectés par les outils automatisés. Dans le monde du travail, par exemple, l’enjeu porte déjà sur la surveillance, l’évaluation algorithmique, la transformation des métiers et le partage des gains de productivité. Interroger le statut moral hypothétique d’une machine peut donc aussi aider à mieux comprendre ce qui doit rester non négociable pour les personnes.

Une formation utile face aux effets sociaux du numérique

Les échanges entre étudiants occupent une place centrale dans cette démarche. Un environnement de discussion permet de confronter des points de vue techniques, juridiques, sociaux et philosophiques. La question provocatrice « Internet détruit-il le monde ? » est ainsi moins un appel à rejeter la technologie qu’une invitation à mesurer ses effets sur les relations humaines, l’accès à l’information, les droits et les institutions.

Cette capacité de débat est une compétence pratique. Un ingénieur peut être confronté à une demande client qui contredit les limites connues d’un système. Un responsable de produit peut devoir arbitrer entre un délai de lancement et des tests supplémentaires. Une administration peut se demander si elle doit suivre une recommandation produite par un logiciel. Dans chacun de ces cas, savoir poser les bonnes questions peut changer la décision finale.

L’enseignement de l’éthique technologique ne décharge ni les entreprises ni les institutions de leurs obligations. Il prépare néanmoins les futurs professionnels à reconnaître qu’ils ont une marge de responsabilité, y compris lorsqu’ils travaillent au sein de grandes organisations. Les choix de conception ont des effets qui vont bien au-delà de la seule réussite commerciale ou de l’élégance technique.

Ce qu’il faut surveiller : de la salle de cours à l’action publique

Les 10 et 11 février 2025, le sommet pour l’action sur l’IA organisé à Paris a illustré l’importance grandissante de ces sujets dans le débat public. Chercheurs, industriels et responsables politiques sont désormais confrontés à une même tâche : encourager l’innovation tout en anticipant les risques associés à des systèmes de plus en plus présents dans la société.

La régulation est une partie de la réponse, mais elle ne peut pas tout prévoir. Les lois définissent des obligations et des garde-fous. Les entreprises doivent les traduire dans leurs processus de conception, de test et de gouvernance. Les équipes techniques ont besoin de compétences pour détecter les problèmes. Enfin, les personnes concernées doivent pouvoir comprendre les usages qui les affectent et faire entendre leurs intérêts.

L’expérience menée au MIT rappelle que l’éthique ne se résume pas à demander à une IA de respecter des « lignes rouges ». Elle impose de réfléchir à ce que les humains attendent de ces technologies, à ceux qu’elles servent et à ceux qu’elles risquent de pénaliser. À mesure que l’intelligence artificielle gagne en autonomie opérationnelle, cette réflexion interdisciplinaire devient une condition concrète d’une innovation responsable.