L’IA peut-elle trancher nos dilemmes moraux sans décider à notre place ?

Lorsqu’un assistant conversationnel répond à une question intime, lorsqu’un logiciel classe des candidatures ou lorsqu’un outil évalue un risque de fraude, il ne se contente plus d’exécuter une tâche technique. Il peut orienter une décision qui touche à la dignité, à l’égalité des chances, à la santé ou à la liberté d’une personne. Cette influence nourrit une interrogation devenue centrale : peut-on demander à une intelligence artificielle de résoudre nos dilemmes moraux ?

La réponse appelle d’abord une distinction essentielle. Une IA peut aider à éclairer un choix, en traitant rapidement des informations ou en présentant plusieurs scénarios. En revanche, elle ne peut pas être tenue pour le sujet moral de la décision. Elle n’a ni expérience vécue, ni intention propre, ni capacité à répondre de ses actes devant les personnes affectées. Déléguer entièrement un arbitrage éthique à une machine reviendrait donc, en pratique, à dissimuler des choix humains derrière un calcul.

L’éthique numérique ne se limite pas aux robots

L’éthique numérique désigne la réflexion sur les valeurs qui doivent guider la conception, le déploiement et l’usage des technologies. Elle concerne naturellement l’intelligence artificielle, mais aussi les réseaux sociaux, les plateformes, les objets connectés et les services qui collectent ou traitent des données personnelles.

Les questions sont concrètes : quelles informations peut-on recueillir sur une personne ? Dans quel but ? Qui peut y accéder ? Peut-elle comprendre et contester une décision prise à son sujet ? Ces sujets ne sont pas nouveaux, mais la généralisation des services numériques leur donne une ampleur inédite. Les données peuvent être copiées, croisées et analysées à grande échelle, parfois sans que les utilisateurs mesurent pleinement les conséquences de leurs choix.

Le scandale Cambridge Analytica a illustré les risques liés à l’exploitation de données personnelles à des fins de profilage politique. Au-delà de ce cas, il rappelle qu’une information apparemment anodine, combinée à d’autres, peut révéler ou permettre d’inférer des éléments sensibles sur une personne. La protection de la vie privée ne relève donc pas seulement du secret individuel : elle conditionne aussi l’autonomie de chacun et sa capacité à ne pas être réduit à un profil.

Pourquoi une IA ne résout pas un dilemme moral

Un dilemme moral apparaît lorsque plusieurs valeurs légitimes entrent en tension. Préserver la confidentialité d’un patient peut, par exemple, entrer en conflit avec la nécessité de prévenir un danger. Répartir une ressource limitée oblige parfois à arbitrer entre l’urgence, l’égalité et l’efficacité. Il n’existe pas toujours une réponse objectivement démontrable : la décision exige de justifier une hiérarchie entre des principes concurrents.

Les systèmes d’IA, y compris les modèles génératifs, fonctionnent autrement. Ils calculent des probabilités, détectent des régularités ou produisent un résultat en fonction d’instructions et d’objectifs fixés par leurs concepteurs ou leurs utilisateurs. Un assistant textuel peut rédiger une argumentation équilibrée, résumer différentes positions philosophiques ou proposer des questions utiles. Cela ne signifie pas qu’il comprend la souffrance, l’équité ou la responsabilité comme le ferait une personne.

Cette distinction est importante face à la fluidité des réponses générées. Une formulation assurée peut donner l’impression d’une expertise ou d’un jugement mûrement réfléchi. Or un modèle peut aussi se tromper, omettre un élément décisif, reproduire un stéréotype ou inventer une information plausible. Dans une situation morale complexe, une réponse bien écrite n’est pas une garantie de justesse.

L’expression « algor-éthique » permet de nommer cette réflexion appliquée aux algorithmes. Elle ne consiste pas à chercher une morale cachée dans le code. Elle vise plutôt à rendre visibles les valeurs déjà inscrites dans un système, puis à vérifier qu’elles peuvent être discutées, justifiées et corrigées.

Les biais ne sont pas un accident isolé

Le mot « biais » recouvre plusieurs réalités. Un jeu de données peut refléter des inégalités passées. Une catégorie retenue pour entraîner ou évaluer un outil peut être trop simplificatrice. Un indicateur choisi pour mesurer la performance peut favoriser un résultat au détriment d’une autre valeur essentielle. Enfin, même un système conçu avec soin peut produire des effets différents selon le public auquel il est appliqué.

Prenons un outil destiné à classer des dossiers. S’il apprend à partir de décisions humaines passées, il risque de reproduire les préférences ou discriminations présentes dans cet historique. S’il est réglé pour réduire au maximum un type d’erreur, il peut accroître un autre type d’erreur, potentiellement plus lourd pour les personnes concernées. Aucun seuil statistique ne décide, à lui seul, quel préjudice est acceptable : c’est une question politique et morale.

La difficulté augmente quand l’IA intervient dans des domaines sensibles, tels que l’emploi, l’éducation, le crédit, les prestations sociales, la justice, la santé ou le maintien de l’ordre. Dans ces contextes, l’erreur n’est pas un simple désagrément. Elle peut priver une personne d’une opportunité, retarder une aide ou renforcer une vulnérabilité.

La transparence est alors nécessaire, mais elle ne suffit pas. Publier une explication technique ne permet pas toujours à une personne de comprendre ce qui s’est passé ni de faire valoir ses droits. Une transparence utile implique des informations compréhensibles, une documentation pour les professionnels, des contrôles indépendants et une voie de recours effective.

Données personnelles et IA : deux cadres à connaître

En Europe, la protection des personnes repose notamment sur le Règlement général sur la protection des données, ou RGPD, applicable depuis le 25 mai 2018. Ce texte encadre le traitement des données personnelles et reconnaît plusieurs droits, notamment l’accès aux données, leur rectification et, sous certaines conditions, leur effacement ou leur opposition à certains traitements.

L’IA soulève cependant des risques qui ne se limitent pas aux données personnelles. Un système peut être dangereux parce qu’il discrimine, manipule, facilite une surveillance disproportionnée ou fonctionne de manière insuffisamment fiable. C’est l’un des objectifs de l’AI Act, le règlement européen sur l’intelligence artificielle, entré en vigueur le 1er août 2024.

Au 13 mars 2025, le calendrier de l’AI Act se déploie progressivement. Certaines utilisations sont interdites, tandis que d’autres obligations entreront en application à des échéances ultérieures. Le règlement repose sur une logique de risque : plus un système est susceptible d’affecter les droits, la sécurité ou les opportunités des personnes, plus les exigences qui pèsent sur ses fournisseurs et ses utilisateurs sont élevées.

Cette approche ne dispense pas les organisations de réfléchir par elles-mêmes. Respecter une règle est indispensable, mais la conformité ne répond pas automatiquement à toutes les questions d’équité, de confiance ou de pertinence sociale. Une technologie peut être légale et pourtant mal adaptée à un contexte humain particulier.

Ce que l’IA peut faire, et ce qu’elle ne doit pas décider seule

Une IA peut être précieuse lorsqu’elle assiste une personne compétente au lieu de la remplacer. Elle peut parcourir rapidement un grand nombre de documents, détecter des incohérences, traduire une information complexe dans un langage plus accessible ou simuler les conséquences de plusieurs hypothèses. Utilisée avec prudence, elle peut améliorer la qualité d’une délibération.

Mais une supervision humaine ne doit pas être purement décorative. Si un professionnel n’a ni le temps, ni les informations, ni l’autorité pour contredire une recommandation, la validation humaine devient fictive. Ce risque est parfois qualifié de biais d’automatisation : face à un résultat présenté comme objectif, on tend à lui accorder une confiance excessive.

La bonne question n’est donc pas « l’humain ou la machine ? ». Elle est plutôt : à quel moment l’outil aide-t-il réellement à mieux décider, et à quel moment retire-t-il aux personnes concernées la possibilité de comprendre, de discuter et de contester une décision ? Dans les cas les plus sensibles, l’IA doit rester un instrument d’aide, encadré par une responsabilité clairement attribuée.

À qui revient la responsabilité d’une décision assistée par IA ?

Lorsqu’un système commet une erreur, il est tentant de dire que « l’algorithme a décidé ». Cette formule brouille la chaîne de responsabilité. Une IA ne peut pas réparer un préjudice, motiver une décision devant un tribunal ou modifier elle-même les règles qui la gouvernent. La responsabilité demeure du côté des personnes et des organisations qui conçoivent, fournissent, déploient ou utilisent l’outil.

Pour être crédible, cette responsabilité doit être organisée avant le déploiement. Cela implique notamment de définir le problème à résoudre, d’évaluer si une IA est réellement nécessaire, de vérifier la qualité des données, de tester le système dans des situations représentatives et de surveiller ses effets dans la durée. Un modèle performant en laboratoire peut se révéler moins fiable dans les conditions réelles d’utilisation.

Une gouvernance sérieuse prévoit également des procédures de signalement, des audits, des règles de sécurité et des recours pour les personnes affectées. Dans certains cas, la meilleure décision éthique peut être de ne pas automatiser. Une tâche trop ambiguë, trop intime ou trop lourde de conséquences ne devient pas acceptable simplement parce qu’un outil est disponible.

Former au discernement numérique

L’éducation à l’éthique numérique ne concerne pas uniquement les ingénieurs. Les élèves, les salariés, les responsables publics et les citoyens ont besoin de repères pour comprendre les limites d’un système algorithmique. Savoir utiliser une IA inclut la capacité à formuler une demande précise, à vérifier une réponse, à protéger des données confidentielles et à reconnaître qu’un résultat statistique n’est pas une vérité morale.

Pour les concepteurs et les organisations, cette formation doit aller au-delà des principes généraux. Elle suppose d’apprendre à identifier les parties prenantes, à anticiper les usages détournés, à évaluer les effets sur les personnes les plus vulnérables et à documenter les arbitrages réalisés. L’obligation de culture de l’IA prévue par l’AI Act souligne cette exigence : les acteurs qui fournissent ou utilisent ces systèmes doivent disposer d’un niveau de connaissances adapté à leur rôle et au contexte.

Le débat public a lui aussi un rôle déterminant. Les valeurs incorporées dans un outil ne sont pas purement techniques. Elles concernent la société entière : quelle place accorder à la vie privée, à l’égalité, à l’efficacité, à la liberté de choix et à la solidarité ? Ces questions doivent pouvoir être discutées au-delà des entreprises qui développent les technologies.

Ce qu’il faut surveiller

À mesure que les assistants et systèmes de recommandation s’installent dans la vie quotidienne, le principal danger n’est pas seulement une machine qui déciderait brutalement à notre place. C’est aussi une délégation progressive, presque imperceptible, de choix que nous ne prenons plus le temps d’examiner. L’infobésité, c’est-à-dire la surcharge d’informations, peut renforcer ce phénomène en faisant paraître séduisante toute réponse rapide et synthétique.

Il faudra donc observer la qualité des explications offertes aux citoyens, l’effectivité des voies de recours, la capacité des institutions à contrôler les outils déployés et la place réellement laissée au jugement professionnel. Il faudra aussi distinguer les usages à faible enjeu, pour lesquels une aide automatisée peut être pratique, de ceux qui exigent une délibération humaine renforcée.

L’intelligence artificielle peut contribuer à rendre certaines décisions plus informées. Elle ne peut toutefois pas décider seule de ce qu’une société juge juste. La morale ne se réduit ni à une prédiction ni à un classement : elle repose sur des valeurs discutables, des responsabilités assumées et la possibilité, pour chacun, de demander des comptes.