Peut-on concevoir une IA éthique ? Ce que le code ne peut pas décider seul

L’idée d’une intelligence artificielle « fondamentalement éthique » est séduisante : elle ferait gagner du temps sans discriminer, informerait sans manipuler et assisterait les humains sans leur nuire. Mais cette promesse cache une difficulté essentielle. Une machine ne possède ni conscience morale, ni empathie, ni sens spontané de la justice. Elle produit des résultats à partir d’objectifs, de données, de règles et de mécanismes de contrôle décidés par des personnes et des organisations.

La bonne question n’est donc pas seulement de savoir si l’on peut rendre une IA éthique. Il faut aussi se demander qui définit les valeurs à respecter, comment elles sont traduites en instructions techniques, et qui répond des conséquences lorsque le système se trompe. À mesure que l’IA s’invite dans l’information, le recrutement, la santé, l’éducation ou les services publics, l’éthique ne peut plus rester une déclaration d’intention : elle doit devenir une méthode de conception, de test et de gouvernance.

Une IA peut-elle être éthique sans conscience morale ?

Il faut distinguer deux idées souvent confondues. La première est celle d’une IA qui agit de façon compatible avec des principes éthiques : elle évite certains contenus, respecte des procédures, limite les discriminations ou avertit lorsqu’elle n’est pas certaine de sa réponse. La seconde serait celle d’une IA capable de comprendre par elle-même le bien et le mal, puis de choisir librement une conduite morale.

Les systèmes actuels relèvent de la première catégorie. Un modèle de langage, par exemple, prédit des suites de mots plausibles à partir des données sur lesquelles il a été entraîné et des consignes qu’il reçoit. Il peut formuler une réponse prudente ou bienveillante, mais cela ne prouve pas qu’il éprouve une intention morale. Son comportement est le produit d’un cadre technique et humain.

Cela ne rend pas l’éthique impossible. Au contraire, cela montre où elle doit se situer : dans le choix des données, la définition des objectifs, les règles de sécurité, l’évaluation des résultats et la possibilité, pour une personne concernée, de contester une décision. Parler d’IA éthique est donc moins une promesse d’autonomie morale qu’un engagement de responsabilité tout au long de son cycle de vie.

Les valeurs humaines ne deviennent pas automatiquement du code

Traduire une valeur en programme est plus complexe qu’il n’y paraît. Des notions comme la dignité, l’équité, la vie privée ou la justice sont riches, parfois ambiguës, et peuvent entrer en tension. Protéger la confidentialité d’une personne peut, par exemple, limiter les informations disponibles pour vérifier une décision. Rendre un système très transparent peut aussi révéler des éléments qu’il faut protéger.

L’éthique commence donc avant même l’écriture du code. Les équipes doivent préciser ce que l’outil est censé faire, dans quel contexte il sera utilisé, quelles personnes peuvent être affectées et quels dommages doivent être évités. Ensuite seulement vient la question des garde-fous techniques.

Les principes mis en avant par l’UNESCO offrent un repère utile : respect de la dignité humaine et des droits fondamentaux, équité, transparence, responsabilité, protection de la vie privée ou encore prise en compte de l’environnement. Ils ne constituent pas une recette à copier dans un logiciel. Ils obligent plutôt à poser des questions concrètes avant de déployer une technologie.

D’où viennent les biais et les dérives ?

Le mot « biais » désigne une distorsion systématique qui peut favoriser ou désavantager certains groupes, situations ou comportements. Il n’implique pas nécessairement une volonté de nuire. Il peut apparaître parce que les données historiques reflètent des inégalités déjà présentes dans la société, parce que certaines populations sont moins bien représentées, ou parce que le concepteur a retenu un indicateur de performance trop simpliste.

Un système chargé de trier des candidatures, par exemple, peut apprendre des régularités présentes dans des décisions de recrutement passées. Si ces décisions étaient inéquitables, l’outil risque de prolonger le problème à grande échelle. La difficulté est d’autant plus grande que des résultats apparemment objectifs peuvent masquer des choix humains : quelles données ont été retenues ? Quels critères comptent le plus ? Quel taux d’erreur est jugé acceptable, et pour qui ?

Les outils génératifs ajoutent un autre enjeu. Ils peuvent fabriquer rapidement du texte, des images ou des enregistrements qui paraissent crédibles. Utilisés sans précaution, ils facilitent la circulation d’informations erronées et la création de deepfakes, ces contenus synthétiques qui imitent une personne ou une scène réelle. L’éthique de l’IA concerne alors autant la conception de l’outil que les conditions de sa diffusion et la capacité du public à identifier ses limites.

L’objectif ne peut pas être de supprimer tout risque, ce qui est irréaliste. Il consiste à identifier les risques prévisibles, à réduire leur probabilité et leur gravité, puis à prévoir ce qui se passe lorsqu’un dommage survient. Une IA dite responsable doit pouvoir être corrigée, contrôlée et, si nécessaire, retirée.

L’alignement des valeurs, un problème politique autant que technique

Dans le domaine de l’IA, l’alignement désigne la recherche d’un comportement conforme aux intentions humaines. Sur le papier, l’idée semble simple : il suffirait de demander à un système d’être utile, honnête et inoffensif. En pratique, ces mots demandent à être précisés.

Utile pour qui ? Honnête sur quels sujets et avec quel degré d’incertitude ? Inoffensif dans quel contexte ? Les réponses ne sont pas identiques selon les pays, les professions et les personnes concernées. Il existe des valeurs largement reconnues, notamment les droits humains, mais leur mise en application implique toujours des arbitrages. Un développeur ne peut pas, à lui seul, décider ce qui est acceptable pour l’ensemble de la société.

C’est pourquoi la diversité des participants est importante. Ingénieurs, chercheurs en sciences humaines et sociales, juristes, associations, travailleurs concernés, utilisateurs et autorités publiques n’apportent pas le même regard. Cette confrontation peut ralentir le développement d’un produit, mais elle permet aussi de détecter des dommages que la seule recherche de performance aurait ignorés.

IA constitutionnelle et retours humains : des garde-fous utiles, mais limités

Plusieurs méthodes tentent de rendre les modèles plus sûrs. L’une des plus répandues est l’apprentissage par renforcement à partir de retours humains. Le principe est d’évaluer différentes réponses d’un système, puis de l’entraîner à privilégier celles que des évaluateurs jugent les plus pertinentes ou les moins problématiques. Cette méthode peut améliorer le respect des consignes, la qualité du dialogue et le refus de certaines demandes dangereuses.

Elle comporte toutefois une limite évidente : les évaluateurs humains ont eux-mêmes des désaccords, des angles morts et des contraintes de temps. Une préférence majoritaire n’est pas automatiquement une règle morale universelle. De plus, un modèle peut se comporter correctement pendant les tests et échouer face à une formulation inattendue ou à un contexte nouveau.

Anthropic a popularisé une autre approche, appelée IA constitutionnelle. Au lieu de reposer uniquement sur des préférences humaines, le système s’appuie sur un ensemble écrit de principes, ou « constitution », pour critiquer et réviser ses propres réponses durant l’entraînement. L’ambition est de rendre les règles de comportement plus explicites et plus cohérentes.

Cette approche constitue un progrès dans la formalisation des garde-fous, mais elle ne transforme pas une IA en arbitre moral infaillible. Il reste à choisir les principes de départ, à vérifier leur application et à tester la résistance du modèle aux tentatives de contournement. Des utilisateurs peuvent chercher à obtenir une réponse interdite en modifiant la formulation de leurs demandes, une pratique souvent qualifiée de contournement des protections.

Ce que l’AI Act change pour l’Europe

L’éthique ne repose pas uniquement sur la bonne volonté des entreprises. La régulation fixe un socle commun et prévoit des obligations lorsque les usages présentent un risque important. Dans l’Union européenne, le règlement sur l’intelligence artificielle, connu sous le nom d’AI Act, a été adopté en 2024 et est entré en vigueur le 1er août 2024.

Son principe directeur est une approche fondée sur les risques. Plus un système peut affecter la sécurité, les droits fondamentaux ou les opportunités d’une personne, plus les exigences sont fortes. Le texte prévoit notamment des interdictions pour certaines pratiques jugées inacceptables, ainsi que des obligations de gestion des risques, de documentation, de qualité des données, de transparence et de supervision humaine pour des systèmes à haut risque.

Le règlement ne résout pas à lui seul les dilemmes moraux. Une loi ne peut pas prédire chaque usage détourné, ni déterminer dans tous les cas ce qu’est une décision juste. Mais elle change le cadre du débat : les concepteurs et les organisations utilisatrices doivent davantage démontrer qu’ils ont anticipé les risques, au lieu de réagir seulement après un incident.

La coopération internationale reste également indispensable. Les modèles, les données et les services numériques circulent au-delà des frontières. Des règles incompatibles ou trop fragmentées peuvent laisser des zones grises, tandis qu’une harmonisation minimale peut faciliter la protection des personnes et la responsabilité des acteurs.

Comment juger si une IA est réellement responsable ?

Il n’existe pas de test unique qui attribuerait une note définitive d’éthique à une IA. L’évaluation doit combiner plusieurs dimensions. Un système doit être examiné pour ses performances techniques, mais aussi pour les erreurs qu’il commet, les publics qu’il pénalise éventuellement, la clarté de ses explications et la façon dont il est utilisé dans la réalité.

Des audits internes et externes peuvent étudier les données, les critères de décision, les incidents et les mesures correctrices. Les équipes de sécurité pratiquent également des tests adversariaux : elles cherchent volontairement à pousser le système hors de son cadre prévu afin d’en révéler les failles. Dans les domaines sensibles, la supervision humaine ne doit pas être symbolique. Elle suppose que la personne chargée de contrôler l’outil dispose du temps, des compétences et du pouvoir réel de remettre en cause son résultat.

La transparence, elle aussi, doit être comprise avec nuance. Elle ne signifie pas forcément publier toutes les lignes de code ou toutes les données, notamment lorsque la vie privée ou la sécurité sont en jeu. En revanche, les personnes devraient pouvoir savoir lorsqu’elles interagissent avec une IA, comprendre à quoi sert le système, connaître ses principales limites et disposer d’un recours si une décision les affecte.

Ce qu’il faut surveiller

L’enjeu des prochaines années ne sera pas de déclarer qu’une IA est éthique une fois pour toutes. Il sera de vérifier en continu si elle reste compatible avec les valeurs et les règles qu’elle prétend respecter. Les modèles évoluent, les données changent, les usages se multiplient et les méthodes de contournement progressent. Une protection valable aujourd’hui peut se révéler insuffisante demain.

La question centrale est donc collective : quelles décisions sommes-nous prêts à automatiser, et lesquelles doivent rester sous un contrôle humain exigeant ? Une IA plus responsable ne naîtra pas d’une formule magique inscrite dans le code. Elle dépendra d’objectifs clairement définis, de garde-fous techniques, de contrôles indépendants, de règles applicables et de citoyens capables de demander des comptes à ceux qui conçoivent et déploient ces outils.