Aligner l’IA sur les valeurs humaines, une exigence technique et démocratique

L’intelligence artificielle ne choisit pas spontanément ce qui est juste, équitable ou respectueux de la vie privée. Elle apprend des données, optimise des objectifs fixés par des personnes et produit des résultats dans un environnement social donné. Dès lors qu’elle contribue à trier des candidatures, recommander un contenu, détecter une fraude ou assister une décision médicale, une question s’impose : selon quelles règles, et au bénéfice de qui, doit-elle fonctionner ?

C’est tout l’enjeu de l’alignement de l’IA avec les valeurs humaines. L’expression peut sembler abstraite, mais elle recouvre des choix très concrets : éviter qu’un outil pénalise certains groupes, limiter la collecte de données, expliquer une décision importante, permettre un recours et désigner les responsables lorsqu’un système cause un préjudice. L’éthique n’est donc pas une couche décorative ajoutée à la fin d’un projet. Elle doit orienter sa conception, son déploiement et son suivi.

L’alignement de l’IA, de quoi parle-t-on exactement ?

L’alignement désigne l’ensemble des méthodes destinées à faire en sorte qu’un système d’IA se comporte conformément aux intentions légitimes de ses concepteurs et aux normes collectives qui s’appliquent à son usage. Il ne s’agit pas seulement d’empêcher une machine de commettre une erreur technique. Il faut aussi prévenir des décisions contraires aux droits fondamentaux, à l’équité ou à la dignité des personnes.

Dans le cas d’un assistant conversationnel, l’alignement peut consister à refuser une demande dangereuse, à signaler ses incertitudes ou à ne pas présenter une information non vérifiée comme un fait. Pour un logiciel qui aide à sélectionner des candidats à un emploi, la question se déplace : quels critères ont été retenus, les données d’entraînement reflètent-elles des discriminations passées, et un candidat peut-il contester le résultat ?

Cette distinction est essentielle : un système performant n’est pas nécessairement un système aligné. Une IA peut accomplir avec précision la tâche qu’on lui assigne tout en poursuivant un mauvais indicateur. Si l’objectif d’une plateforme est uniquement de maximiser le temps passé à l’écran, elle peut favoriser des contenus captivants sans tenir suffisamment compte de leur qualité, de leur fiabilité ou de leurs effets sur les utilisateurs.

Les « valeurs humaines » ne constituent pas non plus une liste universelle qu’il suffirait de transformer en lignes de code. La justice, la liberté d’expression, la confidentialité, la sécurité ou l’égalité peuvent entrer en tension. Les traduire dans un produit demande donc des arbitrages explicites, débattus et documentés, plutôt qu’une promesse vague d’IA « responsable ».

Pourquoi les biais algorithmiques ne sont pas qu’un problème de données

Un biais algorithmique désigne un résultat systématiquement défavorable ou moins fiable pour certaines personnes ou certains groupes. Il ne naît pas uniquement d’une base de données incomplète. Il peut apparaître à chaque étape : dans la définition du problème, la sélection des variables, le choix de la mesure de performance, le paramétrage du système ou la manière dont ses résultats sont appliqués sur le terrain.

Des données historiques peuvent, par exemple, refléter des inégalités déjà présentes dans la société. Un modèle entraîné à repérer les caractéristiques de décisions passées risque de reproduire ces mécanismes. Même lorsqu’une donnée sensible n’est pas utilisée directement, d’autres informations peuvent jouer le rôle de substitut, comme un lieu de résidence ou certains parcours scolaires.

La lutte contre ces biais commence par une question simple : la tâche automatisée est-elle légitime et nécessaire ? Toutes les décisions ne devraient pas être confiées à un algorithme. Plus les conséquences sont importantes pour une personne, qu’il s’agisse d’un accès à l’emploi, à un crédit, à un service public ou à des soins, plus l’exigence de contrôle doit être élevée.

Lorsqu’un usage de l’IA est jugé pertinent, plusieurs précautions se complètent :

• définir précisément le public concerné et les effets recherchés ;
• vérifier la qualité, l’origine et les limites des données ;
• tester les résultats sur des profils et des situations variés ;
• mesurer les erreurs, et pas seulement la performance moyenne ;
• prévoir un mécanisme de réclamation et de correction accessible aux personnes concernées.

Il n’existe pas toujours une définition mathématique unique de l’équité. Réduire un type d’erreur peut en augmenter un autre. C’est pourquoi une évaluation sérieuse ne peut pas se limiter à un score technique. Elle doit inclure une analyse des conséquences réelles du système et associer les personnes qui connaissent le domaine concerné.

Transparence et responsabilité : rendre les décisions discutables

La transparence est souvent présentée comme un remède universel. Elle est indispensable, mais elle ne signifie pas forcément publier tout le code d’un outil ou révéler des informations qui faciliteraient son détournement. L’objectif est plutôt de donner aux personnes concernées, aux auditeurs et aux autorités les éléments nécessaires pour comprendre ce que fait le système, dans quelles limites et avec quelles garanties.

Une documentation utile décrit notamment la finalité du modèle, le type de données employées, les performances observées, les populations pour lesquelles il a été testé, ses marges d’erreur connues et les conditions dans lesquelles il ne doit pas être utilisé. Pour les décisions ayant un effet important, l’explication doit être adaptée à son destinataire : un spécialiste a besoin d’informations techniques, tandis qu’un citoyen doit pouvoir comprendre les critères qui ont influé sur son dossier et les voies de recours disponibles.

La responsabilité est l’autre versant de cette exigence. Si un système produit une recommandation injuste ou une réponse dangereuse, le recours à l’expression « l’algorithme a décidé » ne peut suffire. Une organisation doit identifier qui valide l’usage, qui surveille les résultats, qui répond aux signalements et qui peut suspendre le service si nécessaire.

Le contrôle humain n’est utile que s’il est réel. Demander à un salarié de valider en quelques secondes des centaines de décisions opaques ne crée pas une garantie. La personne chargée de superviser l’IA doit recevoir une formation adéquate, disposer d’informations compréhensibles, avoir le temps d’examiner les cas problématiques et posséder l’autorité nécessaire pour passer outre la recommandation automatisée.

Protéger les données dès la conception

Les systèmes d’IA peuvent requérir de grands volumes de données, parfois personnelles ou sensibles. Cette réalité rend central le principe de Privacy by Design, ou protection de la vie privée dès la conception. Inscrit dans le Règlement général sur la protection des données, le RGPD, ce principe invite les organisations à prévoir la protection des personnes avant le lancement d’un outil, plutôt que de tenter de réparer les problèmes après coup.

Concrètement, cela implique de collecter seulement les données nécessaires à une finalité précise, de définir qui peut y accéder, de limiter leur durée de conservation et de sécuriser les échanges. Il faut également se demander si des données identifiantes sont réellement indispensables, ou si des données anonymisées, pseudonymisées ou synthétiques pourraient répondre au besoin avec moins de risques.

La confidentialité ne se réduit pas à la cybersécurité, même si celle-ci est essentielle. Une donnée correctement protégée contre le piratage peut néanmoins être utilisée d’une manière excessive ou inattendue. Entraîner un modèle sur des informations obtenues sans cadre clair, réutiliser des données pour un objectif éloigné de leur collecte initiale ou laisser un assistant conserver des échanges sensibles posent des questions de confiance et de droit.

De la charte éthique aux procédures vérifiables

Les entreprises et institutions publient de plus en plus souvent des principes d’IA responsable. Ces engagements peuvent établir une direction commune, mais leur valeur dépend des pratiques qui les accompagnent. Une charte qui ne modifie ni les critères d’achat, ni les calendriers de développement, ni les mécanismes de contrôle reste largement déclarative.

Une gouvernance crédible peut s’appuyer sur des étapes identifiables tout au long du cycle de vie d’un système. Le tableau ci-dessous synthétise les principaux points de vigilance.

Cette organisation suppose de croiser les compétences. Les ingénieurs ne peuvent pas, à eux seuls, décider des effets sociaux d’un outil. Juristes, spécialistes des sciences humaines, professionnels du secteur concerné, équipes de sécurité, représentants des utilisateurs et personnes directement affectées peuvent identifier des risques que les seuls tests techniques ne révèlent pas.

La participation citoyenne a aussi sa place, particulièrement lorsqu’une administration ou un service essentiel recourt à l’IA. Consultations publiques, information claire, possibilités de recours et débats sur les usages acceptables ne ralentissent pas nécessairement l’innovation. Ils contribuent à fixer des limites légitimes et à prévenir le rejet de technologies imposées sans explication.

Le rôle des règles publiques face à des systèmes plus puissants

La gouvernance de l’IA ne repose pas seulement sur la bonne volonté des organisations. Les règles publiques établissent un socle commun, protègent les droits et évitent que les acteurs les plus prudents soient désavantagés face à ceux qui négligent les risques.

Dans l’Union européenne, le règlement sur l’intelligence artificielle, souvent appelé AI Act, est entré en vigueur le 1er août 2024. Son approche repose sur le niveau de risque associé aux usages de l’IA. Certaines pratiques sont interdites, tandis que les systèmes présentant des risques élevés sont soumis à des exigences renforcées en matière de gestion des risques, de documentation, de supervision humaine et de qualité des données.

Au 2 février 2025, les premières dispositions du règlement deviennent applicables, notamment celles relatives aux pratiques interdites et à la culture de l’IA au sein des organisations. Le reste du calendrier de mise en œuvre s’étale sur plusieurs années. Ce texte ne résout pas à lui seul toutes les questions éthiques, mais il traduit une idée structurante : plus une IA peut affecter les droits, la sécurité ou les perspectives d’une personne, plus les obligations doivent être fortes.

Les régulateurs ont néanmoins besoin d’expertise, de moyens de contrôle et d’un dialogue constant avec la recherche, les entreprises et la société civile. Les systèmes d’IA évoluent vite, et une règle efficace doit pouvoir être appliquée à des produits concrets, pas seulement affichée dans des textes de principe.

Ce qu’il faut surveiller pour une IA réellement au service des personnes

L’accélération des capacités de l’IA élargit le débat. Les risques immédiats, comme les biais, les atteintes à la vie privée, les erreurs de décision ou la désinformation, exigent déjà des réponses opérationnelles. En parallèle, certains chercheurs s’interrogent sur les conséquences de systèmes futurs beaucoup plus autonomes et puissants. Ces deux horizons ne s’opposent pas : ils appellent tous deux à mieux évaluer, limiter et superviser les technologies.

L’automatisation de certaines tâches de recherche et développement en IA mérite également une attention particulière. Elle peut accélérer l’innovation, mais aussi concentrer davantage les capacités techniques et économiques entre quelques acteurs. Ses effets sur l’emploi, l’accès aux compétences et les inégalités dépendront des choix d’organisation, de formation et de partage des bénéfices qui seront faits collectivement.

L’enjeu central est donc moins de choisir entre progrès technique et valeurs humaines que de décider comment les associer. Une IA utile doit pouvoir être évaluée dans des conditions proches de son usage réel, corrigée quand elle échoue, contestée lorsqu’elle affecte une personne et encadrée lorsqu’elle franchit des limites. C’est à cette condition qu’elle peut devenir un outil d’émancipation plutôt qu’un mécanisme opaque qui s’impose à la société.