Éthique de l’IA : ce que CERTAIN promet face aux règles européennes

L’intelligence artificielle ne se résume plus à des démonstrations technologiques ou à des assistants conversationnels. Lorsqu’elle contribue à trier des candidatures, évaluer un dossier, détecter une fraude ou recommander un contenu, elle peut peser sur des droits, des opportunités et des comportements. C’est dans ce contexte que CERTAIN, pour « Coopération Européenne pour la Responsabilité et la Transparence de l’IA », est présenté comme une initiative mettant l’éthique au cœur du développement de l’IA en Europe.

Son ambition est claire : favoriser des systèmes plus transparents, plus sûrs et plus respectueux des valeurs humaines, sans opposer mécaniquement innovation et protection des citoyens. Ces objectifs rejoignent une préoccupation devenue centrale dans l’Union européenne. Au 27 février 2025, l’Europe dispose déjà d’un texte juridique structurant, le règlement sur l’intelligence artificielle, couramment appelé AI Act, dont l’application avance par étapes.

CERTAIN, une ambition éthique à distinguer d’une obligation légale

Le texte de présentation de CERTAIN décrit une coopération entre experts, chercheurs et entreprises afin de définir des lignes directrices pour une IA éthique. Les principes mis en avant sont familiers dans les débats européens : transparence, responsabilité, sécurité, protection de la vie privée, réduction des biais et respect des droits fondamentaux.

Ces orientations ont une utilité concrète. Une entreprise qui réfléchit aux impacts de son outil dès sa conception sera mieux placée pour détecter une discrimination indirecte, limiter une collecte de données inutile ou expliquer le rôle réel d’un algorithme à ses utilisateurs. Une démarche collective peut aussi aider des organisations très différentes à partager des méthodes, par exemple pour documenter les données employées ou tester les résultats d’un modèle sur plusieurs profils d’utilisateurs.

Il faut toutefois séparer deux niveaux. CERTAIN est présenté comme un cadre d’orientation et de coopération, alors que l’AI Act est un règlement de l’Union européenne directement applicable selon son calendrier. Un principe éthique énonce une direction souhaitable. Une règle juridique précise des devoirs, des contrôles, des interdictions et, le cas échéant, des sanctions.

Le texte disponible ne précise ni la liste des organisations participantes, ni sa gouvernance, ni les outils ou normes effectivement adoptés dans son cadre. Il ne permet donc pas d’assimiler CERTAIN à une autorité européenne, à un organisme de certification ou à un mécanisme officiel de contrôle. Sa portée dépendra de la solidité de ses méthodes, de l’engagement de ses participants et de sa capacité à produire des résultats vérifiables.

Quels risques éthiques l’IA peut-elle poser ?

L’éthique de l’IA recouvre des problèmes très concrets, parfois difficiles à percevoir parce qu’ils se cachent dans les données, les paramètres ou la façon dont une décision automatisée est intégrée à un processus humain. Un système ne devient pas équitable parce que ses concepteurs le souhaitent : il faut examiner ses résultats, ses limites et les conditions réelles de son usage.

La discrimination algorithmique est l’un des risques les plus cités. Elle peut apparaître lorsqu’un modèle apprend à partir de données qui reflètent des inégalités passées. Si les décisions historiques de recrutement, d’attribution de crédit ou d’accès à un service comportent des déséquilibres, un outil entraîné sur ces données peut les reproduire, voire leur donner une apparence de neutralité mathématique.

La vie privée constitue un autre enjeu majeur. Les systèmes d’IA peuvent traiter de grandes quantités de données personnelles, y compris des informations sensibles selon le contexte. Le principe de protection des données dès la conception, souvent résumé par l’expression « Privacy by Design », implique de s’interroger en amont : quelles données sont véritablement nécessaires ? Pendant combien de temps seront-elles conservées ? Qui y accède ? Les personnes concernées comprennent-elles ce qui est fait de leurs informations ?

Enfin, la transparence ne signifie pas nécessairement révéler chaque détail technique d’un modèle. Elle implique surtout de pouvoir informer clairement sur l’existence d’un système d’IA, son rôle dans une décision, ses principales limites et les voies de recours disponibles. Dans les domaines sensibles, une explication accessible peut être aussi importante qu’une documentation technique complète destinée aux spécialistes.

L’AI Act fixe déjà un calendrier européen précis

L’Europe a choisi une approche fondée sur le niveau de risque des systèmes d’IA. Plus un système est susceptible d’affecter la sécurité ou les droits fondamentaux, plus les exigences qui lui sont applicables sont fortes. L’objectif n’est pas de soumettre toutes les applications aux mêmes contraintes, mais d’encadrer plus strictement les usages les plus sensibles.

Le règlement européen sur l’IA est entré en vigueur le 1er août 2024. Au 2 février 2025, ses premières dispositions sont devenues applicables, en particulier les règles relatives aux pratiques d’IA interdites et l’obligation d’encourager une maîtrise suffisante de l’IA au sein des organisations qui développent ou utilisent ces systèmes.

Parmi les pratiques visées dès février 2025 figurent notamment certains usages jugés incompatibles avec les valeurs européennes, tels que des formes de manipulation ou d’exploitation de vulnérabilités causant un préjudice significatif. Le règlement prévoit aussi des restrictions fortes sur des pratiques biométriques et de surveillance particulières.

Le texte de présentation de CERTAIN associe l’initiative à la réglementation européenne, y compris à l’AI Act. Or, l’AI Act a déjà été adopté et publié avant cette date. Sans éléments précis sur les travaux, les participants ou les contributions de CERTAIN, il n’est pas possible d’affirmer que l’initiative a participé à l’élaboration de ce règlement. En revanche, ses principes affichés s’inscrivent dans le même mouvement : faire de la confiance, de la sécurité et des droits fondamentaux des conditions de l’adoption de l’IA.

Comment les entreprises peuvent-elles passer des principes aux pratiques ?

Pour une entreprise, l’éthique de l’IA devient crédible lorsqu’elle se traduit par une organisation et des preuves. Il ne suffit pas de vérifier un outil juste avant sa mise sur le marché. Les risques évoluent avec les données, les utilisateurs, les mises à jour du modèle et les usages qui émergent après le lancement.

Une démarche sérieuse peut s’appuyer sur plusieurs réflexes :

• définir l’objectif exact du système et vérifier qu’une IA est réellement nécessaire ;
• identifier les personnes susceptibles d’être affectées, y compris indirectement ;
• examiner l’origine, la qualité et la représentativité des données ;
• tester le système dans des situations variées, y compris celles où il risque d’échouer ;
• documenter les choix techniques, les limites connues et les responsabilités ;
• prévoir une supervision humaine adaptée à l’enjeu de la décision ;
• organiser le suivi après le déploiement et une procédure de correction en cas d’incident.

La question de la responsabilité est déterminante. Lorsqu’un outil recommande un résultat erroné, un responsable humain doit pouvoir comprendre ce qui s’est passé, interrompre le processus si nécessaire et décider des mesures correctrices. Présenter une décision comme le simple produit d’un algorithme ne doit pas devenir un moyen de diluer les responsabilités.

La maîtrise de l’IA concerne également les salariés et les équipes qui utilisent ces outils. Ils doivent connaître les capacités du système, mais aussi ses erreurs possibles. Un modèle génératif peut produire une réponse convaincante tout en étant inexact. Un outil de classement peut donner une impression d’objectivité sans que ses critères soient adaptés à la situation. Former les utilisateurs à reconnaître ces limites fait partie d’un usage responsable.

Principes éthiques et conformité : deux exigences complémentaires

Une initiative comme CERTAIN peut contribuer à diffuser des bonnes pratiques et à créer un langage commun entre acteurs européens. L’AI Act, de son côté, fixe un cadre contraignant. Les deux approches ne s’opposent pas : une conformité minimale sans réflexion éthique peut laisser subsister des effets indésirables, tandis qu’une ambition éthique sans mécanisme de contrôle peut rester déclarative.

La différence est particulièrement importante pour les outils susceptibles d’influencer un accès à l’emploi, à l’éducation, à certains services ou à des prestations. Dans ces situations, la qualité technique ne suffit pas. Il faut se demander si le système est approprié, si ses critères sont proportionnés et si une personne peut contester un résultat qui lui porte préjudice.

Ce que cela change pour les utilisateurs de l’IA

Pour le grand public, l’enjeu n’est pas de connaître chaque article du règlement. Il est de pouvoir utiliser des services numériques sans perdre le contrôle sur des décisions qui comptent. Une personne doit pouvoir savoir si elle interagit avec une IA, comprendre la place de cet outil dans un processus important et identifier un interlocuteur responsable lorsque quelque chose semble anormal.

Cette exigence vaut aussi pour les outils génératifs, capables de produire du texte, des images ou des contenus audio. Leur diffusion rapide soulève des questions de fiabilité, de désinformation et de traçabilité. L’éthique de l’IA ne se limite donc pas à empêcher un scénario spectaculaire : elle consiste aussi à réduire les erreurs ordinaires, les manipulations et les opacités qui, accumulées, peuvent fragiliser la confiance.

Le respect des droits fondamentaux doit être pensé pour tous les publics. Un service mal conçu peut désavantager des personnes en situation de handicap, celles qui ne maîtrisent pas le langage administratif ou celles dont les caractéristiques sont insuffisamment représentées dans les données d’entraînement. L’inclusivité ne relève pas seulement de la communication : elle doit être évaluée dans les usages réels.

Ce qu’il faut surveiller

L’avenir de CERTAIN dépendra de sa capacité à dépasser l’énoncé de principes. Pour devenir un repère utile, une telle initiative devrait clarifier son périmètre, rendre visibles les acteurs associés, publier des méthodes d’évaluation et montrer comment ses recommandations sont appliquées. La transparence demandée aux systèmes d’IA doit aussi s’appliquer aux cadres qui prétendent les encadrer.

Le déploiement progressif de l’AI Act sera l’autre point central à suivre. Les organisations devront traduire un texte complexe en procédures opérationnelles, sans transformer la conformité en simple exercice documentaire. Les autorités compétentes, les entreprises, les chercheurs et la société civile auront un rôle à jouer pour préciser ce que signifie, dans la pratique, une IA digne de confiance.

L’Europe entend faire de la protection des personnes un élément de sa stratégie technologique. CERTAIN s’inscrit, par son ambition affichée, dans cette vision. Le véritable test ne sera pas la multiplication des déclarations d’intention, mais la capacité à construire des systèmes dont les effets peuvent être examinés, contestés et corrigés.