Pourquoi l’explicabilité de l’IA devient décisive pour la justice et le droit

Une intelligence artificielle peut trier des milliers de décisions de justice, extraire des clauses contractuelles ou suggérer une réponse à une question juridique en quelques secondes. Mais, dans un domaine où chaque décision peut affecter les droits, les biens ou la réputation d’une personne, la vitesse ne suffit pas. Il faut aussi pouvoir comprendre ce qui a conduit l’outil à produire son résultat, en apprécier les limites et, si nécessaire, le contester.

C’est tout l’enjeu de l’explicabilité de l’IA. Cette notion est devenue centrale à mesure que les outils algorithmiques entrent dans les cabinets, les directions juridiques, les administrations et, plus largement, les procédures qui organisent la vie collective. Elle ne consiste pas à exiger que chacun lise le code informatique d’un modèle. Elle suppose plutôt que les personnes responsables de son usage puissent expliquer, de façon adaptée au contexte, ce que le système fait, sur quelles informations il s’appuie et pourquoi son résultat ne doit jamais être accepté aveuglément.

L’explicabilité de l’IA, de quoi parle-t-on exactement ?

Un système d’IA apprend ou applique des règles à partir de données afin de classer, prédire, recommander ou générer un contenu. Certains outils sont relativement simples à interpréter : il est possible d’identifier les critères qui font varier un résultat. D’autres, notamment les modèles complexes entraînés sur de très grandes quantités de données, sont beaucoup plus difficiles à lire de l’intérieur.

L’explicabilité vise à réduire cette opacité. Dans un contexte juridique, elle peut prendre plusieurs formes complémentaires :

• une présentation claire de la finalité de l’outil, par exemple rechercher de la jurisprudence ou hiérarchiser des documents ;
• l’identification des données utilisées et de leur qualité ;
• une indication des critères ou des éléments ayant le plus influencé une recommandation ;
• la communication des limites connues, des marges d’erreur et des cas dans lesquels le système ne devrait pas être employé ;
• la conservation de traces permettant de vérifier a posteriori le fonctionnement et l’usage de l’outil.

Il faut distinguer l’explication de la simple transparence technique. Rendre public un code source très complexe ne suffit pas forcément à éclairer un avocat, un magistrat ou une personne concernée. À l’inverse, une explication en langage courant, reliée au dossier et à la décision envisagée, peut être réellement utile même si elle ne détaille pas chaque calcul réalisé par la machine.

Pourquoi l’opacité est-elle particulièrement problématique dans le droit ?

Le droit ne se limite pas à parvenir à un résultat. Il organise aussi une méthode : exposer les faits, appliquer une règle, motiver une décision et permettre le débat contradictoire. Une personne qui ne comprend ni les éléments retenus contre elle ni la logique qui a conduit à une décision aura beaucoup plus de mal à défendre ses intérêts.

Cette exigence se retrouve dans les usages les plus courants de l’IA juridique. Un outil qui aide à retrouver des précédents judiciaires doit permettre de vérifier que les textes et décisions cités existent, sont pertinents et sont à jour. Un système qui examine des contrats doit signaler les passages à contrôler, sans faire disparaître la responsabilité du juriste qui les interprète. Une IA générative peut accélérer une première rédaction, mais elle peut aussi produire des références inexactes ou présenter avec assurance une analyse erronée.

Plus l’outil intervient près d’une décision susceptible d’avoir des conséquences concrètes pour une personne, plus les exigences doivent être élevées. Le danger n’est pas seulement celui d’une erreur technique. Une recommandation opaque peut influencer un professionnel qui lui accorde une confiance excessive, alors même qu’il ne peut ni en tester le raisonnement ni en repérer les angles morts.

Une bonne explication doit être utile à la personne qui la reçoit

L’explicabilité n’a pas le même sens pour tous les publics. Une équipe technique a besoin d’informations sur le modèle, les données d’entraînement, les tests et les performances. Un juriste doit savoir dans quelles situations l’outil peut être employé, comment contrôler sa sortie et qui contacter en cas d’incident. Une personne affectée par une décision a besoin d’une information intelligible sur les éléments ayant compté et sur les voies de recours disponibles.

Cette adaptation est essentielle. Une documentation de plusieurs centaines de pages ne protège pas, à elle seule, les droits d’un justiciable. De même, une formule vague comme « l’algorithme l’a décidé » n’est pas une explication. Une information utile doit répondre à des questions concrètes : quelle est la finalité du système ? quelles données concernent la personne ? un humain peut-il modifier le résultat ? comment demander un réexamen ?

La possibilité de contester est tout aussi importante que l’explication initiale. Dans le domaine juridique, une erreur doit pouvoir être examinée par une personne compétente, qui dispose d’une marge de jugement réelle et ne se borne pas à valider l’avis de la machine. L’intervention humaine n’est donc pas un simple bouton de confirmation placé à la fin d’un processus automatisé.

Biais algorithmiques : comprendre les inégalités avant qu’elles ne se reproduisent

Les biais algorithmiques ne signifient pas qu’une machine nourrit une intention discriminatoire. Ils apparaissent lorsqu’un système apprend à partir de données qui reflètent des inégalités, des erreurs ou des choix passés. Ils peuvent aussi être introduits par la manière de définir l’objectif, de sélectionner les variables ou d’interpréter les résultats.

Dans un contexte juridique, le problème est particulièrement sensible. Les données historiques ne constituent pas toujours une photographie neutre de la réalité. Elles peuvent porter la trace de pratiques antérieures inéquitables. Certaines caractéristiques apparemment anodines peuvent aussi servir de variables indirectes et conduire à différencier des personnes ou des groupes de façon injustifiée.

L’explicabilité aide à repérer ces difficultés, mais elle ne les résout pas automatiquement. Il faut examiner la représentativité des données, comparer les résultats obtenus pour différents groupes lorsque cela est pertinent et juridiquement possible, tester le système dans des conditions proches de son usage réel, puis documenter les anomalies constatées. Surtout, il faut définir à l’avance les situations dans lesquelles le recours à l’outil serait disproportionné ou inacceptable.

Confidentialité : l’autre face de la transparence

Le droit traite fréquemment des informations sensibles : identité, situation familiale, échanges confidentiels, données financières, éléments médicaux ou pièces de procédure. Déployer une IA dans ce cadre impose donc de concilier deux impératifs qui peuvent sembler opposés : disposer d’assez d’informations pour vérifier le système, tout en limitant strictement l’accès et la circulation des données personnelles.

La prudence commence dès la conception du projet. Avant de verser des documents dans un outil, une organisation doit savoir où les données sont traitées, qui peut y accéder, combien de temps elles sont conservées et si elles peuvent être réutilisées. La minimisation des données, la gestion des droits d’accès, la séparation des environnements et l’encadrement contractuel des prestataires font partie des précautions essentielles.

Le Règlement général sur la protection des données, ou RGPD, prévoit notamment un droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, lorsqu’elle produit des effets juridiques ou affecte la personne de manière significative de façon similaire. Des exceptions existent, mais elles sont encadrées. Le règlement prévoit aussi, dans plusieurs situations, la communication d’informations utiles sur la logique sous-jacente du traitement.

Il serait toutefois trompeur de résumer cette règle à un droit général et illimité à connaître tous les détails d’un algorithme. Le cadre applicable dépend de la nature de la décision, du rôle réel de l’humain, des données traitées et des garanties mises en place. Pour les professionnels du droit, l’enjeu consiste précisément à analyser ces paramètres avant, et non après, le déploiement.

Ce que l’AI Act change pour la justice et les professionnels du droit

L’Union européenne a adopté un règlement sur l’intelligence artificielle, couramment appelé AI Act. Entré en vigueur le 1er août 2024, ce texte instaure une approche graduée selon le niveau de risque des systèmes. Il ne remplace pas le RGPD, mais s’y ajoute, de même qu’aux autres règles applicables en matière de droits fondamentaux, de consommation, de responsabilité ou de procédure.

Le règlement classe parmi les systèmes à haut risque certains outils destinés à assister une autorité judiciaire dans la recherche et l’interprétation des faits et du droit, ainsi que dans l’application du droit à un ensemble concret de faits. Les activités administratives purement accessoires ne sont pas visées de la même manière. Cette distinction est importante : tous les logiciels employés dans le monde juridique ne relèvent pas automatiquement des exigences les plus strictes.

Pour les systèmes à haut risque, l’AI Act prévoit notamment des obligations relatives à la gestion des risques, à la qualité des données, à la documentation technique, à l’enregistrement d’événements, à la transparence et à la supervision humaine. L’objectif n’est pas de garantir qu’aucune erreur n’arrivera, ce qui serait irréaliste. Il est d’imposer une organisation capable d’anticiper les risques, d’en garder la trace et d’y répondre.

Voici le calendrier à connaître au 6 mars 2025 :

Cette mise en œuvre progressive laisse du temps aux organisations, mais elle ne doit pas être interprétée comme une invitation à attendre. La cartographie des outils déjà utilisés, l’identification des traitements de données et la définition de procédures de contrôle demandent du temps, particulièrement dans les structures qui manipulent des dossiers confidentiels.

Qui est responsable lorsqu’une IA se trompe ?

L’explicabilité répond aussi à une question très concrète : qui doit rendre des comptes lorsqu’un système produit une erreur ou contribue à un préjudice ? Une IA n’efface pas la responsabilité des personnes et des organisations qui la conçoivent, la fournissent, la paramètrent ou l’utilisent. Mais la répartition précise des responsabilités dépendra toujours des faits, des contrats, du cadre réglementaire et du rôle joué par chacun.

Dans la pratique, il est utile de distinguer plusieurs maillons : le fournisseur du système, l’organisation qui le déploie, l’éventuel intégrateur, les personnes qui alimentent l’outil en données et le professionnel qui s’appuie sur son résultat. Une trace claire des versions du modèle, des paramètres, des documents examinés et des contrôles effectués permet de reconstituer ce qui s’est passé. Sans cette traçabilité, il devient beaucoup plus difficile de corriger une erreur, d’en mesurer l’ampleur et de prévenir sa répétition.

Les professionnels du droit ont donc un rôle qui dépasse la vérification finale d’un texte généré. Ils peuvent participer dès le départ au choix des cas d’usage, à la rédaction des règles de recours, à l’évaluation des risques et à la formation des équipes. Leur expertise est nécessaire pour traduire des principes généraux, comme l’équité, le contradictoire ou la proportionnalité, en exigences opérationnelles pour les outils.

Ce qu’il faut surveiller avant de confier un dossier à une IA

L’IA explicable ne se décrète pas avec une clause marketing ou une interface qui affiche un score. Elle se construit par des choix de conception, de gouvernance et de contrôle. Avant d’adopter un outil, cabinets, administrations et directions juridiques ont intérêt à poser quelques questions simples : quel problème précis l’outil résout-il ? quel niveau d’erreur est acceptable ? quelles données sont nécessaires ? une sortie erronée peut-elle être détectée facilement ? qui prend la décision finale ?

Le prochain enjeu sera de transformer ces questions en pratiques régulières : tests avant déploiement, documentation à jour, formation des utilisateurs, audits proportionnés aux risques et mécanismes de signalement. La technologie peut rendre le travail juridique plus rapide et plus accessible. Elle ne sera véritablement digne de confiance que si ses recommandations restent contrôlables, contestables et placées sous une responsabilité humaine identifiable.