Pourquoi une IA humanisée risque d’être davantage blâmée pour ses erreurs

Une erreur commise par un système d’intelligence artificielle peut-elle vraiment être « sa » faute ? La question semble abstraite, mais elle devient très concrète dès lors qu’un outil automatise un recrutement, classe des photos de manière discriminatoire ou assiste une décision médicale. À mesure que les interfaces conversationnelles et les robots adoptent une voix, un visage, un prénom ou des traits de personnalité, il devient aussi plus facile de les juger comme des personnes.

Une étude de Minjoo Joo, de l’Université des Femmes Sookmyung en Corée du Sud, publiée dans PLOS ONE, met en évidence ce mécanisme. Ses expériences suggèrent que les individus attribuent davantage de blâme à une intelligence artificielle lorsque celle-ci est présentée comme dotée de caractéristiques humaines. Dans le même mouvement, ils tendent à moins blâmer les développeurs et les entreprises liés au système.

Ce résultat ne signifie pas qu’une machine devient soudainement responsable de ses actes au sens juridique. Il montre plutôt que notre perception sociale de l’IA peut déplacer la faute. Et ce déplacement est loin d’être anodin : il peut brouiller l’identification des décisions humaines, des données, des choix de conception et des intérêts économiques qui se trouvent derrière un système automatisé.

Ce que l’étude révèle sur le blâme attribué aux IA

Les travaux de Minjoo Joo portent sur la manière dont le public évalue une transgression morale impliquant une IA. Parmi les scénarios examinés figurent des cas de discrimination raciale dans la classification de photographies. Les participants devaient apprécier la responsabilité des différents acteurs lorsque le système produisait un résultat problématique.

Le constat central est le suivant : une IA semble plus coupable aux yeux des participants lorsqu’elle paraît plus humaine. Cette impression d’humanité ne repose pas nécessairement sur un robot qui marcherait ou parlerait comme une personne. Dans les expériences évoquées, des éléments de présentation comme un nom, un âge ou des passe-temps suffisent à modifier le jugement porté sur elle.

Cette réaction s’explique en partie par notre tendance à prêter des intentions, des pensées et des émotions aux entités qui nous ressemblent. C’est ce que l’on appelle l’anthropomorphisme : nous projetons des caractéristiques humaines sur des objets, des animaux ou, désormais, des logiciels. Lorsqu’un assistant répond à la première personne, affiche une humeur ou raconte des préférences fictives, il devient plus facile de l’imaginer capable de vouloir, choisir et donc fauter.

Pourquoi une apparence humaine ne prouve pas une intention

Il faut distinguer l’apparence d’une intention réelle. Les systèmes d’IA actuels produisent des résultats à partir de modèles, de données, de paramètres et de règles de fonctionnement définis au cours de leur développement et de leur déploiement. Leur autonomie pratique peut être importante, notamment lorsqu’ils opèrent rapidement ou à grande échelle, mais elle ne se confond pas automatiquement avec une conscience, une volonté propre ou une compréhension morale.

Or, dans la vie courante, le blâme moral vise souvent un agent que l’on pense capable de comprendre une règle, d’anticiper les conséquences de son action et de choisir autrement. Une personne qui commet une faute peut être interrogée sur ses motifs. Une IA, elle, ne peut pas expliquer une intention vécue ni réparer moralement un tort par remords. Elle peut générer une justification textuelle, mais cette réponse ne démontre pas qu’elle éprouve une intention ou une responsabilité.

Dans un système de classification de photos présentant un biais racial, de nombreuses causes doivent être examinées avant de désigner un responsable :

• la constitution et la qualité des données utilisées ;
• les catégories choisies pour entraîner ou configurer le système ;
• les critères de performance retenus par les concepteurs ;
• les tests réalisés avant la mise en service ;
• le contexte dans lequel l’outil est utilisé et le contrôle humain prévu ;
• les décisions de l’organisation qui l’achète, le déploie ou s’appuie sur son résultat.

Parler d’une « IA raciste » peut ainsi sembler commode, mais cette formule risque de résumer abusivement un problème sociotechnique complexe. Elle peut donner l’illusion qu’un logiciel isolé serait l’unique auteur du dommage, alors que les biais reflètent ou amplifient souvent des choix et des inégalités déjà présents dans les données et les institutions.

Le risque du bouc émissaire technologique

Le résultat le plus préoccupant de l’étude est peut-être moins l’augmentation du blâme visant l’IA que la diminution parallèle du blâme visant les humains. Une entreprise pourrait être tentée de présenter un système comme un acteur presque indépendant, puis d’évoquer une « erreur de l’algorithme » lorsqu’un préjudice apparaît. Cette formulation gomme la question décisive : qui a choisi de confier cette tâche à cette technologie, avec quelles garanties et quelle supervision ?

La responsabilité peut être répartie sans être diluée. Un développeur ne maîtrise pas toujours chaque usage futur de son outil. L’entreprise qui le déploie peut néanmoins décider de l’employer dans une situation sensible. Un utilisateur professionnel peut, de son côté, ignorer une alerte, se fier aveuglément à un score ou utiliser le système hors de son cadre prévu. Identifier ces rôles n’a rien d’un exercice théorique : c’est la condition pour corriger un problème et indemniser, le cas échéant, les personnes affectées.

Responsabilité morale et responsabilité juridique : deux notions différentes

La responsabilité morale relève de l’évaluation sociale d’un comportement : qui mérite le reproche, qui a agi de façon injuste, qui aurait dû faire autrement ? La responsabilité juridique, elle, permet d’identifier un sujet de droit auquel une obligation, une sanction ou une réparation peut être rattachée selon les règles applicables.

Ces deux plans se recoupent parfois pour les êtres humains et les organisations, mais ils ne sont pas identiques. Une entreprise peut, par exemple, être légalement responsable d’un dispositif qu’elle commercialise ou utilise, même si aucune personne précise n’a voulu provoquer le dommage. À l’inverse, le public peut ressentir un fort reproche moral contre une IA personnifiée, sans qu’il existe pour autant une base juridique pour poursuivre la machine elle-même.

En décembre 2024, les IA ne disposent pas d’une personnalité juridique comparable à celle d’un individu ou d’une société. Elles ne possèdent pas de patrimoine propre, ne peuvent pas payer une indemnisation, ni être placées sous le coup d’une peine au sens habituel. Imaginer une personnalité juridique de l’IA ouvrirait donc des questions considérables : à qui rattacherait-on ses ressources, comment assurer les victimes, qui contrôlerait son représentant et, surtout, quel intérêt y aurait-il à créer une nouvelle entité responsable si cela permettait aux personnes et entreprises impliquées de s’effacer ?

Les débats philosophiques sur d’éventuels droits des machines existent, mais ils ne doivent pas faire oublier les problèmes immédiats. Les dommages liés aux IA sont aujourd’hui causés dans des environnements conçus, financés et gouvernés par des humains.

Ce que change le cadre européen sur l’intelligence artificielle

L’Union européenne a adopté le règlement sur l’intelligence artificielle, couramment appelé AI Act, entré en vigueur le 1er août 2024. Son approche ne consiste pas à rendre une IA juridiquement responsable. Elle organise au contraire des obligations pour les acteurs humains et économiques qui interviennent dans son cycle de vie : fournisseurs, déployeurs, importateurs, distributeurs et, dans certains cas, fabricants de produits.

Le texte classe les usages selon leur niveau de risque. Il interdit certaines pratiques et impose des exigences renforcées pour des systèmes considérés comme à haut risque. Les obligations sont appelées à s’appliquer progressivement, suivant le type de système concerné. Cette architecture répond à un principe simple : lorsqu’une technologie produit des effets sur les droits, la sécurité ou l’accès à des opportunités, il faut pouvoir identifier les personnes et organisations chargées de prévenir les risques, de documenter le fonctionnement et de surveiller l’usage.

Cette logique est particulièrement importante dans les domaines où une erreur peut avoir de lourdes conséquences : emploi, éducation, santé, services publics, crédit, maintien de l’ordre ou infrastructures critiques. Un système peut assister une décision, mais sa présence ne doit pas créer un angle mort dans la chaîne des responsabilités.

Faut-il renoncer aux IA au ton humain ?

Pas nécessairement. Une interface chaleureuse peut rendre un service plus accessible, aider un utilisateur à formuler une demande ou diminuer la difficulté d’usage d’un outil numérique. Dans certains contextes, notamment l’accompagnement ou l’éducation, une conversation claire et empathique en apparence peut favoriser l’engagement.

Le problème apparaît lorsque la mise en scène de l’humanité entretient une confusion sur la nature du système. Un prénom, une voix expressive ou un avatar ne devraient pas faire croire que l’outil est un collègue conscient, un professionnel responsable ou un interlocuteur doté de véritables émotions. La transparence ne consiste pas seulement à afficher une mention indiquant qu’il s’agit d’une IA. Elle suppose aussi de ne pas concevoir l’interface de manière à transférer implicitement la faute sur la machine.

Pour les organisations, cela implique de prévoir des procédures très concrètes : informer les utilisateurs du rôle de l’IA, documenter les décisions automatisées, tester les risques de biais, maintenir des voies de recours et désigner des responsables capables d’intervenir. Une IA peut contribuer à une décision, mais elle ne doit pas devenir le dernier maillon opaque auquel tout le monde renvoie la responsabilité.

Ce qu’il faut surveiller

L’étude de Minjoo Joo ouvre un chantier de recherche essentiel : comment la présentation d’une IA influence-t-elle nos décisions morales et juridiques ? Les réponses compteront à mesure que ces systèmes se rapprocheront du public, par des assistants conversationnels, des agents autonomes ou des robots présents dans les entreprises et les espaces de soin.

Il faudra notamment observer si les utilisateurs comprennent qui prend réellement les décisions, si les entreprises assument leurs choix de déploiement et si les dispositifs de contrôle restent effectifs lorsque l’IA paraît très autonome. Le défi n’est pas de nier que les machines puissent avoir des effets réels et parfois graves. Il est de refuser qu’une apparence d’humanité serve à masquer la responsabilité de ceux qui les ont conçues, entraînées, vendues ou mises en action.

La question la plus utile n’est donc pas seulement « l’IA est-elle coupable ? ». Elle est aussi : quelles décisions humaines ont rendu cette erreur possible, qui peut la corriger, et comment les personnes lésées peuvent-elles obtenir une réponse ? C’est sur cette traçabilité que repose une IA digne de confiance.