IA et décideurs humains : pourquoi les algorithmes doivent apprendre à se retenir

L’intelligence artificielle est souvent présentée comme un moyen de rendre les décisions plus rapides, plus cohérentes et plus objectives. Pourtant, placer une recommandation algorithmique devant un décideur ne suffit pas à améliorer son jugement. Dans certains cas, cela peut même le désorienter, en particulier si l’outil paraît trop opaque, trop sûr de lui ou mal adapté à la façon dont une personne évalue une situation.

C’est le point de départ des travaux évoqués par Jann Spiess et son collègue Bryce McLaughlin. Leur idée est simple en apparence, mais exigeante dans sa mise en œuvre : une IA utile ne doit pas seulement être performante sur le plan statistique. Elle doit être pensée en fonction de l’être humain qui la consulte, de ses incertitudes, de ses connaissances et de la responsabilité qu’il conserve dans la décision finale.

Cette approche est appelée complémentarité. Plutôt que de transformer l’algorithme en substitut du décideur, elle vise à organiser une coopération : la machine apporte ce qu’elle sait calculer ou repérer dans de grandes quantités de données, tandis que l’humain mobilise son expérience, sa compréhension du contexte et sa capacité à arbitrer entre des objectifs parfois contradictoires.

L’IA ne rend pas automatiquement les décisions meilleures

L’idée selon laquelle un outil d’IA améliorerait mécaniquement toute décision est trompeuse. Un modèle peut produire une prédiction très précise dans un cadre donné tout en étant peu utile, voire contre-productif, lorsqu’une personne doit interpréter son résultat dans une situation réelle.

Les recherches sur les décisions assistées par algorithme soulignent notamment que, dans les situations à forts enjeux, l’assistance de l’IA n’aboutit pas nécessairement à de meilleurs résultats que l’absence d’assistance. Ce constat ne signifie pas que l’algorithme serait inutile. Il rappelle plutôt qu’une décision est plus qu’un score ou une probabilité : elle implique de comprendre le cas traité, d’identifier les limites d’une recommandation et d’assumer ses conséquences.

Le domaine des rapports de crédit illustre cette difficulté. Un score de risque peut paraître clair parce qu’il est chiffré. Mais une confiance excessive dans ce chiffre peut conduire l’utilisateur à mal interpréter ce qu’il mesure réellement, les données sur lesquelles il repose ou ce qu’il ne prend pas en compte. Le risque n’est donc pas seulement une erreur du logiciel. C’est aussi une mauvaise interaction entre un outil et la personne qui l’utilise.

Dans une entreprise, une administration, une banque ou un établissement scolaire, un dispositif d’IA devrait donc être évalué selon deux questions distinctes : le modèle est-il performant ? Et son usage aide-t-il réellement les personnes à prendre de meilleures décisions ? La seconde question est souvent négligée, alors qu’elle est décisive.

Concevoir l’algorithme autour de son utilisateur

La conception de nombreuses applications d’IA met en avant la puissance technique : précision de la prédiction, vitesse de calcul, capacité à traiter de grands volumes de données. Ces critères restent importants, mais ils ne disent pas comment un utilisateur va recevoir une recommandation, lui faire confiance ou au contraire l’ignorer.

L’approche défendue par les chercheurs consiste à intégrer l’utilisateur dès la conception. Il ne s’agit pas seulement de rendre l’interface plus agréable. Il faut comprendre les forces et les faiblesses respectives de l’humain et de l’algorithme dans une tâche précise.

Un responsable du recrutement, par exemple, peut être capable de repérer des éléments de contexte qu’un modèle ne voit pas dans un dossier. À l’inverse, il peut hésiter lorsqu’il faut comparer rapidement de nombreux profils similaires ou interpréter des informations nombreuses. L’outil ne devrait pas nécessairement parler en permanence. Il pourrait apporter une information ciblée au moment où elle est la plus utile.

Cette logique suppose aussi de clarifier la manière dont l’algorithme formule ses recommandations. Une personne qui ne comprend ni le rôle de l’outil ni le degré d’incertitude de sa suggestion risque de tomber dans deux excès opposés : suivre aveuglément le système, ou le rejeter sans examen. Dans les deux cas, le potentiel de l’assistance algorithmique est perdu.

Qu’est-ce qu’un algorithme complémentaire ?

Le cadre conceptuel élaboré par Jann Spiess et Bryce McLaughlin cherche à modéliser la réaction des humains face aux recommandations algorithmiques. Son ambition n’est pas de minimiser la place du décideur, mais de bâtir une collaboration plus efficace entre une personne et une machine.

L’algorithme dit complémentaire se distingue d’un système prédictif traditionnel par sa façon d’intervenir. Là où un outil classique peut délivrer une recommandation pour chaque dossier, une IA complémentaire est conçue pour faire des suggestions spécifiques dans les situations où l’utilisateur est confronté à une incertitude particulière.

Cette sélectivité est importante. Une recommandation répétée à tout propos peut provoquer une dépendance, de la lassitude ou une perte d’attention. À l’inverse, un conseil formulé lorsque la personne hésite peut apporter une information utile sans effacer son expertise. L’enjeu n’est donc pas de maximiser le nombre de recommandations, mais leur pertinence dans le processus de décision.

Une expérience de recrutement pour tester les recommandations

Pour étudier ces mécanismes, les chercheurs ont mené une expérience de recrutement simulée. Les participants étaient exposés à différentes stratégies de recommandation algorithmique. L’objectif était d’observer non pas seulement la qualité théorique d’une prédiction, mais les décisions effectivement prises par des individus qui reçoivent une aide de l’IA.

Le résultat mis en avant est clair : les participants aidés par un algorithme complémentaire, qui intervenait dans les cas d’incertitude, ont obtenu de meilleurs résultats que ceux utilisant un algorithme prédictif traditionnel. Cette observation renforce l’idée que la manière de présenter et de déclencher une recommandation compte autant que la recommandation elle-même.

Il faut toutefois interpréter ce type de résultat avec prudence. Une simulation de recrutement permet de comparer des stratégies dans un environnement contrôlé. Elle ne règle pas à elle seule les questions concrètes que soulève l’usage d’une IA dans une organisation : qualité des données, règles de non-discrimination, procédures de recours, confidentialité des informations ou formation des équipes.

Elle apporte néanmoins un enseignement opérationnel : avant de déployer un assistant algorithmique, une organisation devrait tester la façon dont ses utilisateurs réagissent à ses conseils. Un modèle efficace sur un tableau de résultats peut échouer s’il incite les professionnels à négliger leur propre expertise ou s’il ne les aide pas au bon moment.

Transparence, formation et responsabilité restent indispensables

Concevoir une IA complémentaire ne revient pas à résoudre automatiquement les enjeux éthiques. L’outil peut contribuer à une décision plus éclairée, mais il ne doit pas servir à diluer la responsabilité de ceux qui le choisissent ou l’emploient.

Trois conditions ressortent particulièrement de cette approche :

• Une compréhension suffisante de l’outil, afin que ses recommandations ne soient pas prises pour des vérités absolues.
• Une interface intelligible, qui aide à comprendre ce que la suggestion apporte au dossier traité, sans créer une illusion de certitude.
• Une formation des utilisateurs, pour leur permettre d’identifier les limites de l’algorithme et d’utiliser ses conseils avec discernement.
• Un contrôle humain réel, surtout lorsque la décision affecte l’accès à un emploi, un crédit, un accompagnement ou une ressource publique.

La formation n’implique pas que chaque utilisateur doive maîtriser les mathématiques des modèles. Elle consiste avant tout à savoir ce que l’outil est censé faire, les cas dans lesquels son avis est utile et ceux dans lesquels un examen humain approfondi demeure nécessaire.

Des applications possibles dans l’action publique

Les implications de cette recherche dépassent le recrutement ou le crédit. Elles concernent aussi les décisions de politique publique et l’allocation de ressources limitées. Dans ces domaines, les données à grande échelle peuvent aider à mieux cibler une intervention, à condition que le processus reste transparent et que ses objectifs soient clairement définis.

Jann Spiess s’intéresse en particulier à l’affectation de ressources dans des contextes contraints, comme le placement de tuteurs dans des zones scolaires défavorisées. Lorsqu’il n’est pas possible d’aider tout le monde de la même manière, la question devient : comment orienter une ressource limitée pour produire le meilleur effet possible ?

Des techniques habituellement associées à des logiques commerciales, comme le ciblage utilisé dans la publicité, peuvent inspirer une réflexion sur le ciblage social. Mais le transfert ne peut pas être mécanique. Dans la publicité, le succès peut être mesuré par une réaction ou une conversion. Dans l’action sociale, les critères sont plus complexes : équité, besoins réels, accès aux droits, effets à long terme et acceptabilité des décisions.

C’est pourquoi l’IA ne peut pas déterminer seule ce qui est souhaitable. Elle peut éclairer l’allocation de ressources à partir d’informations nombreuses, mais les priorités collectives doivent rester fixées par des responsables humains, dans un cadre compréhensible et contestable.

Ce qu’il faut surveiller

La recherche sur la complémentarité humain-IA ouvre une piste concrète face à la tentation du tout-automatique. La question n’est pas seulement de savoir si les systèmes deviendront plus précis. Elle est de savoir s’ils sauront mieux coopérer avec les personnes qui les utilisent.

Les prochaines avancées devront notamment démontrer que ces principes résistent aux conditions réelles : diversité des utilisateurs, contraintes de temps, dossiers incomplets, pressions organisationnelles et décisions aux conséquences très différentes. Une recommandation pertinente dans une expérience contrôlée doit encore prouver sa valeur dans les pratiques quotidiennes.

La collaboration entre spécialistes de l’économie, de la technologie et des sciences sociales apparaît ici essentielle. Dans un environnement d’innovation tel que la Silicon Valley, cette rencontre des disciplines peut favoriser des applications concrètes. Mais la réussite ne se mesurera pas seulement à la sophistication des algorithmes. Elle dépendra de leur capacité à renforcer le jugement humain, à rendre les processus plus transparents et à soutenir des décisions dont les personnes concernées peuvent comprendre la logique.