IA et algorithmes : comment les orienter vers un bénéfice collectif

Un algorithme n’est ni neutre par nature ni magique. C’est une suite d’instructions qui transforme des données en un résultat : une recommandation de vidéo, un classement de candidatures, une estimation du risque médical ou une suggestion d’action. L’intelligence artificielle élargit cette logique en permettant à certains systèmes d’apprendre des régularités dans de très grands volumes de données. Bien conçus et correctement surveillés, ces outils peuvent soutenir des décisions plus cohérentes. Mal conçus ou déployés sans garde-fous, ils peuvent au contraire automatiser des erreurs et des inégalités.

Cette ambivalence est au cœur du débat public sur l’IA. Le véritable enjeu n’est pas seulement de savoir ce que la technologie rend techniquement possible. Il est de déterminer dans quel but elle est utilisée, avec quelles données, qui peut la contester et qui reste responsable de ses effets. Recrutement, médecine et réseaux sociaux illustrent particulièrement bien cette question.

Ce que les algorithmes changent dans la vie collective

Les systèmes algorithmiques sont devenus des outils de tri, de prévision et de recommandation. Ils peuvent traiter rapidement un nombre de cas ou de variables qu’une personne aurait du mal à examiner seule. Dans une organisation, cela peut signifier repérer des dossiers incomplets, hiérarchiser des demandes ou signaler une situation qui mérite une attention particulière.

Mais la rapidité n’est pas synonyme de justesse. Un résultat algorithmique dépend notamment de quatre éléments :

• la qualité des données, qui peuvent être incomplètes, anciennes ou déséquilibrées ;
• la règle ou le modèle choisi, qui traduit toujours des priorités humaines ;
• le contexte d’utilisation, car une même prédiction ne doit pas entraîner les mêmes conséquences partout ;
• la possibilité d’un contrôle humain, d’une explication et d’un recours lorsqu’une décision affecte une personne.

L’IA ne remplace donc pas automatiquement une décision humaine. Elle déplace souvent le travail : il faut définir le problème, vérifier les données, interpréter le résultat et contrôler les effets réels du système. Dans les domaines où une erreur peut priver quelqu’un d’un emploi, d’un droit ou d’un soin adapté, cette vigilance est essentielle.

Recrutement : l’IA peut-elle réduire les discriminations ?

Le recrutement est l’un des terrains les plus sensibles. Les employeurs reçoivent parfois un très grand nombre de candidatures et peuvent être tentés d’utiliser des outils pour les classer ou en extraire des informations. Ces solutions promettent de faire gagner du temps et d’appliquer les mêmes critères à tous les dossiers.

Elles se heurtent pourtant à un problème fondamental : les données historiques reflètent les pratiques historiques. Si, dans le passé, certains profils ont été moins souvent recrutés en raison du genre, de l’origine supposée, du lieu de résidence, de l’âge, du handicap ou du parcours, un modèle entraîné sur ces décisions risque d’apprendre ces régularités. Le biais n’est alors pas nécessairement inscrit explicitement dans une consigne. Il peut se cacher dans des variables apparemment anodines, ou dans les exemples ayant servi à entraîner le système.

L’intérêt potentiel des outils algorithmiques est aussi de rendre certains écarts observables. Là où un jugement individuel peut être difficile à documenter, il devient possible d’examiner les taux de sélection selon différents groupes, de comparer les résultats à compétences égales et de tester les conséquences d’un critère. Cette capacité de mesure ne suffit pas à corriger une discrimination, mais elle peut alimenter un audit plus rigoureux.

Pour être utile, une IA de recrutement devrait rester un outil d’assistance, et non une boîte noire qui écarte automatiquement des personnes. L’organisation qui l’emploie doit pouvoir expliquer ses critères, surveiller les résultats et maintenir une voie de recours. Elle doit surtout se demander si l’automatisation est nécessaire à chaque étape : tous les choix humains ne gagnent pas à être transformés en scores.

Santé : l’outil de calcul ne remplace pas le médecin

Dans le domaine médical, les algorithmes peuvent aider à structurer l’évaluation d’une situation clinique. Le Glasgow-Blatchford Score, ou score de Glasgow-Blatchford, en est un exemple. Il est utilisé pour évaluer la gravité chez des patients présentant des saignements gastro-intestinaux, notamment afin d’apprécier leur niveau de risque.

Ce score repose sur des informations cliniques et biologiques. Il ne faut pas le confondre avec une IA générative ou un système d’apprentissage automatique contemporain : il s’agit d’un outil de stratification du risque, fondé sur une formule et des critères définis. Son intérêt est de proposer un cadre commun pour apprécier une situation. Il ne délivre pas, à lui seul, un diagnostic complet ni une décision de prise en charge.

L’étude évoquée à propos de cet outil souligne que le conseil d’experts médicaux peut améliorer les évaluations. C’est une leçon importante pour l’ensemble de l’IA en santé : la technologie peut enrichir l’analyse, mais elle ne doit pas évincer l’expertise clinique. Le médecin ou l’équipe soignante connaît le contexte du patient, ses antécédents, les limites des données disponibles et les conséquences concrètes d’une décision.

L’usage responsable suppose donc une validation rigoureuse, une information claire des soignants et une attention constante à la sécurité. Une recommandation informatique doit pouvoir être questionnée, surtout lorsqu’elle concerne une personne vulnérable ou une situation d’urgence.

Réseaux sociaux : la personnalisation enferme-t-elle dans une bulle ?

Sur les plateformes sociales, les systèmes de recommandation analysent les signaux laissés par les utilisateurs : contenus regardés, réactions, abonnements, temps passé ou interactions. Leur objectif est généralement de sélectionner, parmi une immense quantité de publications, celles qui paraissent les plus susceptibles d’intéresser chaque personne.

Cette personnalisation a un avantage évident : elle réduit la difficulté à trouver un contenu pertinent. Mais elle comporte aussi un risque de répétition. Lorsqu’un système privilégie systématiquement ce qui ressemble aux choix précédents de l’utilisateur, il peut réduire son exposition à des idées, des sujets et des sources différents. C’est l’une des préoccupations associées aux bulles informationnelles.

Le problème ne vient pas seulement de la technologie, mais de l’indicateur qu’elle cherche à optimiser. Si une plateforme privilégie avant tout la réaction immédiate ou le temps passé, elle peut mettre en avant des contenus très engageants à court terme sans nécessairement favoriser une expérience satisfaisante, diverse ou utile sur la durée.

Des choix de conception peuvent néanmoins redonner de la marge de manœuvre aux utilisateurs : permettre de comprendre pourquoi un contenu est recommandé, offrir des réglages compréhensibles, faciliter l’accès à un fil chronologique ou à des sources variées, et éviter de confondre l’intérêt immédiat avec le bien-être à long terme. La recommandation n’est jamais une fatalité technique : elle résulte de règles que les plateformes choisissent.

Faire converger intérêt commercial et intérêt des utilisateurs

Les entreprises qui développent des services numériques ont des objectifs économiques légitimes. Toutefois, la recherche de performance ne doit pas se limiter à un volume de clics, à une durée de consultation ou à une baisse des coûts. Les recherches consacrées à l’alignement entre plateformes et utilisateurs invitent à considérer la satisfaction à long terme comme un objectif plus solide.

Un service conçu dans cette perspective ne cherche pas uniquement à retenir l’attention au moment présent. Il s’interroge aussi sur la confiance, la qualité de l’information, la capacité de l’utilisateur à faire ses propres choix et les effets cumulés de l’usage. Cette approche est particulièrement pertinente pour les réseaux sociaux, mais elle vaut aussi pour les outils de recherche, les plateformes d’emploi et les services d’assistance automatisée.

Cela implique des arbitrages. Une interface qui rend un choix plus réfléchi peut parfois générer moins d’interactions instantanées. Une procédure de vérification peut ralentir un processus. Pourtant, ces contraintes peuvent renforcer la confiance, réduire les erreurs et, à terme, consolider la relation entre un service et ses utilisateurs.

L’Union européenne pose un cadre progressif pour l’IA

L’encadrement juridique est devenu indispensable à mesure que l’IA entre dans des domaines sensibles. En juin 2023, le Parlement européen a adopté sa position de négociation sur le projet de règlement consacré à l’intelligence artificielle. Cette étape a marqué une volonté claire : encadrer les risques sans empêcher le développement des usages considérés comme bénéfiques.

Au 22 janvier 2025, le texte est devenu le règlement européen sur l’intelligence artificielle, souvent appelé AI Act. Il repose sur une logique de niveaux de risque. Plus un système peut affecter fortement la sécurité, les droits fondamentaux ou les conditions de vie d’une personne, plus les obligations prévues sont importantes. Certaines pratiques sont interdites, tandis que les systèmes dits à haut risque sont soumis à des exigences renforcées.

L’application du règlement est progressive. Les premières dispositions relatives aux pratiques interdites doivent commencer à s’appliquer le 2 février 2025. Cette progressivité laisse aux acteurs le temps de se préparer, mais elle ne dispense pas les organisations de réfléchir dès maintenant à leurs usages, à leur documentation et à leur gouvernance des données.

La régulation ne remplace pas la responsabilité des concepteurs, des entreprises et des institutions. Elle fixe un socle, notamment sur la transparence, la sécurité et les droits. Pour être réellement protectrice, elle doit s’accompagner de compétences internes, de contrôles effectifs et d’une capacité à corriger les systèmes lorsqu’ils produisent des effets indésirables.

Ce qu’il faut surveiller pour que l’IA serve le bien commun

L’IA peut contribuer à répondre à des problèmes complexes, qu’il s’agisse de mieux répartir des ressources, d’assister des professionnels ou de détecter des tendances dans des données. Mais cette promesse ne se réalise pas automatiquement parce qu’un logiciel est qualifié d’intelligent. Elle dépend de choix collectifs très concrets.

Trois questions devraient accompagner chaque nouveau déploiement. D’abord, quel problème cherche-t-on réellement à résoudre et l’IA est-elle le bon outil ? Ensuite, qui supporte le risque d’erreur, en particulier lorsque les personnes concernées ont peu de moyens de contester une décision ? Enfin, comment mesurer les effets à long terme, au-delà d’un gain de productivité ou d’un indicateur de performance immédiat ?

La recherche, les professionnels de terrain, les pouvoirs publics, les entreprises et les citoyens ont tous un rôle dans cette discussion. L’avenir le plus utile n’est pas celui où les algorithmes décideraient à la place des humains. C’est celui où ils aideraient à mieux comprendre, mieux arbitrer et mieux agir, dans un cadre qui protège l’équité, l’autonomie et la responsabilité humaine.