Une centaine d’ONG alertent sur une IA qui peut renforcer l’exploitation mondiale

À quelques jours du sommet pour l’action sur l’IA, prévu à Paris les 10 et 11 février 2025, une centaine d’organisations de la société civile lancent un avertissement. Dans une tribune publiée par Le Monde, elles estiment que l’intelligence artificielle aujourd’hui développée risque de consolider un « système mondial d’exploitation », plutôt que de servir spontanément l’intérêt général. Parmi les signataires figurent notamment Amnesty International et la Ligue des droits de l’homme.

Leur message ne consiste pas à rejeter toute utilisation de l’IA. Il porte sur les conditions de sa conception, de son financement et de son déploiement. Les ONG redoutent que des outils présentés comme plus rapides, plus objectifs ou moins coûteux reproduisent en réalité des rapports de force existants. Lorsqu’un algorithme intervient dans l’accès à un emploi, à une formation, à une prestation sociale ou à des soins, une erreur ou un biais peut avoir des conséquences très concrètes pour la personne concernée.

Une tribune qui met les droits humains au premier plan

Les signataires décrivent un développement technologique largement guidé par la recherche de profit et par une promesse d’efficacité. À leurs yeux, les questions humaines, sociales et environnementales ne sont pas suffisamment prises en compte dans cette course à l’adoption de l’IA.

Le terme d’« exploitation » employé dans leur appel renvoie à une inquiétude plus large que le seul fonctionnement des logiciels. Il invite à regarder l’ensemble de la chaîne de valeur, depuis les données utilisées pour entraîner les systèmes jusqu’aux décisions prises à partir de leurs résultats. Une technologie n’est jamais neutre par elle-même : ses effets dépendent des données sélectionnées, des objectifs qui lui sont assignés, des personnes qui la contrôlent et des possibilités de recours offertes à celles qu’elle affecte.

Pour les ONG, le risque est d’autant plus élevé que les publics déjà marginalisés disposent souvent de moins de moyens pour contester une décision automatisée ou demander une explication. Une recommandation erronée, un profil de risque mal calculé ou un dossier injustement écarté peut alors devenir difficile à corriger.

Pourquoi les algorithmes peuvent-ils reproduire des discriminations ?

Un algorithme apprend ou fonctionne à partir d’informations disponibles : données administratives, historiques de recrutement, dossiers médicaux, résultats scolaires, statistiques judiciaires ou comportements observés en ligne. Or, ces données reflètent souvent les inégalités de la société qui les a produites.

Si, par exemple, des personnes appartenant à un groupe ont historiquement eu moins accès à une formation, à un emploi ou à un crédit, un système entraîné sur cet historique peut interpréter cette situation comme une régularité à reproduire. Le problème ne vient donc pas seulement d’une variable explicitement liée au sexe, à l’origine ou au lieu de résidence. Des variables indirectes peuvent jouer un rôle comparable : code postal, type d’établissement fréquenté, interruptions de carrière ou historique de revenus.

Les ONG soulignent également que les bases de données peuvent être incomplètes et que les critères retenus dans un modèle ne sont jamais de simples évidences techniques. Choisir ce que signifie un « bon candidat », un « risque élevé » ou une « situation suspecte » implique des choix sociaux et politiques.

Il faut toutefois distinguer deux choses. Un résultat discriminatoire ne prouve pas à lui seul une volonté de discriminer de la part de toutes les personnes ayant conçu le système. En revanche, il impose d’examiner sérieusement l’outil, ses données et ses usages. Sans contrôle indépendant, tests adaptés et possibilité de contestation, les biais peuvent être détectés trop tard, une fois qu’ils ont déjà affecté des milliers de décisions.

Les exemples cités, de la formation à la justice

Dans leur appel, les organisations s’appuient sur plusieurs cas présentés comme révélateurs des risques de l’automatisation. Elles évoquent des algorithmes de santé marqués par des biais sexistes et racistes, ainsi que des outils employés dans l’orientation ou la protection sociale.

Le tableau suivant résume les situations mentionnées dans la tribune et le mécanisme d’alerte qu’elles illustrent.

Ces exemples rappellent qu’une décision assistée par ordinateur n’est pas automatiquement plus juste qu’une décision humaine. Son apparente objectivité peut même rendre sa contestation plus compliquée. Face à un agent public, un citoyen peut demander les raisons d’un refus, apporter des documents ou solliciter un réexamen. Face à un score calculé par un système opaque, il lui faut encore savoir qu’un algorithme est intervenu, comprendre son rôle et avoir accès à un recours effectif.

L’austérité peut transformer l’IA en outil de tri

La tribune relie explicitement ces risques aux politiques d’austérité. Ce point est central : pour les ONG, l’IA n’est pas déployée dans un vide politique. Elle peut être introduite dans des administrations dont les équipes sont déjà sous pression, avec la promesse de réduire les coûts, d’accélérer le traitement des dossiers ou de détecter la fraude.

Dans ce contexte, le danger n’est pas uniquement qu’un algorithme se trompe. C’est qu’il serve à organiser un tri plus strict dans l’accès aux droits, tout en réduisant les possibilités d’écoute et d’accompagnement. Une personne dont le dossier paraît « atypique » pour une machine peut nécessiter davantage de temps et de dialogue humain, pas moins.

L’automatisation peut pourtant avoir des usages utiles dans les services publics, par exemple pour classer des documents, repérer des informations manquantes ou alléger des tâches répétitives. Mais les bénéfices annoncés ne dispensent pas d’une question préalable : l’outil aide-t-il les agents à mieux accompagner les usagers, ou sert-il surtout à limiter l’accès aux prestations et à éloigner la décision du terrain ?

Les systèmes prédictifs sont-ils particulièrement sensibles ?

Les ONG s’inquiètent particulièrement de l’essor des IA dites prédictives dans les domaines de la justice et de la police. Ces systèmes ne prédisent pas l’avenir avec certitude. Ils calculent généralement une probabilité à partir de données passées et de critères choisis par leurs concepteurs ou leurs utilisateurs.

La nuance est essentielle. Un score de risque de récidive ne dit pas qu’une personne commettra une nouvelle infraction. Il indique seulement que, selon les données et les règles du système, elle est rapprochée de profils associés à un risque statistique. Pourtant, lorsqu’un tel score intervient dans une décision judiciaire ou policière, il peut peser lourdement sur le regard porté sur un individu.

Le problème devient particulièrement grave lorsque les données historiques sont elles-mêmes marquées par des pratiques discriminatoires. Des contrôles policiers plus fréquents dans certains quartiers, par exemple, peuvent produire davantage de données sur ces zones sans démontrer une délinquance intrinsèquement supérieure. Alimenter un modèle avec ces données risque alors de reconduire le cercle : plus de surveillance produit plus de signalements, qui justifient ensuite davantage de surveillance.

Réguler l’IA, au-delà des seules promesses techniques

Les ONG demandent que les droits humains deviennent un principe directeur du développement de l’IA. Dans cette perspective, une régulation utile ne se réduit pas à demander aux entreprises d’afficher des principes éthiques ou de promettre des outils plus performants. Elle doit s’intéresser aux effets réels sur les personnes.

Cela suppose notamment de pouvoir identifier les usages à haut risque, d’évaluer les impacts avant le déploiement, d’informer les personnes lorsqu’une décision les concernant s’appuie sur un système algorithmique et de garantir un recours humain. Il faut aussi s’interroger sur l’utilité même de certains usages : tous les problèmes sociaux ne gagnent pas à être transformés en problème de prédiction ou de classement automatique.

L’Union européenne dispose déjà d’un cadre important. Le règlement européen sur l’intelligence artificielle, souvent appelé AI Act, est entré en vigueur le 1er août 2024. Son application est progressive. Ses premières interdictions de certaines pratiques jugées inacceptables ont commencé à s’appliquer le 2 février 2025. Ce texte établit une approche graduée selon le niveau de risque des systèmes.

Pour autant, l’existence d’une réglementation ne règle pas tout. Son efficacité dépendra des contrôles, des autorités chargées de la faire respecter, des moyens accordés à ces autorités et de la capacité des citoyens à faire valoir leurs droits. C’est aussi l’un des sens de l’alerte lancée par les associations : la gouvernance de l’IA ne peut pas être laissée aux seuls acteurs qui la développent et la commercialisent.

Le sommet de Paris face au défi social de l’IA

Le sommet pour l’action sur l’IA doit réunir à Paris des responsables politiques, des entreprises, des chercheurs et des représentants de la société civile. Pour les ONG signataires, cet événement constitue une occasion de déplacer le débat. Il ne suffit pas de discuter de compétitivité, d’innovation ou de puissance de calcul : il faut aussi parler des personnes qui supportent les erreurs, les exclusions et les effets de bord de ces systèmes.

La question posée est finalement démocratique. Qui décide des domaines dans lesquels l’IA doit être employée ? Sur quelles données ? Avec quelles garanties pour les individus ? Et qui est responsable lorsqu’un système contribue à un refus de droit, à une orientation injuste ou à une discrimination ?

Les réponses ne relèvent pas uniquement de l’informatique. Elles concernent la justice sociale, la qualité des services publics, le droit du travail, la lutte contre les discriminations et la capacité des institutions à protéger les personnes les plus exposées.

Ce qu’il faut surveiller

Après l’appel des ONG, plusieurs éléments méritent une attention particulière. D’abord, la place effective laissée aux associations, aux syndicats, aux chercheurs indépendants et aux personnes concernées dans la gouvernance de l’IA. Une consultation tardive, lorsque les outils sont déjà installés, ne remplace pas leur participation dès la conception.

Ensuite, il faudra observer si les déploiements dans les services publics renforcent ou affaiblissent l’accompagnement humain. L’automatisation peut libérer du temps lorsqu’elle réduit des tâches administratives répétitives. Elle devient plus problématique lorsqu’elle remplace l’examen individualisé de situations complexes.

Enfin, l’enjeu sera de passer des principes aux garanties vérifiables : transparence sur les systèmes utilisés, contrôles des effets discriminatoires, voies de recours accessibles et responsabilité claire des organisations qui conçoivent ou emploient ces technologies. C’est à cette condition que l’IA pourra être évaluée non seulement selon ce qu’elle permet de faire, mais aussi selon la manière dont elle affecte les droits et la dignité de chacun.