Wendy Hall : comment l’éthique et la diversité doivent guider l’IA

L’intelligence artificielle est souvent présentée comme une course à la puissance de calcul et à la performance des modèles. Mais son développement soulève une question plus large : au service de qui cette technologie est-elle conçue, déployée et gouvernée ? Pour Dame Wendy Hall, chercheuse britannique reconnue dans les domaines de l’informatique et du Web, la réponse ne peut pas être laissée aux seuls acteurs technologiques. Elle doit associer pouvoirs publics, scientifiques, entreprises et société civile, avec l’éthique et la diversité comme exigences concrètes.

Le 1er avril 2025, ce débat est d’autant plus important que l’IA générative entre dans les usages quotidiens, des assistants conversationnels aux logiciels de travail, en passant par l’éducation ou la création. Les promesses sont réelles, mais les risques le sont également : discriminations automatisées, décisions opaques, atteintes à la vie privée, concentration des ressources informatiques ou inégalités d’accès entre pays et populations.

Wendy Hall, une voix scientifique dans le débat mondial

Dame Wendy Hall est professeure d’informatique à l’université de Southampton, au Royaume-Uni. Ses travaux ont contribué à faire émerger le champ de la science du Web, qui étudie les effets sociaux, techniques et économiques des réseaux numériques. Cette expérience explique sa place dans les discussions sur l’IA : un système algorithmique ne fonctionne jamais dans le vide. Il est alimenté par des données, intégré dans une organisation et utilisé par des personnes qui n’en maîtrisent pas toujours le fonctionnement.

Une précision s’impose sur son rôle aux Nations unies. Wendy Hall est membre du Groupe consultatif de haut niveau du secrétaire général des Nations unies sur l’intelligence artificielle. Elle n’en assure pas la coprésidence. Celle-ci est confiée à Carme Artigas, ancienne secrétaire d’État espagnole à la numérisation et à l’intelligence artificielle, et à James Manyika, alors haut responsable technologique à la Maison-Blanche.

Cette nuance n’est pas seulement protocolaire. Le groupe réunit des profils issus de la recherche, des entreprises, des administrations et de la société civile. Son ambition est de formuler des pistes de gouvernance internationale, dans un domaine où les technologies, les données et les entreprises traversent les frontières beaucoup plus vite que les lois nationales.

L’approche défendue par Wendy Hall rejoint une idée simple : une IA digne de confiance ne se résume pas à un modèle techniquement performant. Elle doit aussi être conçue et utilisée de manière à respecter les droits, à limiter les discriminations et à permettre un partage plus équitable de ses bénéfices.

Pourquoi une gouvernance mondiale de l’IA est-elle nécessaire ?

Les grands modèles d’IA sont développés et déployés à une échelle internationale. Un outil produit dans un pays peut être utilisé instantanément dans des écoles, des entreprises ou des administrations situées à l’autre bout du monde. Les composants matériels, les centres de données, les corpus d’entraînement et les plateformes de diffusion relèvent eux aussi de chaînes de valeur mondialisées.

Dans ce contexte, une réglementation uniquement nationale peut s’avérer insuffisante. Elle reste indispensable pour protéger les citoyens sur un territoire donné, mais elle ne répond pas seule aux problèmes communs : standards techniques, accès aux capacités de calcul, circulation des données, évaluation des risques ou conséquences environnementales de l’IA.

Le rapport final du Groupe consultatif de haut niveau de l’ONU, publié en septembre 2024 sous le titre Governing AI for Humanity, a formulé sept recommandations. Elles ne constituent pas une loi internationale, mais dessinent une architecture possible pour mieux coordonner les décisions mondiales.

L’expression « Mind the AI Divide », qui alerte sur le fossé créé par l’IA, résume l’une des préoccupations centrales de ces discussions. Les pays qui disposent déjà des données, des infrastructures cloud, des puces avancées et des compétences spécialisées pourraient capter l’essentiel des retombées économiques. Les autres risquent de dépendre de systèmes qu’ils n’ont ni conçus, ni les moyens d’évaluer.

Cette inquiétude fait écho aux appels en faveur d’une réponse coordonnée au niveau européen. Oliver Röpke, président du Comité économique et social européen, a lui aussi souligné l’importance d’une approche collective des effets de l’IA sur l’économie, le travail et la société.

Éthique de l’IA : de quoi parle-t-on concrètement ?

Le terme « éthique » peut sembler abstrait. Dans le cas de l’IA, il renvoie pourtant à des choix très pratiques. Qui décide qu’un système peut être utilisé pour recruter, attribuer un crédit, détecter une fraude ou accompagner des élèves ? Quelles données servent à son entraînement ? Comment vérifier qu’il ne désavantage pas certains groupes ? Et qui est responsable lorsqu’il commet une erreur lourde de conséquences ?

Plusieurs principes reviennent régulièrement dans les travaux internationaux et européens :

• L’équité, pour éviter qu’un système ne reproduise ou n’aggrave des discriminations existantes.
• La transparence, afin d’informer les personnes lorsqu’elles interagissent avec une IA et de documenter les systèmes les plus sensibles.
• La responsabilité, qui impose d’identifier les organisations et les personnes chargées de répondre des effets d’un outil.
• La protection des données et de la vie privée, particulièrement lorsque l’IA traite des informations personnelles.
• La supervision humaine, afin qu’une décision automatisée ne prive pas une personne d’un recours approprié.

Un biais ne signifie pas nécessairement qu’un programmeur a voulu discriminer. Il peut provenir de données historiques incomplètes, de catégories mal définies, d’un test réalisé dans un environnement trop homogène ou d’une utilisation inattendue du système. C’est précisément pourquoi la diversité des concepteurs, des testeurs et des personnes consultées est importante.

Par exemple, un outil entraîné majoritairement sur des contenus dans quelques langues ou sur des données issues d’un nombre limité de pays pourra moins bien répondre aux besoins d’autres populations. Dans un contexte professionnel, scolaire ou administratif, cette moindre qualité peut devenir une inégalité d’accès à un service essentiel.

L’AI Act européen transforme les principes en obligations

L’Union européenne s’est dotée d’un texte majeur avec le règlement sur l’intelligence artificielle, couramment appelé AI Act. Entré en vigueur le 1er août 2024, il adopte une approche fondée sur le niveau de risque : plus un système d’IA est susceptible d’affecter la sécurité ou les droits fondamentaux, plus les obligations qui s’appliquent à ses fournisseurs et utilisateurs sont strictes.

Au 2 février 2025, une première série de dispositions est devenue applicable. Elle comprend l’interdiction de certaines pratiques considérées comme inacceptables, ainsi que des exigences relatives à la culture de l’IA dans les organisations. Les autres obligations sont appelées à entrer progressivement en application selon les catégories de systèmes concernées.

L’AI Act ne remplace pas le débat mondial porté au sein de l’ONU. Il offre plutôt l’exemple d’une région qui tente de traduire des principes généraux en règles applicables. Son efficacité dépendra toutefois de la capacité des autorités à le faire respecter, des moyens donnés aux organisations pour se mettre en conformité et de sa compatibilité avec les cadres qui émergeront ailleurs.

En février 2025, le Sommet pour l’action sur l’IA organisé à Paris a également illustré cette recherche de coopération internationale. La déclaration finale, soutenue par 61 signataires selon les autorités françaises, insiste notamment sur une IA ouverte, inclusive, éthique et durable. Une déclaration politique n’a pas la force contraignante d’une loi, mais elle témoigne d’un effort pour définir des objectifs communs.

L’accès à l’IA, une question de justice autant que de technologie

Parler d’inclusion ne consiste pas seulement à prévenir les biais. Il faut aussi se demander qui peut réellement tirer parti des outils d’IA. L’accès dépend du prix des services, de la qualité de la connexion internet, de la disponibilité des outils dans différentes langues, de la formation des utilisateurs et de l’existence d’infrastructures locales.

Dans l’éducation, l’IA peut aider à expliquer une notion, à proposer des exercices adaptés ou à assister certaines tâches administratives. Mais elle peut aussi accroître les écarts si seuls certains élèves disposent d’outils fiables, d’un accompagnement humain et d’un environnement numérique sûr. Une réponse générée par une IA ne remplace ni un enseignant, ni une vérification des sources, ni l’apprentissage du raisonnement critique.

Dans le monde du travail, les discours sur les « superpouvoirs cognitifs » désignent une idée séduisante : des outils capables d’accélérer la recherche d’information, le résumé de documents, la programmation, la rédaction ou l’analyse. Cette formule doit être comprise comme une métaphore, pas comme une garantie. Un outil peut améliorer la productivité sur une tâche donnée, tout en introduisant de nouvelles erreurs, une dépendance à un fournisseur ou une pression accrue sur les salariés.

Les bénéfices éventuels de l’IA passent donc par la formation, l’accompagnement des métiers et le dialogue social. L’enjeu n’est pas uniquement de savoir quelles tâches pourront être automatisées, mais aussi de décider comment les gains de productivité seront répartis et quelles compétences humaines devront être renforcées.

Des effets concrets dans les métiers et les territoires

L’IA modifie déjà des activités très diverses. Les métiers liés aux données géospatiales, par exemple, utilisent des images satellites, des cartes et des données de localisation pour mieux comprendre un territoire. Ces techniques peuvent servir à planifier des infrastructures, suivre des cultures ou observer des évolutions environnementales.

Mais l’usage de données géographiques soulève aussi des interrogations éthiques. La précision d’une carte ou d’une image peut révéler des informations sensibles sur des personnes, des communautés ou des lieux. Un modèle qui classe mal une zone, interprète de façon erronée une image ou s’appuie sur des données incomplètes peut influencer des décisions publiques ou économiques importantes.

Cette réalité illustre un principe défendu dans les débats sur l’IA : les risques doivent être examinés dans leur contexte d’usage. Il ne suffit pas d’évaluer un modèle dans des conditions de laboratoire. Il faut aussi étudier les personnes qui l’utilisent, celles qui subissent ses effets, les données mobilisées et les procédures prévues en cas d’erreur.

Ce qu’il faut surveiller pour une IA réellement inclusive

L’ambition portée par Wendy Hall et d’autres experts ne consiste pas à ralentir toute innovation. Elle vise à éviter une opposition trop simple entre technologie et droits humains. Une IA mieux encadrée peut être plus digne de confiance, donc plus utile à long terme. À l’inverse, des systèmes opaques ou injustes risquent de provoquer méfiance, contentieux et exclusion.

Plusieurs éléments seront déterminants dans les prochaines étapes de cette gouvernance :

• la capacité des institutions internationales à faire participer les pays qui disposent de moins de ressources techniques ;
• l’application concrète des règles européennes, notamment pour les systèmes à haut risque ;
• la qualité des évaluations indépendantes portant sur les biais, la sécurité et les effets réels des outils ;
• l’implication des travailleurs, des enseignants, des associations et des citoyens dans les choix de déploiement ;
• la place accordée à l’intérêt général face à la concentration des capacités de calcul et des données.

L’éthique ne doit pas intervenir une fois le produit terminé, sous la forme d’une simple vérification finale. Elle doit guider l’ensemble du cycle de vie d’un système, depuis le choix du problème à résoudre jusqu’à son retrait éventuel. C’est à cette condition que l’IA pourra être envisagée non comme une technologie imposée, mais comme un outil collectif, soumis à des règles compréhensibles et à des responsabilités identifiables.