À l’Université du Maryland, l’IA responsable se construit avec la société

L’intelligence artificielle est souvent présentée comme une affaire de modèles, de données et de puissance de calcul. À l’Université du Maryland, ou UMD, l’ambition décrite est plus large : faire de l’éthique un élément de la conception des technologies, et non une vérification ajoutée une fois le produit terminé. Cette orientation touche à la fois la formation, la recherche, la réglementation, l’accessibilité et l’empreinte environnementale.

Cette approche part d’un constat simple. Une IA n’est pas neutre par nature. Elle est conçue par des personnes, entraînée sur des données produites dans une société donnée et déployée dans des contextes où ses recommandations peuvent avoir des effets très concrets. Lorsqu’un système aide à classer des candidatures, à recommander un contenu, à détecter une fraude ou à orienter une décision, ses choix techniques peuvent favoriser certains publics, en désavantager d’autres ou rendre une décision difficile à contester.

Pourquoi l’éthique doit accompagner l’IA dès sa conception

Parler d’IA responsable ne revient pas à promettre une technologie parfaite ou dépourvue de toute erreur. Il s’agit plutôt de se poser les bonnes questions avant, pendant et après le développement d’un système : quel problème cherche-t-on à résoudre ? Pour qui ? Quelles données sont utilisées ? Qui risque de subir les erreurs ? Comment une personne concernée peut-elle comprendre, contester ou faire corriger une décision ?

L’UMD met ainsi en avant des principes souvent au cœur des débats sur l’IA : la justice, la responsabilité, la transparence et le respect des droits des personnes. Ces principes ne sont pas seulement déclaratifs. Ils invitent à examiner les critères retenus pour évaluer une technologie, les publics qui participent à sa conception et les mécanismes prévus lorsqu’un préjudice apparaît.

Cette vigilance est d’autant plus importante que l’automatisation peut donner aux résultats une apparence d’objectivité. Or, un calcul complexe ne garantit pas une décision juste. Un système peut être très performant sur une moyenne statistique tout en produisant des erreurs répétées pour une population moins présente dans les données d’entraînement ou mal prise en compte dans les objectifs du projet.

Les biais algorithmiques, un problème de données mais aussi de choix

Les biais algorithmiques figurent parmi les préoccupations centrales de cette démarche. Ils ne proviennent pas nécessairement d’une intention discriminatoire. Ils peuvent apparaître lorsque les données reproduisent des inégalités passées, lorsque certaines catégories de personnes sont sous-représentées ou lorsque la question posée à la machine est elle-même trop réductrice.

Prenons un outil censé prédire la réussite dans une formation. Si ses données historiques reflètent des obstacles sociaux, géographiques ou économiques, le système peut apprendre à confondre ces obstacles avec un manque de potentiel. De même, un dispositif de reconnaissance vocale peut moins bien fonctionner pour certains accents si ceux-ci sont insuffisamment représentés dans ses exemples d’apprentissage. Dans les deux cas, le problème ne se résume pas à une ligne de code : il touche à la qualité des données, à la façon de mesurer la réussite et à l’usage final de l’outil.

L’approche défendue par l’UMD suppose donc de croiser les regards. Les informaticiens ont besoin de comprendre les limites statistiques d’un jeu de données. Les spécialistes des sciences sociales peuvent aider à identifier les effets inégalitaires possibles. Les juristes éclairent les obligations de protection des droits. Enfin, les personnes qui utiliseront ou subiront les effets de l’outil apportent une connaissance irremplaçable du terrain.

Former des spécialistes capables de relier technique et société

L’un des axes mis en avant par l’UMD concerne la formation. L’université entend préparer des étudiants capables de maîtriser les dimensions techniques de l’IA tout en comprenant ses implications sociales et éthiques. Cette ambition implique une approche pluridisciplinaire, à la rencontre de l’informatique, des sciences sociales et de la réflexion éthique.

Cet enjeu dépasse largement le cadre universitaire. Les futurs professionnels de l’IA ne travailleront pas seulement dans des laboratoires. Ils participeront à la création d’outils employés dans l’éducation, les services publics, les entreprises, les médias ou la santé. Savoir construire un modèle est indispensable, mais savoir reconnaître une situation à risque, documenter les limites d’un système et alerter lorsque son usage devient problématique l’est tout autant.

La formation peut aussi aider à sortir d’une vision trop abstraite de l’IA. Derrière chaque système se trouvent des décisions humaines : le choix de collecter certaines données plutôt que d’autres, la définition d’un seuil de risque, la rédaction d’une interface, ou encore la décision d’automatiser une tâche. En rendant ces choix visibles, les cursus peuvent former des concepteurs moins tentés de considérer les conséquences sociales comme une question secondaire.

L’UMD souligne également l’importance de proposer des compétences adaptées à un marché du travail transformé par l’IA. L’objectif n’est pas uniquement de former des développeurs. Il s’agit de donner aux étudiants les moyens d’évoluer dans des métiers où les outils d’automatisation modifient les pratiques, les responsabilités et les besoins de formation continue.

Réglementation : des règles pour compléter la responsabilité des concepteurs

Les règles juridiques jouent un rôle structurant dans l’orientation de l’IA. L’UMD participe aux réflexions sur un cadre adapté à ces technologies, avec l’idée de fournir aux décideurs publics des recommandations éclairées. Les universités peuvent, dans ce domaine, faire le lien entre les réalités techniques et les principes que le droit cherche à protéger.

Au 8 octobre 2024, l’Union européenne dispose déjà d’un texte majeur : le règlement européen sur l’intelligence artificielle, souvent appelé AI Act, est entré en vigueur le 1er août 2024. Son application doit être progressive. Le texte organise notamment une approche fondée sur le niveau de risque : certaines pratiques sont interdites, d’autres sont soumises à des exigences renforcées, tandis que les usages les moins risqués relèvent d’obligations plus limitées.

La réglementation ne peut toutefois pas, à elle seule, résoudre toutes les difficultés. Une règle est souvent générale, alors que les conséquences d’un système se jouent dans des situations précises. C’est pourquoi la recherche, l’évaluation et le dialogue avec les personnes concernées restent essentiels. Un outil peut respecter une obligation formelle tout en demeurant peu compréhensible, mal adapté à un public ou difficile à utiliser pour une personne en situation de handicap.

Pourquoi associer les utilisateurs au développement des outils

L’inclusion ne se réduit pas à ouvrir l’accès à une technologie une fois qu’elle est achevée. Elle suppose aussi d’intégrer des points de vue divers pendant la conception. L’UMD encourage le dialogue entre développeurs, chercheurs et utilisateurs afin que les systèmes reflètent mieux la variété des besoins sociaux.

Cette participation peut prendre différentes formes : recueillir les besoins avant le développement, tester un outil avec des personnes aux profils variés, analyser les difficultés rencontrées dans des usages réels ou prévoir des canaux permettant de signaler une préoccupation éthique. Le but est d’éviter qu’un petit groupe de concepteurs décide seul de ce qui est utile, acceptable ou compréhensible pour tous.

L’accessibilité fait partie de cette démarche. Un service numérique peut être techniquement remarquable, mais rester inaccessible s’il exige un matériel coûteux, une connexion stable, une forte maîtrise de l’écrit ou des capacités sensorielles et motrices particulières. Faciliter un accès équitable aux outils avancés constitue donc un enjeu social autant que technique.

Les collaborations évoquées par l’UMD, avec l’industrie, les pouvoirs publics et d’autres institutions universitaires, vont dans le même sens. Elles permettent de confronter les résultats de la recherche aux réalités du déploiement, qu’il s’agisse de sécurité, de protection des données ou d’impact sur les pratiques professionnelles.

L’empreinte environnementale, l’autre face de l’IA responsable

Une IA responsable doit aussi tenir compte de ses effets sur l’environnement. L’UMD identifie la consommation d’énergie et les déchets numériques comme des domaines de recherche importants. Cet aspect est particulièrement pertinent lorsque les systèmes nécessitent de grandes quantités de calcul, de stockage ou de transferts de données.

La sobriété ne signifie pas renoncer à toute innovation. Elle consiste à se demander si les ressources mobilisées sont proportionnées à l’utilité attendue. Dans certains cas, un modèle plus simple, des données mieux sélectionnées ou une tâche mieux définie peuvent fournir un résultat suffisant avec moins de calcul. Cette logique rejoint l’idée d’une IA verte, qui cherche à limiter l’empreinte écologique des services numériques.

L’évaluation environnementale doit néanmoins être menée avec méthode. Elle ne se limite pas à la consommation électrique au moment où un modèle répond à une requête. Elle concerne aussi l’entraînement, l’infrastructure de stockage, le renouvellement des équipements et les usages induits. Prendre ces éléments en compte dès le départ peut encourager des choix techniques plus durables.

Ce qu’il faut surveiller pour passer des principes aux pratiques

L’orientation portée par l’UMD rappelle que l’IA éthique ne se décrète pas. Elle s’organise dans la durée, par la formation, la coopération interdisciplinaire, l’écoute des utilisateurs et l’évaluation des effets réels. Les modèles destinés à mieux représenter les relations entre humains et machines peuvent contribuer à cette compréhension, à condition d’être confrontés aux expériences concrètes des personnes concernées.

La présentation de cette démarche fait aussi état d’un investissement destiné à renforcer la recherche sur l’éthique de l’IA, sans en préciser le montant ni le programme concerné. Le financement est un levier décisif : sans temps de recherche, compétences variées et moyens d’évaluation, les principes de responsabilité risquent de rester au stade des intentions.

Pour juger les progrès réalisés, il faudra donc regarder au-delà des déclarations. Plusieurs questions comptent : les outils sont-ils évalués avant leur déploiement ? Les résultats sont-ils vérifiés pour différents groupes d’utilisateurs ? Les limites du système sont-elles explicitées ? Existe-t-il un moyen clair de demander une correction ou de signaler un problème ? Les impacts environnementaux sont-ils pris en compte ?

C’est sur ces éléments concrets que se mesurera la capacité des établissements comme l’UMD à relier technologie et éthique. L’enjeu n’est pas de ralentir l’innovation par principe, mais de faire en sorte que les progrès de l’IA répondent à des besoins réels, restent contestables lorsqu’ils se trompent et bénéficient au plus grand nombre.