IA équitable : pourquoi la représentation des femmes change la conception

L’intelligence artificielle s’invite dans des décisions et des services de plus en plus quotidiens : recommandations de contenus, outils de recrutement, assistants conversationnels, dispositifs de reconnaissance ou logiciels utilisés au travail. Or, ces systèmes ne surgissent pas de nulle part. Ils apprennent à partir de données, sont réglés selon des objectifs précis et sont mis au point par des équipes humaines. Lorsque les femmes sont peu présentes dans ces équipes et insuffisamment prises en compte dans les jeux de données comme dans les tests, le risque est de reconduire des inégalités déjà présentes dans la société.

La question de la représentation féminine dans l’IA dépasse donc la seule parité dans les entreprises technologiques. Elle concerne la manière dont les problèmes sont définis, les publics auxquels les produits sont destinés et les effets qu’ils peuvent avoir sur une partie de la population. Une IA plus inclusive ne se résume pas à une promesse de communication : elle suppose des méthodes concrètes, de la conception jusqu’au suivi des outils déployés.

La sous-représentation féminine reste un enjeu central

Les femmes demeurent sous-représentées dans les secteurs techniques et scientifiques des entreprises technologiques, un déséquilibre particulièrement sensible dans le domaine de l’intelligence artificielle. En 2018, elles ne représentaient que 10 % des effectifs occupant des postes techniques chez des géants comme Google et Facebook, selon le chiffre cité dans la publication d’origine.

Ce pourcentage ne permet pas, à lui seul, de résumer la situation de toutes les organisations ni l’évolution de leurs effectifs depuis lors. Il illustre en revanche l’ampleur d’un problème structurel : si les personnes qui conçoivent les technologies ont des parcours, expériences et usages trop semblables, certains besoins risquent d’être ignorés dès le départ.

La présence de femmes ne doit pas être envisagée comme la recherche d’une voix unique censée représenter toutes les femmes. Les expériences diffèrent selon l’âge, le milieu social, le handicap, le pays, la langue ou encore la profession. L’enjeu est plutôt de faire en sorte que la conception d’un système ne soit pas enfermée dans un nombre limité de points de vue.

Comment les biais algorithmiques peuvent-ils reproduire les inégalités ?

Un biais algorithmique désigne un résultat systématiquement défavorable, erroné ou inéquitable pour certaines personnes ou certains groupes. Il ne suppose pas nécessairement une intention discriminatoire. Il peut apparaître à plusieurs étapes : lorsque les données utilisées sont incomplètes, lorsque l’objectif confié au système est mal défini ou lorsque son fonctionnement n’est pas suffisamment contrôlé après son lancement.

Les données sont souvent décrites comme le carburant de l’IA. Cette image est utile, à condition de rappeler qu’elles reflètent le monde tel qu’il a été observé et enregistré, avec ses déséquilibres. Si des parcours féminins sont moins visibles dans des archives, des offres d’emploi, des images ou des textes, un système entraîné sur ces matériaux peut apprendre une vision incomplète de la réalité. Si les résultats ne sont pas testés séparément pour différents publics, l’écart peut aussi passer inaperçu.

Les conséquences ne se limitent pas aux femmes. Une faible diversité dans la conception peut aussi réduire la capacité à prendre en compte les minorités et les groupes marginalisés. C’est pourquoi l’équité ne consiste pas à ajouter un correctif à la fin d’un projet. Elle doit guider l’ensemble de son développement.

La diversité, une condition utile mais pas suffisante

Recruter davantage de femmes dans les métiers de l’IA est indispensable pour corriger une exclusion durable et enrichir le secteur. Mais ce levier doit s’accompagner d’une véritable capacité d’action. Une personne isolée dans une équipe ne peut pas, à elle seule, porter la responsabilité de détecter tous les préjugés ni parler au nom de l’ensemble des utilisatrices.

Pour être utile, la diversité doit s’inscrire dans une organisation où les objections peuvent être entendues, où les décisions sont documentées et où les objectifs de performance ne prennent pas systématiquement le pas sur les questions d’équité. Les expertises techniques, sociales, juridiques et métiers ont toutes leur rôle à jouer.

Passer des principes aux pratiques de conception

La publication d’origine insiste sur une première mesure essentielle : évaluer rigoureusement les données utilisées pour entraîner les systèmes d’IA. Cette vérification doit porter sur leur origine, leur qualité, leur couverture et les éventuels déséquilibres qu’elles contiennent. Il ne s’agit pas de chercher des données parfaites, ce qui serait irréaliste, mais de connaître leurs limites afin de ne pas les confondre avec une représentation neutre de la société.

Les organisations peuvent également intégrer l’égalité dès la phase de cadrage. Avant de lancer un projet, elles peuvent identifier les personnes potentiellement affectées, préciser les situations dans lesquelles une erreur serait particulièrement grave et prévoir des tests adaptés. Lorsque l’IA intervient dans un contexte important, un dispositif de recours et une supervision humaine sont des garde-fous précieux.

Parmi les pistes concrètes évoquées ou cohérentes avec cette démarche figurent :

• diversifier les profils impliqués dans la conception, les essais et la gouvernance d’un produit ;
• examiner les données avant l’entraînement, puis les résultats produits après l’entraînement ;
• documenter les choix effectués, les limites connues et les usages pour lesquels l’outil n’est pas adapté ;
• former les équipes aux biais, sans réduire cette question à une simple formalité de conformité ;
• recueillir les retours des personnes utilisatrices et prévoir une correction lorsque des effets discriminatoires apparaissent.

Le « Mois de l’IA égalitaire » et la mobilisation collective

La transformation ne repose pas uniquement sur les entreprises qui développent les modèles et les logiciels. Associations, organismes de formation, pouvoirs publics, chercheurs, salariés et citoyens ont aussi un rôle à jouer. La publication d’origine rappelle que le « Mois de l’IA égalitaire », instauré en juin 2021, a réuni différentes parties prenantes autour de tables rondes consacrées à l’inclusivité dans la conception de l’IA.

L’intérêt de tels espaces est de confronter les expériences. Les personnes qui développent une technologie n’observent pas toujours ses effets concrets dans tous les contextes. Les associations, les professionnels de terrain et les utilisateurs peuvent mettre au jour des difficultés que les indicateurs techniques ne montrent pas. Ces échanges peuvent aussi faire émerger des pratiques partagées pour concevoir des systèmes plus attentifs à l’équité.

La formation est un autre levier. Favoriser l’accès des filles et des femmes aux disciplines scientifiques et techniques peut aider à élargir le vivier de talents. Mais l’enjeu ne consiste pas seulement à attirer de nouvelles recrues : il faut aussi créer des conditions qui permettent de rester, d’évoluer vers des postes de responsabilité et de participer réellement aux décisions techniques et stratégiques.

Pourquoi la jeunesse compte dans ce débat

La jeunesse peut jouer un rôle moteur dans l’évolution des représentations liées au genre et à la technologie. Les jeunes élus, cités dans la publication d’origine, portent notamment une réflexion sur la manière dont l’IA peut servir l’égalité entre les genres et encourager l’engagement civique.

Cette participation est importante parce que les outils numériques façonnent déjà l’apprentissage, l’orientation, l’accès à l’information et l’entrée dans le monde du travail. S’approprier les principes de fonctionnement de l’IA, savoir en questionner les réponses et comprendre que ses résultats ne sont pas infaillibles sont des compétences citoyennes. Elles permettent de ne pas subir les systèmes automatisés comme s’ils étaient naturellement objectifs.

À l’horizon 2025, l’intégration de l’IA dans le monde professionnel, en parallèle de l’émergence de technologies telles que la 5G avancée, rend cette vigilance d’autant plus nécessaire. Les décisions prises lors de la conception des outils d’aujourd’hui peuvent influencer durablement les pratiques de demain.

Assistants vocaux : ce que le genre des voix révèle

Les assistants vocaux donnent une forme très concrète à ces débats. Leur voix, leur nom, leur ton et les rôles qui leur sont attribués peuvent véhiculer des représentations sociales. Parler d’un assistant « féminin » ne signifie pas qu’une machine possède un genre : il s’agit d’un choix de conception, souvent perçu à travers une voix ou une personnalité proposée à l’utilisateur.

Ce choix mérite d’être interrogé. Si les assistants à voix féminine sont associés de façon répétée à des fonctions d’aide, de service ou d’obéissance, ils peuvent contribuer à banaliser des stéréotypes. À l’inverse, proposer des options de voix ne suffit pas si les scénarios, les réponses et les rôles assignés restent caricaturaux. L’essentiel est de se demander quels imaginaires une interface met en scène et quels comportements elle normalise.

La publication d’origine évoque aussi des initiatives comme le concours Miss IA. De tels événements peuvent chercher à valoriser une plus grande inclusivité, tout en soulevant des questions légitimes sur les standards de beauté qu’ils mobilisent. Cette tension rappelle qu’un projet présenté comme innovant ou inclusif doit aussi être évalué à l’aune de ses représentations.

Ce qu’il faut surveiller pour une IA réellement équitable

La féminisation de l’IA est à la fois une question d’égalité d’accès aux métiers, de qualité des produits et de responsabilité sociale. Elle ne peut pas se mesurer au seul nombre de femmes recrutées. Les indicateurs importants concernent aussi la place accordée aux femmes dans les postes techniques et de décision, les méthodes de sélection des données, la solidité des évaluations et la possibilité de corriger les erreurs.

Les technologies d’IA ne sont pas condamnées à reproduire les préjugés du passé. Mais elles ne les corrigeront pas spontanément non plus. Une démarche crédible suppose de rendre les choix visibles, de tester les effets sur les publics concernés et de donner aux équipes comme aux utilisateurs les moyens d’alerter. La représentation des femmes est une composante essentielle de cette ambition : non comme un symbole, mais comme une condition pour concevoir des systèmes plus attentifs à la pluralité de la société.