Australie : l’IA inquiète les défenseurs des droits face aux biais

L’intelligence artificielle promet d’accélérer le travail, d’automatiser certaines tâches et de soutenir la prise de décision. Mais elle peut aussi prolonger, à grande échelle, des inégalités déjà présentes dans la société. En Australie, cette inquiétude est désormais portée au plus haut niveau par Lorraine Finlay, commissaire aux droits de l’homme, qui alerte sur le risque de voir l’IA aggraver le racisme et le sexisme si son usage n’est pas correctement encadré.

L’enjeu ne se résume pas à une question technique. Lorsqu’un logiciel participe au tri de candidatures, évalue un risque, recommande un contenu ou classe des personnes selon des critères prédictifs, ses choix peuvent avoir des conséquences très concrètes. Or ces outils apprennent à partir de données humaines, historiques et culturelles. Si ces données reflètent des stéréotypes, des exclusions ou une représentation incomplète de la population, le système peut les reproduire sans jamais les nommer explicitement.

En août 2025, l’Australie débat donc de la place à donner à ces technologies dans l’économie et les services. Derrière l’objectif de productivité, plusieurs responsables, syndicats, créateurs et autorités de contrôle demandent des garanties sur l’équité, la transparence, la vie privée et la propriété intellectuelle.

Lorraine Finlay alerte sur le coût humain d’une IA non régulée

Pour Lorraine Finlay, les bénéfices attendus de l’intelligence artificielle ne doivent pas conduire à reléguer au second plan les principes de non-discrimination. Son avertissement vise un risque bien identifié : un système d’IA peut transformer des biais existants en décisions répétables, rapides et difficiles à contester.

Le problème est moins celui d’une machine qui « déciderait » volontairement de discriminer que celui d’un mécanisme statistique qui repère des corrélations dans les données. Par exemple, un outil peut associer certains parcours professionnels à une plus forte probabilité d’embauche parce que les recrutements passés ont favorisé un profil particulier. Il peut aussi utiliser indirectement des éléments liés à l’origine, au genre, au handicap ou à la situation sociale, même lorsque ces caractéristiques ne sont pas demandées directement.

Dans ce contexte, automatiser n’est pas forcément neutraliser. Au contraire, l’automatisation peut rendre un biais plus discret et plus systématique : un même critère est appliqué à un très grand nombre de personnes, souvent sans qu’elles sachent comment il a été calculé ni comment le remettre en cause. C’est précisément cette combinaison entre biais algorithmiques et décisions automatisées qui préoccupe la commissaire.

Lorraine Finlay plaide ainsi pour de nouvelles règles législatives concernant l’IA. Elle demande notamment des tests de biais, des audits et un examen par des experts humains. Ces garde-fous visent à détecter les effets discriminatoires avant qu’un outil ne soit déployé ou lorsqu’il est déjà utilisé dans une situation sensible.

Comment un biais algorithmique peut-il produire de la discrimination ?

Les systèmes d’IA sont entraînés sur de grandes quantités de textes, d’images, de données administratives ou d’exemples de décisions passées. Ils ne comprennent pas les valeurs d’égalité comme une personne le ferait. Ils apprennent des régularités. Dès lors, une donnée déséquilibrée peut créer un résultat déséquilibré.

Un système peut être affecté par plusieurs mécanismes :

• des données historiques qui reflètent des discriminations antérieures ;
• une population insuffisamment représentée dans les données d’entraînement ;
• des critères de performance mal choisis, qui privilégient la rapidité ou le coût plutôt que l’équité ;
• des variables apparemment neutres, mais fortement liées à une caractéristique protégée, comme la langue, l’accent, le lieu de résidence ou certaines interruptions de carrière ;
• une confiance excessive dans une recommandation automatisée, faute de contrôle humain réel.

Le risque est particulièrement important lorsque l’IA intervient dans des domaines où une décision peut modifier une trajectoire de vie. Le tableau ci-dessous résume les situations au cœur des préoccupations exprimées en Australie.

La question de l’explicabilité est centrale. Une personne pénalisée par une recommandation algorithmique devrait pouvoir comprendre, au moins dans ses grandes lignes, ce qui a influencé la décision. Sans cette visibilité, il devient difficile d’identifier un traitement inéquitable, de le contester ou de corriger le système.

Le recrutement, un cas concret déjà documenté

Les alertes de Lorraine Finlay ne reposent pas seulement sur un scénario théorique. Une étude australienne publiée en mai 2025 a montré que des candidats à l’emploi pouvaient être défavorisés lorsque le recrutement s’appuyait sur des systèmes d’IA. Les personnes ayant un accent ou vivant avec un handicap figuraient parmi les publics susceptibles de subir ces effets.

Dans un processus de recrutement, l’IA peut intervenir à plusieurs étapes : lecture automatique d’un CV, classement des profils, analyse d’un entretien vidéo, transcription et évaluation de la parole, ou encore recommandation finale au recruteur. Chaque étape peut introduire une erreur ou renforcer une inégalité. Un logiciel entraîné majoritairement sur une manière de parler, une norme de communication ou des trajectoires professionnelles étroites peut considérer à tort qu’un candidat s’en éloignant est moins qualifié.

Il ne faut pas en déduire que tout outil numérique de recrutement est nécessairement discriminatoire. L’automatisation peut aussi aider à structurer des procédures ou à repérer des incohérences. Mais elle ne devrait pas devenir une autorité incontestable. Lorsqu’une personne est écartée, un responsable doit pouvoir examiner le résultat, vérifier sa pertinence et assumer la décision.

Des données australiennes, mais sous quelles conditions ?

La question des données occupe une place centrale dans le débat. Michelle Ananda-Rajah, députée travailliste, défend l’idée de mieux mettre à disposition des données australiennes afin que les outils utilisés localement reflètent davantage la diversité et les réalités du pays. Médecin et chercheuse en IA, elle redoute que l’Australie se contente de recourir à des modèles conçus par de grands groupes technologiques à partir de données principalement étrangères.

Son raisonnement est simple : un système entraîné sans représentation suffisante des réalités australiennes risque d’être moins pertinent pour la population locale. Les accents, les références culturelles, les usages linguistiques, les parcours de vie et les besoins des différents groupes qui composent le pays ne sont pas nécessairement correctement pris en compte par un modèle généraliste développé ailleurs.

Michelle Ananda-Rajah ne soutient toutefois pas la création d’une loi spécifiquement dédiée à l’IA. Elle insiste en revanche sur la nécessité de rémunérer les créateurs de contenu. Cette position rejoint les préoccupations des groupes de médias et du secteur artistique, qui redoutent un « vol rampant » de leur propriété intellectuelle si les entreprises technologiques peuvent entraîner leurs modèles sur leurs contenus sans autorisation ni compensation.

L’idée de libérer davantage de données locales est donc ambivalente. Elle peut contribuer à une meilleure représentation, mais elle soulève immédiatement des questions de confidentialité, de contrôle et de partage de la valeur. Des données australiennes ne deviennent pas automatiquement justes, complètes ou utilisables sans risque parce qu’elles sont produites en Australie. Elles doivent être sélectionnées, documentées, protégées et évaluées avec soin.

Transparence, vie privée et propriété intellectuelle : les autres lignes de fracture

Les inquiétudes dépassent largement le seul sujet des biais. Les syndicats et les organisations industrielles s’interrogent aussi sur les effets des gains de productivité annoncés par l’IA, sur la protection de la propriété intellectuelle et sur le respect de la vie privée. Ces sujets doivent être discutés lors d’un sommet économique organisé par le gouvernement fédéral.

La transparence sur les données d’entraînement est l’un des points les plus sensibles. Julie Inman Grant, commissaire australienne à la sécurité en ligne, partage les préoccupations sur le manque de clarté entourant les informations utilisées pour former certains outils d’IA. Sans informations suffisamment précises sur l’origine et la nature de ces données, il est difficile d’évaluer les biais possibles, de vérifier le respect des droits ou de demander des corrections.

Cette opacité a plusieurs conséquences. Les créateurs ne savent pas toujours si leurs œuvres ont été exploitées. Les utilisateurs ne peuvent pas facilement apprécier les limites d’un outil. Et les autorités disposent de moins d’éléments pour examiner les pratiques des entreprises. La transparence ne résout pas à elle seule tous les problèmes, mais elle constitue une condition pour exercer un contrôle effectif.

Judith Bishop, experte en IA à l’Université La Trobe, souligne elle aussi l’intérêt de rendre davantage de données australiennes disponibles pour former les outils. Son intervention rappelle cependant l’ampleur de l’équilibre à trouver : renforcer la pertinence locale des modèles sans ouvrir sans discernement l’accès aux données personnelles, aux contenus protégés ou aux informations sensibles.

Quels garde-fous pour une IA plus équitable ?

Les propositions avancées dans le débat australien dessinent une méthode plutôt qu’une solution unique. Il ne s’agit pas de choisir entre l’innovation et les droits fondamentaux, mais de prévoir les règles qui empêchent l’innovation de se construire sur des discriminations invisibles.

Plusieurs principes se dégagent des alertes exprimées en août 2025 :

• évaluer les biais avant et après la mise en service d’un système ;
• documenter les données utilisées et leurs limites, en particulier lorsqu’elles concernent des populations diverses ;
• conserver une supervision humaine dans les décisions à fort impact ;
• permettre le contrôle et la contestation lorsqu’une personne estime avoir subi un préjudice ;
• protéger la vie privée et la propriété intellectuelle, y compris dans les débats sur l’accès aux données locales.

Ces mesures demandent des moyens, des compétences et une responsabilité clairement attribuée. Un audit n’a de valeur que si ses résultats peuvent conduire à modifier, suspendre ou abandonner un système problématique. De même, une intervention humaine n’est utile que si la personne chargée du contrôle a le temps, l’autorité et les informations nécessaires pour ne pas suivre aveuglément la machine.

Ce qu’il faut surveiller en Australie

Le débat australien de 2025 pose une question qui concerne bien d’autres pays : qui doit répondre des conséquences d’une décision assistée par une IA ? Les concepteurs du modèle, les entreprises qui l’intègrent à leurs produits, les organisations qui l’emploient ou les décideurs publics qui autorisent son usage ont tous un rôle à jouer.

Les discussions à venir sur la productivité, l’accès aux données et la propriété intellectuelle permettront de mesurer la place réelle accordée aux droits fondamentaux. La position de Lorraine Finlay fixe un seuil clair : les bénéfices économiques ne sauraient justifier une technologie qui renforcerait le racisme, le sexisme ou l’exclusion de personnes déjà vulnérables.

La suite dépendra de la capacité des autorités et des entreprises à passer des principes aux pratiques : connaître les données utilisées, tester les systèmes dans des conditions représentatives, écouter les personnes affectées et maintenir des recours humains. Pour l’Australie, comme pour tout pays qui adopte rapidement l’IA, l’enjeu est de faire de ces outils des instruments d’assistance, plutôt que des mécanismes qui figent les inégalités existantes.