Sujet
Tous les articles d’Actu.ai consacrés à Équité : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 5 articles
À la mi-janvier 2025, OpenAI défend une vision où l’intelligence artificielle doit transformer l’éducation américaine, de la salle de classe à la formation des adultes. Le projet promet un apprentissage plus personnalisé et plus accessible, mais pose aussi des questions décisives sur les données des élèves, les biais et les moyens accordés aux écoles.
L’intelligence artificielle promet d’aider les soignants à diagnostiquer et à décider plus vite. Des chercheurs du MIT, d’Equality AI et de Boston University rappellent toutefois qu’un outil médical, qu’il soit fondé sur l’IA ou sur un simple score, doit être évalué, transparent et surveillé pour ne pas reproduire des inégalités.
Des chercheurs du MIT montrent qu’il est possible de cibler certaines données d’entraînement qui pénalisent les groupes sous-représentés. Leur méthode, fondée sur l’outil TRAK, évite le nettoyage massif des jeux de données et vise à préserver, voire à renforcer, la précision du modèle.
Faut-il obliger une intelligence artificielle à trancher lorsqu’elle hésite ? Des chercheurs liés au MIT CSAIL proposent un cadre qui autorise le modèle à rejeter les cas incertains. L’objectif est de réduire les décisions potentiellement injustes sans abandonner l’exigence de précision, notamment dans le crédit ou la santé.
Les outils d’IA générative peuvent aider à organiser un essai d’admission, mais aussi reproduire des normes d’écriture socialement situées. Lorsque les établissements valorisent certains codes implicites, l’automatisation risque d’affaiblir l’expression de parcours moins privilégiés. La question n’est donc pas seulement celle de la fraude, mais celle de l’équité.
