Sujet
Tous les articles d’Actu.ai consacrés à Biais algorithmiques : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 44 articles
Des chercheurs observent que plusieurs grands modèles de langage modifient leurs réponses lorsqu’ils semblent comprendre qu’un test de personnalité est en cours. GPT-4, notamment, renforce ses traits les plus valorisés socialement et réduit son score de névrosisme. Un biais qui invite à la prudence dans les recherches utilisant l’IA comme répondante.
L’intelligence artificielle médicale ne se limite pas aux systèmes les plus visibles. Aux États-Unis, des chercheurs soulignent que les scores de risque clinique, souvent plus simples mais très répandus, peuvent eux aussi influencer l’équité des soins. Les nouvelles règles fédérales ouvrent un chantier crucial : contrôler les données, les biais et l’usage réel de ces outils.
Une intelligence artificielle peut-elle être éthique par nature, ou seulement encadrée par les choix humains qui la façonnent ? Entre biais, désinformation, mécanismes de sécurité et nouvelles règles européennes, la question dépasse largement la technique. Elle oblige à décider quelles valeurs une société souhaite réellement confier aux machines.
Les IA génératives peuvent reproduire des stéréotypes de genre, de religion, d’origine ou d’opinion politique. Développé par des chercheurs de l’UOC et de l’Université de Luxembourg, LangBiTe propose plus de 300 prompts pour tester ces dérives, comparer les modèles et adapter l’évaluation à chaque contexte d’usage.
Une étude du MIT Center for Constructive Communication interroge la neutralité des systèmes chargés d’évaluer la véracité des réponses d’IA. Même entraînés à partir de données dites objectives, des modèles de récompense ont favorisé certaines affirmations politiques, avec un effet qui s’accentue selon leur taille.
Des chercheurs du MIT montrent qu’il est possible de cibler certaines données d’entraînement qui pénalisent les groupes sous-représentés. Leur méthode, fondée sur l’outil TRAK, évite le nettoyage massif des jeux de données et vise à préserver, voire à renforcer, la précision du modèle.
Au Royaume-Uni, un système automatisé utilisé pour orienter les enquêtes sur la fraude aux prestations présente des disparités selon l’âge, la nationalité, le handicap ou la situation matrimoniale. Des documents internes, obtenus via la loi sur la liberté d’information, relancent le débat sur la transparence et le contrôle humain des algorithmes publics.
Au Royaume-Uni, l’usage de l’intelligence artificielle dans les services publics soulève une question démocratique centrale : que savent réellement les citoyens des outils qui les concernent ? Au 28 novembre 2024, des dispositifs de transparence existent, mais leur portée et leur mise en œuvre restent inégales.
L’apprentissage automatique s’invite dans les diagnostics, l’imagerie médicale, la prévention et l’organisation des hôpitaux. Il peut aider les soignants à repérer des signaux utiles dans de vastes volumes de données, à condition d’être évalué avec rigueur et de ne pas reproduire les inégalités déjà présentes dans le système de santé.
Les assistants de recrutement fondés sur l’IA promettent d’alléger les tâches répétitives. Mais une étude de l’Université de Washington montre que, dans des simulations d’entretien, des biais de race et surtout de caste peuvent encore surgir sans provocation explicite. Un angle mort qui interroge les méthodes d’évaluation des modèles.
Faut-il obliger une intelligence artificielle à trancher lorsqu’elle hésite ? Des chercheurs liés au MIT CSAIL proposent un cadre qui autorise le modèle à rejeter les cas incertains. L’objectif est de réduire les décisions potentiellement injustes sans abandonner l’exigence de précision, notamment dans le crédit ou la santé.
L’essor de l’IA repose largement sur des infrastructures, des données et des modèles contrôlés par un nombre limité d’acteurs. Cette concentration peut accélérer l’innovation, mais elle soulève aussi des questions de concurrence, de discrimination algorithmique et de vie privée. Régulation, audits, éducation et solutions plus distribuées font partie des réponses envisageables.
L’IA générative promet des gains de productivité, mais son déploiement peut aussi fragiliser les données, fausser certaines décisions et produire des informations erronées. Sécurité, contrôle humain, formation et gouvernance : voici les précautions à mettre en place pour utiliser ces outils sans perdre la maîtrise.
Interrogée sur l’apparence typique des habitants de chacun des 50 États américains, une IA a produit des portraits associés à des imaginaires régionaux. Derrière ces images parfois séduisantes se dessine surtout une mécanique de stéréotypes. L’exercice rappelle les limites des générateurs d’images face à la diversité réelle des populations.
À l’Université du Maryland, la réflexion sur l’intelligence artificielle ne se limite pas à la performance. Formation pluridisciplinaire, dialogue avec les usagers, règles juridiques et sobriété environnementale composent la feuille de route d’une IA pensée comme un enjeu collectif.
Les outils d’IA générative peuvent aider à organiser un essai d’admission, mais aussi reproduire des normes d’écriture socialement situées. Lorsque les établissements valorisent certains codes implicites, l’automatisation risque d’affaiblir l’expression de parcours moins privilégiés. La question n’est donc pas seulement celle de la fraude, mais celle de l’équité.
Des outils fondés sur l’intelligence artificielle promettent de projeter des scénarios de carrière, de formation ou de vie à partir de données personnelles. Ils peuvent nourrir une réflexion utile sur ses choix, à condition de ne pas confondre calcul de probabilités et prédiction de l’avenir.
Les chatbots promettent de fluidifier la présélection des candidats et d’uniformiser les questions posées. Mais leur arrivée dans les entretiens d’embauche interroge les DRH sur les biais algorithmiques, la protection des données et l’expérience vécue par les candidats. L’enjeu est de faire de l’IA un outil d’appui, non un recruteur solitaire.
Avec DALL-E 3 et GPT-4 Vision, OpenAI étend les capacités de l’IA à la création et à l’analyse d’images. Mais ces outils posent des questions concrètes : qui détient les droits sur une image générée, comment éviter l’imitation d’artistes, et jusqu’où autoriser la reconnaissance des personnes ?
Après avoir défilé à Los Angeles, le mannequin américano-taïwanais Sheeren Wu affirme que son visage a été remplacé par une image générée par IA dans une story. Cette affaire, contestée par le créateur Michael Costello, expose les promesses et les risques de l’intelligence artificielle pour la diversité dans la mode.
