Sujet
Tous les articles d’Actu.ai consacrés à Biais : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 12 articles
Des chercheurs de Johns Hopkins observent que plusieurs modèles de langage privilégient les informations rédigées dans la langue de la requête. Ce réflexe peut isoler les utilisateurs dans des récits nationaux ou dominants, particulièrement lorsque leur langue est peu présente dans les données numériques.
Les données synthétiques permettent d’entraîner et de tester des systèmes d’IA sans exposer directement des informations réelles. Elles peuvent accélérer les projets et combler les manques de données, mais ne suppriment ni les biais ni les exigences de contrôle. Voici les trois questions essentielles à se poser avant de les adopter.
Face à des systèmes d’IA souvent conçus sur des modèles semblables, le projet Doing AI Differently défend une autre voie : intégrer pleinement les sciences humaines. L’enjeu est de construire des outils capables de mieux prendre en compte les contextes, les récits et la pluralité des expériences humaines.
Des chercheurs du MIT alertent sur une fragilité préoccupante des modèles de langage en santé : des détails sans rapport avec l’état clinique, comme une faute de frappe ou un ton hésitant, peuvent infléchir leurs conseils. L’effet est particulièrement inquiétant lorsqu’il conduit à déconseiller une consultation médicale, notamment pour les femmes.
Une réponse convaincante n’est pas forcément une réponse juste. La jeune pousse issue du MIT Themis AI propose Capsa, un outil destiné à repérer les incertitudes des modèles avant qu’elles ne provoquent des erreurs dans des secteurs sensibles, de la santé à la conduite autonome.
Des chercheurs du MIT et du laboratoire Watson d’IBM proposent SASA, une méthode de décodage qui réduit les sorties toxiques des modèles de langage. L’idée n’est pas de réentraîner le modèle, mais d’orienter en temps réel le choix de ses mots, tout en préservant autant que possible la qualité des réponses.
Les modèles de langage peuvent reproduire des insultes, stéréotypes et propos haineux présents dans leurs données d’entraînement. Des chercheurs du MIT-IBM Watson AI Lab proposent SASA, une méthode qui réoriente le choix des mots au moment de générer une réponse, sans modifier les paramètres du modèle.
Conçu par des chercheurs de l’Université de Washington et de l’Allen Institute for Artificial Intelligence, Delphi cherche à produire des réponses à des situations morales du quotidien. En s’appuyant sur 1,7 million de jugements humains, le projet éclaire autant les promesses de l’IA éthique que ses limites profondes.
OpenAI a accordé 1 million de dollars à l’Université Duke pour étudier la façon dont l’IA peut prédire et influencer les jugements moraux humains. Mené par le MADLAB, le projet « Making Moral AI » ambitionne de concevoir un prototype de GPS moral, tout en posant une question centrale : qui définit les valeurs intégrées à ces outils ?
Une réponse d’IA plausible n’est pas forcément juste. Pour évaluer sérieusement un modèle, il faut définir les erreurs à éviter, tester sur des données distinctes de l’entraînement et organiser un suivi après le déploiement. Une méthode indispensable lorsque les réponses peuvent influer sur une décision importante.
Les grands modèles de langage peuvent reformuler, clarifier et organiser une information complexe. Des travaux évoqués par DeepMind soulignent leur potentiel comme intermédiaires dans les échanges entre personnes et machines, voire entre points de vue différents. Mais cette médiation automatisée exige un cadre de contrôle solide, en particulier dans les situations sensibles.
Les outils d’intelligence artificielle peuvent analyser beaucoup d’informations et livrer une réponse convaincante, sans pour autant être exacts. Données imparfaites, biais, raisonnement fragile ou manque de contexte expliquent ces erreurs. Pour les usages sensibles, la solution passe moins par une confiance aveugle que par des contrôles humains et techniques adaptés.
