Sujet
Tous les articles d’Actu.ai sur le sujet « Explicabilité », du plus récent au plus ancien. 4 articles
Une réponse convaincante n’est pas forcément une explication fidèle. Des chercheurs de Microsoft et du MIT proposent une méthode qui confronte les raisons avancées par les modèles de langage aux facteurs ayant réellement influencé leurs décisions, notamment dans des scénarios de biais social ou de santé.
Lorsqu’une IA recommande un candidat, un produit ou une action, l’entreprise doit pouvoir comprendre les facteurs qui ont conduit à ce résultat. Documentation des données, méthodes comme LIME et SHAP, modèles plus simples, journaux et supervision humaine : l’explicabilité se construit à chaque étape d’un projet.
Dans le droit, une recommandation produite par une IA ne peut pas être une simple boîte noire. Comprendre les données, la logique et les limites d’un système est indispensable pour contester une décision, repérer les biais et préserver les droits fondamentaux. L’AI Act européen renforce progressivement cette exigence.
Une réponse d’IA plausible n’est pas forcément juste. Pour évaluer sérieusement un modèle, il faut définir les erreurs à éviter, tester sur des données distinctes de l’entraînement et organiser un suivi après le déploiement. Une méthode indispensable lorsque les réponses peuvent influer sur une décision importante.
