Sujet
Tous les articles d’Actu.ai consacrés à Robustesse : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 3 articles
Un système d’IA peut changer de verdict après la modification de quelques mots, alors que le sens d’une phrase reste identique. Des chercheurs du MIT proposent une méthode pour détecter ces fragilités, les mesurer et aider les équipes à renforcer leurs classificateurs, notamment dans les usages sensibles.
Une attaque adversariale peut faire commettre une erreur à un modèle d’intelligence artificielle grâce à une modification parfois imperceptible pour l’humain. Une méthode fondée sur un autoencodeur masqué ambitionne de nettoyer ces entrées avant leur analyse. Son intérêt est réel, mais sa robustesse doit être mesurée avec rigueur avant tout déploiement sensible.
Faut-il exposer une intelligence artificielle à toutes les perturbations dès son entraînement pour la rendre robuste ? Des travaux menés au MIT suggèrent parfois l’inverse : dans des jeux Atari modifiés, des agents entraînés dans un environnement contrôlé ont mieux résisté ensuite à l’incertitude.
