Sujet
Tous les articles d’Actu.ai consacrés à Interprétabilité : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 4 articles
Les modèles linguistiques protéiques peuvent prédire des propriétés essentielles des protéines, mais leurs mécanismes internes restent difficiles à lire. Des chercheurs du MIT utilisent un autoencodeur sparse et l’assistant Claude pour identifier les informations encodées, une étape utile pour mieux choisir ces outils en biologie.
Les grands systèmes d’intelligence artificielle sont capables de rédiger, traduire ou analyser des images, mais leur logique interne demeure difficile à interpréter. Des chercheurs tentent de cartographier leurs neurones artificiels et d’évaluer la fiabilité de leurs réponses, un enjeu crucial pour mieux contrôler ces outils.
Des chercheurs du MIT ont étudié comment des modèles fondés sur les transformers suivent une succession de changements. Dans une tâche de permutations de chiffres, ils ont repéré deux stratégies de calcul hiérarchiques, dont l’une mène plus vite au résultat. Une piste utile pour comprendre, puis améliorer, le suivi d’états dynamiques.
Anthropic a publié une étude inédite sur les mécanismes internes de Claude 3.5 Haiku, comparés à une forme de « biologie » de l’IA. L’objectif n’est pas de rendre Claude biologique, mais de repérer les circuits qui participent à ses réponses, afin de mieux comprendre ses capacités et ses failles.
