Pourquoi les réseaux de neurones généralisent moins bien que le cerveau des macaques

Reconnaître un objet ne consiste pas seulement à lui attribuer une étiquette. Un cerveau doit identifier la même chaise si elle apparaît dans une autre pièce, sous une lumière différente, avec une couleur modifiée ou dans une image moins nette. Cette faculté, appelée généralisation, est l’un des grands défis de l’intelligence artificielle. Une étude menée à l’Université Harvard sur des macaques souligne à quel point les réseaux de neurones profonds restent fragiles lorsqu’ils doivent s’éloigner des exemples qu’ils connaissent.

Les résultats ne disent pas que les systèmes d’IA sont inutiles, ni que le cerveau biologique serait déjà pleinement expliqué. Ils pointent un problème plus précis et déterminant : un modèle peut obtenir de bons résultats dans les conditions prévues par son entraînement, tout en cessant de refléter correctement l’activité neuronale lorsque les propriétés visuelles des images changent. Pour les neurosciences comme pour l’IA, c’est une limite importante.

La généralisation, cette aptitude qui rend la reconnaissance robuste

En apprentissage automatique, généraliser signifie tirer une règle utile d’exemples passés pour l’appliquer à des cas nouveaux. Il ne s’agit donc pas de mémoriser chaque image vue pendant l’entraînement, mais de reconnaître ce qui demeure pertinent lorsque des détails changent.

Dans la vie courante, cette opération est presque instantanée. Une personne identifie un chien qu’il soit photographié de profil ou de face, dans l’ombre ou en plein soleil, avec un arrière-plan chargé ou uni. Elle n’a pas besoin d’avoir déjà rencontré exactement cette combinaison de pixels. Le cerveau semble isoler des caractéristiques plus stables que la couleur exacte, le contraste ou l’intensité lumineuse d’une image.

Les réseaux de neurones profonds sont souvent inspirés, de manière lointaine, de l’organisation neuronale. Ils apprennent eux aussi à transformer progressivement une image en représentations internes, à partir d’un très grand nombre d’exemples. Cette parenté de vocabulaire ne signifie toutefois pas qu’ils fonctionnent comme un cerveau. La nouvelle étude s’intéresse justement à cet écart, non seulement en évaluant une tâche de reconnaissance, mais en comparant les prédictions des modèles à des réponses neuronales mesurées chez l’animal.

Un vaste jeu de données recueilli chez sept macaques

L’équipe de chercheurs dirigée par Spandan Madan, à l’Université Harvard, a analysé les réponses neuronales de macaques face à de nombreuses images. Les animaux ont été exposés à des milliers de stimuli visuels, tandis que les scientifiques enregistraient les taux d’activité de neurones dans une zone du cortex temporal inférieur impliquée dans le traitement visuel, désignée BIT dans l’étude.

Le protocole représente un effort expérimental substantiel. Il rassemble environ 300 000 paires image-réponse neuronale, obtenues chez sept macaques au cours de 109 sessions. Une paire relie une image précise à la réponse mesurée dans le cerveau après sa présentation. Cette abondance de données permet de poser une question exigeante : un réseau de neurones artificiel peut-il anticiper ce que feront les neurones biologiques non seulement devant des images familières, mais aussi devant des variations inédites de ces images ?

Ces données ne servent pas à demander à un algorithme si une image contient tel ou tel objet. L’enjeu est plus spécifique : déterminer si les représentations produites par des réseaux de neurones peuvent expliquer les réponses observées dans le cerveau. C’est une approche courante pour rapprocher intelligence artificielle et neurosciences, mais elle impose un test rigoureux de la capacité de généralisation.

Comment les chercheurs ont testé les modèles

Les réseaux de neurones ont d’abord été confrontés à des images appartenant à un cadre familier. Dans ce contexte, leurs prédictions des réponses neuronales étaient satisfaisantes. Ce résultat est important, car il confirme qu’un modèle peut apprendre des correspondances utiles entre des caractéristiques visuelles et l’activité enregistrée dans le cortex des macaques.

Le test change lorsque les chercheurs modifient les images selon différents paramètres. L’étude mentionne notamment la couleur, la saturation et l’intensité. Une image peut conserver la même structure générale tout en changeant fortement d’apparence pour un système fondé sur des signaux statistiques. Ces transformations permettent de vérifier si le modèle a capté des principes robustes ou s’il dépend trop des particularités présentes dans les données initiales.

C’est là que la différence entre apprentissage et généralisation devient visible. Les modèles n’ont pas simplement été évalués sur de nouvelles photographies semblables aux précédentes. Ils ont été mis face à des conditions visuelles qui s’écartaient de celles auxquelles ils étaient habitués. Or, selon les résultats rapportés, leurs performances se sont alors nettement dégradées.

Une efficacité ramenée à 20 % dans les conditions nouvelles

Sur les données connues, les réseaux de neurones donnaient des résultats jugés satisfaisants. Mais face aux images modifiées, leur efficacité est tombée à environ 20 % des résultats escomptés. Autrement dit, les mécanismes qui permettaient aux modèles de reproduire correctement les réponses neuronales dans un environnement familier ne suffisaient plus lorsque certains attributs visuels changeaient.

Ce chiffre ne doit pas être lu comme une mesure universelle de toute l’intelligence artificielle. Il dépend du protocole, du type d’images, des transformations appliquées, de la région cérébrale étudiée et des modèles comparés. Il constitue néanmoins un signal fort : de bonnes performances sur une série de données ne garantissent pas qu’un réseau ait appris une représentation stable et transférable.

Le constat est particulièrement important parce que les variations testées, comme la couleur ou la saturation, paraissent relativement simples. Si un système est sensible à ce type de changement, il peut être encore plus difficile de l’utiliser comme modèle explicatif de la perception dans des situations réelles, où les objets changent simultanément de taille, de point de vue, d’éclairage, de contexte et parfois d’occultation.

Pourquoi ces résultats comptent pour les neurosciences

Les réseaux de neurones profonds occupent une place croissante dans les neurosciences. Ils fournissent des outils pour formuler des hypothèses sur la vision, comparer des représentations et prédire certaines réponses cérébrales. Lorsqu’un modèle reproduit bien les données disponibles, il peut sembler être une bonne approximation du mécanisme biologique observé.

L’étude rappelle qu’une telle conclusion doit être maniée avec prudence. Un modèle descriptif qui fonctionne seulement dans un espace restreint d’images peut capturer des corrélations présentes dans les données sans pour autant refléter les règles utilisées par le cerveau. La généralisation devient donc un critère de validité scientifique, et pas seulement un indicateur de performance informatique.

Spandan Madan illustre cette idée par une analogie avec les lois de Newton. Celles-ci décrivent efficacement de nombreux phénomènes, par exemple le mouvement des planètes, mais elles rencontrent des limites dans d’autres régimes physiques. De façon comparable, un modèle qui prédit bien une activité neuronale dans certaines conditions, mais échoue dès que l’on modifie les images, ne peut pas prétendre représenter fidèlement le fonctionnement cérébral dans toute sa portée.

Cette distinction est essentielle. Une simulation utile n’est pas automatiquement une explication. Pour approcher une explication des mécanismes cognitifs, les modèles doivent conserver leur pertinence lorsque les situations changent, tout comme les cerveaux biologiques savent reconnaître des objets dans des environnements variés.

Ce que l’IA peut apprendre de cet écart avec le cerveau

La recherche ne fournit pas, à elle seule, une recette pour créer des systèmes capables de généraliser comme un primate. Elle précise en revanche le problème à résoudre. Les futurs modèles devront être évalués au-delà des images ou des données très proches de leur entraînement, avec des conditions nouvelles conçues pour tester leur robustesse.

Plusieurs enseignements méthodologiques se dégagent. Les chercheurs peuvent diversifier davantage les données visuelles, mesurer séparément l’effet de chaque transformation et comparer les modèles sur des situations véritablement inédites. Ils peuvent aussi se servir des données neuronales pour identifier les représentations artificielles qui résistent le mieux aux variations, plutôt que de privilégier uniquement les scores obtenus dans un test standard.

Pour le grand public, cette étude apporte une nuance utile au débat sur les capacités de l’IA. Les systèmes actuels peuvent accomplir des tâches impressionnantes et produire des résultats très convaincants. Mais leur fiabilité dépend de la proximité entre les cas rencontrés et les données qui ont permis de les entraîner. Le passage d’un exemple familier à une situation nouvelle reste un défi, y compris pour les modèles les plus sophistiqués.

Ce qu’il faut surveiller

La suite dépendra de la manière dont les équipes de recherche intégreront la généralisation à leurs critères d’évaluation. L’enjeu ne sera pas seulement de construire des réseaux plus grands ou de les entraîner sur davantage de données. Il s’agira de vérifier qu’ils conservent des prédictions cohérentes lorsque les propriétés pertinentes d’une scène demeurent les mêmes, mais que son apparence change.

Le dialogue entre neurosciences et intelligence artificielle pourrait y gagner en exigence. Les données recueillies chez les macaques offrent un terrain de comparaison rare, car elles relient directement les images perçues et l’activité de neurones biologiques. Si de futurs modèles parviennent à mieux prédire ces réponses dans des conditions nouvelles, ils seront à la fois des outils d’IA plus robustes et des candidats plus crédibles pour éclairer certains mécanismes de la perception.

À l’inverse, si leurs performances restent dépendantes de détails visuels secondaires, cela confirmera que la généralisation cérébrale ne se réduit pas à la reproduction de motifs statistiques observés dans un jeu de données. C’est cette frontière, entre réussite sur des exemples connus et compréhension adaptable du monde, que l’étude invite à examiner de près.