Le MIT veut accélérer l’apprentissage des robots polyvalents grâce aux données

En robotique, apprendre à saisir un objet, ouvrir un tiroir ou accomplir une séquence de gestes n’est pas seulement une affaire de logiciel. Il faut habituellement produire de nombreuses démonstrations adaptées à une machine précise, à ses capteurs, à ses bras et à son environnement. Cette collecte est longue, coûteuse et difficile à réutiliser. Des chercheurs du Massachusetts Institute of Technology, le MIT, proposent une autre voie : faire apprendre les robots à partir d’un vaste patrimoine de données hétérogènes, plutôt que recommencer presque de zéro à chaque nouveau besoin.

Leur architecture, appelée Heterogeneous Pretrained Transformers, ou HPT, s’inspire d’une idée devenue centrale avec les grands modèles de langage : préentraîner un système sur beaucoup de données variées, puis l’adapter avec un effort plus limité à une tâche particulière. Dans les expériences rapportées en octobre 2024, cette approche a permis des gains de performance de plus de 20 %, en simulation et dans des essais sur robots réels, face à un entraînement traditionnel.

Pourquoi entraîner un robot reste-t-il si difficile ?

Un robot ne comprend pas spontanément ce qu’il voit ni comment agir dans un lieu nouveau. Pour accomplir une tâche, il doit relier des observations, par exemple les images d’une caméra, à des commandes motrices très concrètes : déplacer un bras, orienter une pince, exercer une force ou s’arrêter au bon moment. Le programme qui réalise cette association entre ce que le robot perçoit et ce qu’il doit faire est souvent désigné, en robotique, comme une « politique ».

La méthode classique consiste à entraîner cette politique par apprentissage par imitation. Un humain montre au robot comment réaliser une action, directement ou à l’aide d’un dispositif de contrôle. Les trajectoires ainsi enregistrées servent ensuite d’exemples. C’est une solution utile pour obtenir un comportement spécialisé, mais elle présente plusieurs limites :

• les démonstrations doivent souvent être produites pour une tâche et un type de robot donnés ;
• un changement de décor, d’objet ou de position initiale peut dégrader les résultats ;
• deux robots aux bras, capteurs ou articulations différents ne manipulent pas les mêmes commandes ;
• multiplier les cas d’usage implique de multiplier les campagnes de collecte de données.

Cette dépendance à des jeux de données très ciblés freine l’objectif de robots capables de s’adapter à des situations plus diverses. Elle explique aussi pourquoi les performances spectaculaires obtenues dans un environnement contrôlé ne se transposent pas toujours facilement à un atelier, un entrepôt ou un domicile.

HPT, un langage commun pour des données robotiques variées

La proposition du MIT répond à un problème concret : les données utiles à un robot n’ont pas toutes la même forme. Certaines viennent de simulations, d’autres de machines physiques. Certaines sont visuelles, sous la forme d’images de caméras. D’autres décrivent la position des articulations, les mouvements du bras ou l’état de la pince. Ces informations dites proprioceptives renseignent le robot sur son propre corps et ses mouvements.

HPT cherche à aligner ces sources très différentes dans une représentation commune utilisable par un même modèle d’intelligence artificielle générative. L’architecture centralise ainsi le traitement des entrées visuelles et proprioceptives. Elle s’appuie sur un transformeur, une famille de réseaux de neurones également utilisée dans de nombreux grands modèles de langage.

L’enjeu n’est pas de prétendre que tous les robots sont identiques. Au contraire, HPT prend en compte les données liées à la conception du robot et à la tâche demandée. Mais au lieu de conserver chaque apprentissage dans un silo, le modèle peut transférer une partie de ce qu’il a acquis vers une nouvelle configuration. Un système ayant rencontré de multiples capteurs, bras et scénarios peut ainsi disposer d’une base plus large pour apprendre rapidement une tâche supplémentaire.

Plus de 200 000 trajectoires réunies pour le pré-entraînement

Pour constituer la base de pré-entraînement de HPT, l’équipe a rassemblé plus de 200 000 trajectoires robotiques provenant de 52 ensembles de données. Une trajectoire correspond à une séquence d’observations et d’actions au cours de laquelle le robot réalise un mouvement ou une tâche. Cette diversité est au cœur de l’approche : elle expose le modèle à différentes façons de percevoir un environnement et d’agir sur lui.

Réunir un tel corpus ne suffit pas. Les données doivent aussi pouvoir être lues ensemble sans que les signaux visuels prennent toute la place au détriment des informations sur l’état du robot. Les chercheurs ont donc dû transformer efficacement les signaux proprioceptifs bruts afin qu’ils soient pris en compte de façon équilibrée avec les données issues de la vision.

Cette étape est déterminante. Une image peut indiquer qu’un objet est devant la pince, mais elle ne dit pas à elle seule si le bras est dans une posture qui lui permet de l’atteindre. À l’inverse, connaître l’angle de chaque articulation ne suffit pas à localiser un objet dans la scène. La polyvalence recherchée dépend précisément de l’association entre perception et action.

Quels résultats face à l’entraînement traditionnel ?

Selon les résultats présentés par les chercheurs, HPT améliore les performances de plus de 20 % par rapport à l’entraînement traditionnel, à la fois dans les simulations et lors d’essais en conditions réelles. Les bénéfices demeurent observables lorsque les tâches testées s’éloignent des données utilisées au départ pour l’apprentissage. C’est un résultat important, car la capacité à faire face à la nouveauté est l’une des principales limites des robots spécialisés.

La promesse économique est également notable. En réutilisant des données disponibles à travers plusieurs plateformes et tâches, une entreprise ou un laboratoire pourrait avoir besoin de moins d’exemples spécifiques pour former un robot à un nouveau travail. La méthode ne dispense pas de fournir les informations relatives à la machine et à l’objectif visé, mais elle vise à limiter l’effort nécessaire à chaque déploiement.

Il faut toutefois distinguer l’idée de réutilisation des données d’une garantie universelle. Les résultats concernent les évaluations décrites par l’équipe. Dans la pratique, la fiabilité d’un robot dépendra toujours de sa tâche, de ses capteurs, de son environnement, de ses contraintes de sécurité et de la qualité des données disponibles.

Une inspiration directe des grands modèles de langage

Le rapprochement avec les LLM ne signifie pas qu’un robot « parle » ou raisonne comme un assistant conversationnel. L’analogie porte sur la méthode d’apprentissage. Les LLM tirent une part de leur polyvalence du fait qu’ils sont préentraînés sur de très grands corpus, avant d’être adaptés à des usages particuliers. HPT applique un schéma comparable à la robotique, où le corpus est composé de trajectoires, d’images, de signaux de capteurs et de descriptions de robots.

Cette approche peut aider à résoudre un problème de fragmentation. Jusqu’ici, beaucoup de jeux de données robotiques sont étroitement liés au matériel qui les a produits. Un bras industriel, un robot de recherche ou une simulation n’emploient pas forcément les mêmes repères, les mêmes commandes ni les mêmes capteurs. En les convertissant dans un espace partagé, HPT cherche à rendre ces expériences plus cumulatives.

L’objectif est donc moins de fabriquer immédiatement un robot capable de tout faire que de bâtir une base d’apprentissage réutilisable. À mesure que le modèle est exposé à davantage de données compatibles, il peut en principe apprendre des régularités plus générales entre ce qu’il perçoit et les actions appropriées.

Ce que cette méthode peut changer pour la robotique

Si ce type de pré-entraînement se confirme à plus grande échelle, il pourrait modifier la façon dont les robots sont développés. Au lieu de bâtir un modèle distinct pour chaque tâche, les concepteurs pourraient partir d’un socle commun, puis le spécialiser. Cela serait particulièrement utile dans les contextes où les tâches sont nombreuses, les environnements évolutifs ou les robots hétérogènes.

Les applications envisagées concernent, de manière générale, des machines devant réaliser des manipulations variées et complexes. Cependant, la polyvalence d’un modèle ne remplace pas les exigences de sûreté. Dans un environnement réel, un geste imprécis peut endommager un objet, bloquer une chaîne de travail ou présenter un risque pour les personnes à proximité. L’évaluation devra donc porter autant sur la robustesse et la capacité d’arrêt du robot que sur son taux de réussite moyen.

Le financement de ces travaux provient notamment de l’initiative Amazon Greater Boston Tech et du Toyota Research Institute. Ces soutiens illustrent l’intérêt industriel pour des méthodes susceptibles de réduire le temps et les coûts nécessaires à l’apprentissage robotique.

Ce qu’il faut surveiller

La prochaine étape identifiée par les chercheurs consiste à mieux comprendre comment la diversité des données peut encore améliorer l’efficacité de HPT. Toutes les données ne se valent pas : leur variété, leur qualité, leur compatibilité et la manière dont elles sont représentées peuvent influencer les résultats. Accroître seulement le volume ne garantit donc pas automatiquement un robot plus fiable ou plus adaptable.

L’équipe souhaite aussi explorer l’utilisation de données non étiquetées, dans un esprit proche de celui des LLM contemporains. Dans ce cas, le système chercherait à apprendre à partir d’informations qui ne sont pas toutes annotées manuellement avec une tâche ou une action attendue. Cette ambition est exigeante, car les robots doivent relier des données perceptives à des gestes physiques précis.

À plus long terme, les chercheurs évoquent l’idée d’un « cerveau robotique universel », qu’un utilisateur pourrait déployer sans devoir effectuer un nouvel entraînement complet. En octobre 2024, HPT représente une étape vers cette vision, non son aboutissement. Son principal apport est de montrer qu’un apprentissage commun à partir de données très diverses peut rendre les robots plus performants et plus adaptables, tout en réduisant la dépendance aux coûteuses démonstrations conçues pour chaque cas particulier.