Le MIT veut rendre l’entraînement des robots plus général avec HPT

Apprendre à un robot à saisir un objet, ouvrir une porte ou se déplacer dans un espace encombré reste une opération lente et coûteuse. Chaque nouvelle tâche, chaque nouvel environnement et parfois chaque nouvelle machine réclament habituellement de nouvelles données. Des chercheurs du Massachusetts Institute of Technology, le MIT, proposent une autre voie : constituer une expérience commune à partir de jeux de données très différents, puis s’en servir pour mieux préparer les robots à l’inconnu.

Leur méthode, baptisée Heterogeneous Pretrained Transformers, ou HPT, transpose à la robotique une idée qui a largement fait ses preuves dans l’intelligence artificielle du langage : préentraîner un grand modèle sur des données nombreuses et variées avant de l’adapter à un besoin précis. L’ambition n’est pas de remplacer instantanément tous les entraînements spécialisés. Elle est de limiter le besoin de recommencer l’apprentissage depuis le début dès qu’un robot doit changer de contexte ou acquérir une nouvelle compétence.

Pourquoi entraîner un robot est-il si difficile ?

Un robot ne se contente pas de reconnaître une image ou de produire une réponse écrite. Il doit percevoir son environnement, interpréter une consigne et commander ses moteurs avec une précision suffisante pour agir dans le monde réel. Une tasse peut être placée à quelques centimètres de sa position habituelle, un objet peut être plus lourd qu’attendu, ou une surface peut être glissante. Ces variations, banales pour un humain, compliquent fortement l’apprentissage automatisé.

Les approches classiques reposent souvent sur des données recueillies pour un robot et une tâche bien définis. Des ingénieurs organisent alors des démonstrations, enregistrent les mouvements de la machine ou utilisent des simulations. Le résultat peut être très efficace dans les conditions prévues, mais sa réutilisation est limitée lorsque l’environnement, les capteurs ou l’objectif changent.

Ce cloisonnement des données pose deux difficultés majeures :

• il faut accumuler beaucoup d’exemples adaptés à chaque cas d’usage ;
• les compétences apprises dans un cadre donné ne se transfèrent pas toujours facilement vers un autre.

HPT part du principe que les nombreuses expériences déjà collectées par la recherche en robotique ne devraient pas rester isolées. Plutôt que d’entraîner un modèle sur un seul corpus homogène, les chercheurs cherchent à apprendre à partir de sources hétérogènes, c’est-à-dire différentes par leur origine, leur type d’information et les tâches représentées.

HPT, un modèle unique pour des données variées

La proposition du MIT repose sur les transformers, une famille d’architectures devenue centrale dans les modèles de langage avancés. Leur intérêt est de pouvoir traiter de nombreuses informations en tenant compte des relations entre elles. Dans un système robotique, cela peut aider à associer ce que le robot voit, ce qu’il reçoit comme instruction et la manière dont son propre corps est positionné.

HPT est conçu pour intégrer simultanément plusieurs modalités de données :

• des images captées par les caméras ;
• des instructions verbales, qui indiquent l’action attendue ;
• des cartes de profondeur, utiles pour estimer les distances et le relief ;
• la proprioception, c’est-à-dire les informations sur la position et les mouvements du robot lui-même.

Cette dernière dimension est particulièrement importante. Voir un objet ne suffit pas à le saisir : le robot doit aussi savoir où se trouvent ses bras, ses articulations et ses effecteurs par rapport à l’objet. En accordant une attention comparable à la vision et à la proprioception, l’architecture cherche à améliorer la motricité fine et la capacité à produire des mouvements plus précis.

Dans ce type d’approche, l’enjeu n’est donc pas seulement de reconnaître une scène. Le modèle doit relier les données sensorielles à une action utile. Une instruction telle que prendre un objet, combinée à l’image de la scène et à l’état du robot, doit conduire à une séquence de mouvements cohérente.

Une base d’apprentissage de 52 jeux de données

Pour donner au modèle cette expérience diversifiée, les chercheurs ont réuni une vaste base d’entraînement. Elle comprend 52 jeux de données et plus de 200 000 trajectoires de robots. Une trajectoire correspond ici à une suite d’observations et d’actions : le robot perçoit une situation, agit, puis l’état de la scène et de la machine évolue.

L’ensemble rassemble notamment des démonstrations humaines et des données produites en simulation. Ces deux sources sont complémentaires. Les démonstrations peuvent apporter des gestes utiles observés dans des situations concrètes. Les simulations permettent, elles, de générer des expériences plus facilement et de varier les scénarios sans reproduire matériellement chaque situation.

La diversité est au cœur de la démarche. Un modèle entraîné sur des données trop uniformes risque d’apprendre des habitudes étroites, efficaces dans un laboratoire particulier mais fragiles face à une situation légèrement différente. En confrontant HPT à de multiples expériences, l’équipe veut lui faire acquérir des compétences plus générales.

Quels résultats les chercheurs ont-ils obtenus ?

Les premiers résultats rapportés pour HPT sont encourageants. Dans des scénarios simulés comme dans des essais réels, la méthode a affiché une amélioration de plus de 20 % par rapport aux méthodes conventionnelles utilisées comme références dans les évaluations présentées.

Le point le plus significatif concerne la généralisation. Les robots ont été confrontés à des tâches très différentes de celles présentes dans leurs données d’entraînement initiales. Ils ont néanmoins obtenu de bons résultats, ce qui suggère que le préentraînement sur des données hétérogènes peut aider à transférer des apprentissages au-delà d’un cadre unique.

Ce résultat doit toutefois être lu à sa juste mesure. Une amélioration mesurée dans des scénarios de recherche, y compris lorsqu’elle est observée à la fois en simulation et dans le monde réel, ne signifie pas qu’un robot peut désormais accomplir sans préparation n’importe quelle tâche domestique ou industrielle. La robotique demeure confrontée à la fiabilité des capteurs, à la sécurité des mouvements, aux imprévus matériels et à l’écart entre un environnement expérimental et une situation de production.

Ce que HPT change par rapport à l’entraînement traditionnel

L’intérêt de HPT est d’abord économique et opérationnel. Collecter des données robotiques est une tâche exigeante : il faut du matériel, des espaces de test, des personnes pour réaliser ou superviser des démonstrations, ainsi que du temps de calcul. Si un même préentraînement peut servir de base à plusieurs usages, le coût et le délai de mise au point d’une nouvelle compétence pourraient diminuer.

L’approche est également plus adaptée à des environnements dynamiques. Dans un entrepôt, un atelier ou un lieu de service, les objets ne sont pas toujours disposés comme prévu. Les éclairages, les distances et les obstacles changent. Un modèle nourri de situations diversifiées a davantage de chances de ne pas être entièrement déstabilisé par ces écarts qu’un système entraîné dans un décor unique et rigide.

La prise en compte conjointe de la vision et de la proprioception constitue une autre différence importante. Un robot doit comprendre à la fois le monde extérieur et son propre état physique. Cette combinaison est essentielle pour les tâches de manipulation, où un léger décalage dans la position d’un bras ou dans l’estimation de la distance peut faire échouer une action pourtant simple en apparence.

Enfin, HPT illustre une évolution plus large de la robotique vers des modèles capables de réutiliser des connaissances entre tâches. Cette logique rappelle le passage, dans le langage, de modèles spécialisés à des modèles généraux qui peuvent ensuite être adaptés à de multiples applications. La comparaison a toutefois ses limites : les mots sont des symboles numériques, tandis que les robots doivent agir dans un monde matériel où une erreur peut avoir des conséquences immédiates.

Vers un cerveau robotique universel ?

Les chercheurs envisagent déjà d’élargir la méthode. L’une des pistes consiste à permettre à HPT de traiter des données non étiquetées, à l’image de ce qui a contribué au développement des grands modèles de langage. Les données non étiquetées sont des informations brutes qui ne sont pas accompagnées d’une annotation détaillée indiquant explicitement ce qu’elles représentent ou l’action correcte à accomplir.

Cette direction est importante car l’annotation manuelle de données robotiques est coûteuse. Pouvoir exploiter davantage d’observations, de vidéos ou de trajectoires sans devoir les décrire une à une augmenterait potentiellement l’échelle des corpus disponibles. C’est une condition nécessaire si la robotique veut s’approcher des volumes de données qui ont favorisé les progrès récents dans d’autres domaines de l’IA.

L’ambition ultime formulée autour de HPT est celle d’un cerveau robotique universel, téléchargeable et utilisable sans formation complémentaire. À ce stade, il s’agit d’une perspective de recherche, non d’un produit disponible. Pour y parvenir, il faudrait notamment démontrer que la méthode conserve ses performances sur un éventail beaucoup plus large de robots, de lieux et de tâches, tout en restant suffisamment sûre pour une utilisation hors laboratoire.

Ce qu’il faut surveiller

La suite dépendra d’abord de la capacité de HPT à changer d’échelle. Réunir 52 jeux de données et plus de 200 000 trajectoires représente déjà un corpus conséquent pour la robotique. Mais un modèle général devra prouver qu’il tire réellement parti de données encore plus nombreuses, y compris lorsqu’elles sont imparfaites ou non étiquetées.

Il faudra aussi observer la qualité du transfert vers de nouvelles machines et de nouveaux environnements. Un bon score sur une tâche expérimentale est une étape utile. La démonstration la plus convaincante serait qu’un même socle préentraîné réduise concrètement le temps nécessaire pour équiper différents robots de compétences fiables dans des situations changeantes.

Enfin, l’efficacité ne peut pas être le seul critère. À mesure que les robots gagnent en autonomie et accèdent à des lieux de travail ou de vie, les exigences de sécurité, de contrôle humain et de prévisibilité deviennent centrales. HPT montre une piste crédible pour rendre l’apprentissage robotique moins fragmenté. Son véritable impact se mesurera à sa capacité à transformer cette promesse scientifique en comportements robustes, répétables et sûrs dans le monde réel.