Primitives de compétence : construire des tâches complexes à partir de composants réutilisables

Observez une personne préparer une tasse de café. La séquence entière dure environ quatre minutes et englobe des dizaines de micro-actions : saisir une tasse, ajuster son orientation, la placer sous la buse, appuyer sur un bouton, ouvrir une brique de lait, verser et remuer. Si vous tentez d’entraîner un modèle d’apprentissage par imitation de bout en bout sur cette séquence entière comme une trajectoire unique, le modèle échouera presque à coup sûr. Les erreurs cumulées sur un horizon de quatre minutes croissent de manière exponentielle, ce qui conduit à ce que les roboticiens appellent le problème de dérive.

Au contraire, l’humain ne perçoit pas une seule trajectoire continue de quatre minutes. Nous percevons une composition de routines motrices discrètes et hautement réutilisables. Dans le Physical AI moderne, nous les appelons des primitives de compétence. En structurant l’apprentissage des robots autour de policies modulaires plutôt qu’autour de trajectoires monolithiques de bout en bout, nous pouvons réduire radicalement la quantité de données de démonstration nécessaire pour enseigner aux robots humanoïdes des tâches complexes en plusieurs étapes.

Le goulet d’étranglement multitâche : pourquoi le bout en bout échoue

Les modèles visuo-moteurs-langage (VLA) de bout en bout ont fait preuve d’une généralisation zero-shot impressionnante sur les tâches à court horizon. Cependant, appliqués à des flux de travail industriels ou domestiques à long horizon, leur fiabilité chute brutalement. Une policy affichant un taux de réussite de 90 % sur des sous-tâches individuelles ne présentera plus qu’un piètre taux de réussite de 53 % lorsque cinq de ces sous-tâches sont enchaînées séquentiellement.

Cet échec tient principalement au cumul de petites erreurs d’exécution. Lorsqu’un robot calcule légèrement de travers une prise à la première étape, il aborde la deuxième étape en dehors de sa distribution d’entraînement. Sans mécanisme pour réinitialiser, aligner ou passer proprement d’une phase à l’autre, le robot entre dans un état de confusion permanente. Le secteur prend conscience que les modèles monolithiques sont trop fragiles pour le monde physique, un constat que confirment les travaux récents du NVIDIA GEAR Lab research ainsi que le développement d’a priori physiques généralisés.

En décomposant une tâche complexe à long horizon en une bibliothèque de policies modulaires, nous pouvons entraîner des modèles spécialisés sur des primitives de compétence précises (comme saisir, insérer ou essuyer) et recourir à un planificateur de tâches de haut niveau pour les orchestrer. Cette approche, défendue par des entreprises comme Physical Intelligence blog, permet de réutiliser une seule primitive de « préhension » à travers des centaines de flux de travail de haut niveau différents.

Les policies modulaires transforment la complexité exponentielle des tâches robotiques à long horizon en un problème linéaire de composition de compétences.

Définir l’interface de compétence

Pour que les primitives de compétence fonctionnent au sein d’une architecture modulaire, nous devons définir des interfaces claires. Une primitive de compétence n’est pas un simple script moteur brut : c’est une policy en boucle fermée qui met en correspondance des observations sensorimotrices avec des actions, délimitée par des conditions d’initiation et de terminaison précises. Cette structure est déterminante pour l’intégration avec des orchestrateurs de haut niveau comme NVIDIA Isaac GR00T.

Pour bâtir une bibliothèque de compétences robuste, nous classons les primitives en trois couches fonctionnelles distinctes. Cette taxonomie garantit que le raisonnement sémantique de haut niveau se traduit proprement jusqu’au contrôle articulaire à haute fréquence.

Chacune de ces catégories exige un style de capture de données différent. Par exemple, une tâche d’insertion riche en contacts ne peut pas s’apprendre uniquement à partir de démonstrations visuelles : elle nécessite des profils force-couple haute fidélité pour capturer la subtile compliance requise afin d’aligner les surfaces sans les endommager. C’est pourquoi les jeux de données multimodaux comme le jeu de données Open X-Embodiment sont si précieux : ils agrègent des comportements de robots variés à travers de multiples modalités de capteurs.

Le défi de la composition : transitions et garde-fous

La partie la plus ardue de la robotique modulaire n’est pas l’entraînement des primitives de compétence individuelles : c’est la gestion des transitions entre elles. Si un robot termine une primitive de « prise » mais que sa pince est légèrement désalignée, la primitive de « dépose » suivante peut échouer immédiatement. Comment combler ces écarts ?

Il existe deux grandes écoles de pensée en matière de composition de tâches :

• Garde-fous d’état explicites : chaque primitive de compétence dispose d’un classifieur qui détermine si l’état courant appartient à son « ensemble d’initiation » (l’ensemble des états depuis lesquels la réussite de la compétence est garantie). Si le robot se trouve en dehors de cet ensemble, une policy de récupération est déclenchée.
• Mélange dans l’espace latent : une policy de haut niveau produit des embeddings continus qui mélangent les transitions entre compétences, autorisant des profils de mouvement fluides et ininterrompus, sans arrêts brusques.

Les deux approches exigent une compréhension approfondie des limites physiques de chaque compétence. Cela signifie que, lorsque nous collectons des données de démonstration humaine, nous ne pouvons pas nous contenter de capturer les exécutions réussies. Nous devons aussi capturer les « limites » des compétences, y compris les comportements de récupération, les quasi-échecs et les ajustements correctifs.

Ce que les policies modulaires exigent de la couche de données

La transition vers les policies modulaires change fondamentalement ce que nous attendons des données d’entraînement robotiques. Historiquement, des jeux de données comme Ego4D se sont concentrés sur la vidéo passive, à la première personne, d’humains accomplissant des tâches quotidiennes. Bien que très précieuse pour la compréhension sémantique, la vidéo passive ne comporte pas la télémétrie physique fine nécessaire pour entraîner des compétences motrices en boucle fermée.

Pour entraîner une policy modulaire, il nous faut des données explicitement structurées autour des limites de compétences. Cela signifie que chaque démonstration doit être annotée avec des marqueurs de début et de fin précis pour chaque primitive, accompagnés de données proprioceptives à haute fréquence, d’un retour tactile et de perspectives visuelles multi-angles. Sans ces métadonnées structurées, la segmentation d’une démonstration à long horizon en primitives réutilisables devient un goulet d’étranglement d’annotation insoluble.

Conclusion : la voie vers la généralisation

Nous n’atteindrons pas des robots humanoïdes polyvalents en entraînant des modèles monolithiques toujours plus grands sur de la vidéo non structurée. Le monde physique est trop complexe, et la longue traîne des interactions physiques est trop vaste. La voie à suivre réside plutôt dans la maîtrise de la composition de primitives de compétence réutilisables.

En considérant les capacités robotiques comme une bibliothèque modulaire d’actions physiques, nous pouvons construire des systèmes plus faciles à déboguer, plus rapides à entraîner et hautement adaptables à de nouveaux environnements. Le goulet d’étranglement n’est plus seulement la puissance de calcul, mais notre capacité à alimenter ces architectures modulaires avec les données de démonstration à la première personne, multimodales et hautement structurées, dont elles ont besoin pour combler le fossé entre la simulation et la réalité.