L’EU AI Act et les données d’entraînement des robots : ce qu’il faut savoir
Ce que l’EU AI Act exige réellement des données d’entraînement incarnées : les règles de qualité de l’Article 10, les obligations de provenance des GPAI et le calendrier 2026-2027 pour les robots.
Imaginez l’audit. Le responsable sécurité d’un opérateur logistique allemand pose une seule question au sujet de l’humanoïde qui achemine désormais des bacs dans l’allée sept : d’où proviennent les données qui lui ont appris à saisir, et pouvez-vous démontrer que les personnes filmées dans ces vidéos d’entraînement ont consenti à l’être ? En vertu du Regulation (EU) 2024/1689, mieux connu sous le nom d’EU AI Act, cette question cesse d’être rhétorique pour devenir une obligation de documentation.
Voici ce que la plupart des résumés comprennent de travers. L’AI Act ne réglemente pas les jeux de données. Il réglemente les systèmes d’IA mis sur le marché de l’Union et les modèles à usage général qui les animent. Aucun article ne dit qu’un ensemble d’entraînement de robot doit contenir un nombre d’heures de vidéo fixe ou un quota de démonstrations. Et pourtant, lisez attentivement les obligations et vous verrez que presque tout le poids retombe malgré tout sur les données. L’AI Act fait de vos données l’endroit où vous prouvez que votre système se comporte comme il le doit.
Pour les équipes qui construisent des modèles de fondation incarnés, cette indirection est toute l’histoire. Que vous récupériez des vidéos à la première personne, téléopériez des bras dans un laboratoire ou mutualisiez des trajectoires entre institutions comme l’a fait Open X-Embodiment avec plus d’un million d’épisodes de robots réels, la surface de conformité se ramène à la même courte liste de questions : provenance, représentativité, consentement et biais. Cet article détaille ce que l’AI Act demande réellement aux jeux de données incarnés, quelles parties s’appliquent dès maintenant et lesquelles mordront en 2026 et 2027.
L’AI Act réglemente les systèmes, pas les jeux de données
Le champ d’application décide de tout le reste. L’AI Act s’applique aux fournisseurs qui mettent un système d’IA sur le marché de l’UE ou le mettent en service sur ce territoire, ainsi qu’aux fournisseurs de modèles d’IA à usage général (GPAI) où qu’ils se trouvent. Les sorties utilisées dans l’Union comptent également. Un jeu de données pris isolément n’est pas un objet réglementé. Il devient pertinent dès l’instant où il entraîne un système ou un modèle qui touche l’UE.
L’AI Act classe les systèmes par risque : une courte liste de pratiques interdites, un palier à haut risque plus large, des systèmes à risque limité assortis d’obligations de transparence, et tout le reste. Un humanoïde utilisé comme composant de sécurité d’une machine industrielle, ou intégré à un autre produit couvert, peut se retrouver dans le palier à haut risque via l’Annexe I, qui rattache l’AI Act au droit existant de la sécurité des produits, comme le Machinery Regulation. C’est cette classification qui met en vigueur les règles de gouvernance des données.
La formulation honnête est donc la suivante : votre jeu de données incarné est réglementé par ricochet. Il hérite des obligations du système qu’il entraîne et du modèle que vous publiez. Négligez ce point, et vous lirez l’Article 10 comme facultatif. Il ne l’est pas.
Article 10, la barre de la gouvernance des données
L’Article 10 est la disposition qui compte le plus pour quiconque assemble des données de robots. Il exige que les jeux de données d’entraînement, de validation et de test qui sous-tendent un système à haut risque respectent des critères de qualité. La formulation est délibérément pratique plutôt que chiffrée.
L’AI Act ne vous dit jamais ce que votre jeu de données doit contenir. Il vous dit comment votre système doit se comporter, puis fait des données l’endroit où vous le prouvez.
| Exigence | Base juridique | Test pratique pour un jeu de données de robot |
|---|---|---|
| Pertinence et représentativité | Art. 10(3) | Les données couvrent-elles le cadre géographique, comportemental et fonctionnel où le robot opérera réellement ? |
| Contrôles d’erreurs et d’exhaustivité | Art. 10(3) | Les trajectoires mal annotées, les images perdues et les lacunes sont-elles documentées et corrigées ? |
| Examen des biais | Art. 10(2) | Avez-vous recherché des déséquilibres selon la morphologie, la latéralité, l’éclairage et la localisation géographique ? |
| Provenance et processus de collecte | Art. 10(2), Annexe IV | Pouvez-vous montrer d’où provient chaque séquence et comment le consentement a été obtenu ? |
| Résumé du contenu d’entraînement | Art. 53(1) | Pour un modèle de robot GPAI, pouvez-vous publier un résumé suffisamment détaillé de ce sur quoi il a appris ? |
Le test de représentativité est l’endroit où la robotique s’écarte d’un modèle de langage. L’Article 10 demande si les données reflètent le cadre géographique, contextuel, comportemental et fonctionnel spécifique de l’usage prévu. Une politique de manipulation entraînée uniquement sur de la téléopération en laboratoire bien éclairé n’est pas manifestement représentative d’une cuisine européenne mal éclairée. DROID, constitué d’environ 76 000 démonstrations téléopérées réparties sur 13 institutions, existe en partie parce que des données mono-site ne se généralisent pas. L’AI Act donne à cette intuition d’ingénierie un tranchant juridique.
Il existe une autorisation contre-intuitive. L’Article 10(5) permet aux fournisseurs de traiter des catégories particulières de données à caractère personnel, les données sensibles, strictement pour détecter et corriger les biais, sous réserve de garanties. Pour une capture égocentrique qui enregistre des visages, des mains et des morphologies, c’est la porte juridique étroite qui rend l’audit des biais licite plutôt qu’une nouvelle violation.
Votre modèle de fondation est un modèle GPAI, et la provenance devient publique
La plupart des modèles de fondation de robots sont des modèles d’IA à usage général au sens de l’AI Act, et les obligations GPAI s’appliquent depuis le 2 août 2025. Les fournisseurs doivent tenir une documentation technique, transmettre des informations aux intégrateurs en aval, adopter une politique de respect du droit d’auteur de l’UE et publier un résumé suffisamment détaillé du contenu utilisé pour l’entraînement, selon un modèle publié par l’AI Office.
Relisez cette dernière obligation à deux reprises. La provenance n’est plus une affaire privée. Si votre modèle a appris à plier du linge à partir de vidéos récupérées, le résumé doit le dire à un niveau de détail significatif. S’il a appris à partir de démonstrations humaines consenties et documentées, le résumé est facile à rédiger et facile à défendre. Les deux voies divergent brutalement le jour où un régulateur, ou le conseil juridique d’un OEM en aval, demande à le consulter.
Un chiffre mérite d’être connu. L’AI Act réserve ses obligations GPAI les plus lourdes aux modèles entraînés au-delà d’environ 10^25 opérations en virgule flottante, dont il présume qu’ils comportent un risque systémique. Les modèles de fondation de robots actuels se situent bien en deçà de cette ligne, ce sont donc des GPAI ordinaires, et non des GPAI à risque systémique. Les obligations de transparence et de droit d’auteur s’appliquent toujours ; le fardeau supplémentaire d’évaluation et de signalement d’incidents, lui, ne s’applique pas, du moins pour l’instant.
Le GDPR et le Data Act n’ont pas disparu
L’AI Act se superpose à deux régimes que les données incarnées touchent en permanence. Le premier est le GDPR. Les séquences égocentriques regorgent de données à caractère personnel : le visage des passants, l’intérieur du domicile de quelqu’un, la démarche d’un travailleur. Rien de tout cela ne cesse d’être une donnée à caractère personnel du fait que c’est désormais une entrée d’entraînement de robot. La base légale, la minimisation et les limites de conservation continuent de s’appliquer, et l’AI Act laisse explicitement le GDPR intact.
Le second est l’EU Data Act, en vigueur depuis le 12 septembre 2025, qui régit l’accès aux données générées par les produits connectés. Une flotte de robots est une flotte de produits connectés. Qui peut accéder aux flux qu’ils génèrent, et à quelles conditions, a désormais une réponse inscrite dans la loi. Pour quiconque envisage de mutualiser des données générées par des robots entre partenaires, le Data Act façonne les contrats bien avant que l’AI Act ne s’intéresse au modèle.
Ce que cela implique pour la manière de construire un jeu de données
Le calendrier est la partie concrète. Les interdictions s’appliquent depuis février 2025. Les obligations GPAI depuis août 2025. Les obligations relatives au haut risque et à la gouvernance des données qui concernent les données d’entraînement, Article 10 compris, entrent progressivement en vigueur sur 2026 et 2027, avec une tranche plus tardive pour l’IA intégrée à des produits réglementés comme les machines. Les dates d’application exactes ont évolué au cours de la mise en œuvre, aussi convient-il de suivre le calendrier en vigueur plutôt qu’une échéance unique. Si votre robot atteint le marché de l’UE dans cette fenêtre, les décisions de données que vous prenez en 2026 sont celles que vous documenterez en 2027.
Les équipes qui avancent le plus vite traitent la gouvernance des données comme une contrainte de conception, non comme une adaptation après coup. En pratique, cela signifie :
- consigner la provenance au moment de la capture, plutôt que de la reconstituer lors d’un audit ;
- enregistrer le consentement sous forme de métadonnées structurées, et non d’un PDF signé au fond d’un tiroir ;
- mesurer la représentativité selon la localisation géographique, l’éclairage, la latéralité et la morphologie avant l’entraînement, et non après qu’un auditeur l’a demandé.
Ego4D, de l’ordre de 3 670 heures de vidéo à la première personne provenant de centaines de porteurs de caméra répartis sur neuf pays, a montré la quantité d’échafaudage qu’exige réellement une collecte égocentrique consentie. L’AI Act fait passer cet échafaudage du statut de bonne pratique à celui d’exigence.
Rien de tout cela n’exige un service de conformité pour commencer. Cela exige de décider, tôt, que l’origine de vos données fait autant partie du modèle que ses poids. L’AI Act a simplement rendu cette décision lisible pour tous les autres.