C2PA et provenance de contenu pour les données d’entraînement d’IA

Ouvrez une image générée par IA dans un nombre croissant d’outils et vous pouvez cliquer sur une petite icône qui déroule son histoire : quel modèle l’a produite, quand, et quelles modifications ont suivi. Ce panneau n’est pas une simple courtoisie. C’est un manifeste signé cryptographiquement, une norme appelée C2PA, liée aux pixels si étroitement qu’en changer un seul brise le sceau.

C2PA a été construit pour combattre les deepfakes, pour permettre à une rédaction ou à un spectateur de répondre à une seule question étroite : ce fichier est-il bien celui qu’il prétend être ? Mais la machinerie sous-jacente est indifférente à ce que le fichier contient. Un manifeste signé qui voyage avec un actif et consigne qui l’a produit, sur quel appareil, et ce qui lui est arrivé depuis, fonctionne tout aussi bien enroulé autour d’une démonstration de robot capturée qu’autour d’une photo synthétique.

C’est là l’argument. Au problème de provenance dans les données d’entraînement de robots, on répond d’ordinaire par un tableur, un dossier de PDF, une promesse. C2PA y répond par une signature. À mesure que les acheteurs soumis à l’EU AI Act commencent à demander aux vendeurs de prouver d’où proviennent les données de manipulation, l’écart entre une affirmation et une affirmation vérifiable cesse d’être théorique.

Ce qu’est réellement C2PA

C2PA, la Coalition for Content Provenance and Authenticity, est une spécification technique ouverte permettant d’attacher à un contenu un enregistrement infalsifiable. Sa surface visible, commercialisée sous le nom de Content Credentials, est le petit panneau d’historique. La substance est une structure de données appelée manifeste.

Un manifeste est un ensemble d’assertions : des énoncés du type ce fichier a été capturé par l’appareil X à l’instant T, puis recadré et redimensionné. Les assertions sont hachées, l’empreinte obtenue est signée avec un certificat lié au signataire, et la signature est liée à une empreinte de l’actif lui-même. Trois propriétés découlent de cette construction, et elles sont tout l’enjeu.

• Détection d’altération. Modifiez un pixel, un canal ou un champ, et l’empreinte ne correspond plus. La vérification échoue bruyamment au lieu de laisser passer un mensonge silencieux.
• Attribution. La signature relie l’enregistrement à un certificat, de sorte qu’un vérificateur peut savoir qui se porte garant de l’affirmation, et pas seulement ce que l’affirmation énonce.
• Chaînage. Chaque modification peut ajouter un nouveau manifeste signé qui référence le précédent, de sorte que l’actif porte sa propre lignée, une chaîne ordonnée plutôt qu’un instantané unique.

Rien de tout cela ne prouve que l’affirmation initiale était honnête. Un signataire peut mentir sur l’origine d’un fichier. Ce que C2PA prouve est plus étroit et plus utile : que l’enregistrement n’a pas changé depuis sa signature, et qu’une partie nommée l’a signé. C’est exactement la garantie qu’un tableur ne peut pas offrir.

Le même manifeste, enroulé autour d’une démonstration

Changez maintenant de conteneur. Au lieu d’une photo, l’actif est un épisode de capture égocentrique : quelques minutes de vidéo synchronisée, de profondeur, de pose de la main, de force et de proprioception, enregistrées pendant qu’une personne exécute une tâche. Donnez un manifeste à cet épisode et les champs s’écrivent presque d’eux-mêmes.

Au moment de la capture, le manifeste consigne l’appareil et le firmware, la calibration du capteur en vigueur pour cette session, l’horodatage et l’horloge sur laquelle les canaux ont été synchronisés, ainsi qu’une référence, non le document brut, au consentement obtenu de toute personne dans le cadre. Chaque transformation ultérieure, le floutage des visages, le sous-échantillonnage d’un flux, le reciblage d’une pose de main humaine sur une pince, le recadrage à une fenêtre de tâche, devient une nouvelle entrée signée. Le résultat est une lignée de données qu’un acheteur peut vérifier sans se fier à la parole du vendeur, car ce sont les signatures qui accordent la confiance.

C’est autre chose que le contenu des annotations à l’intérieur d’un épisode. Que l’annotation dise ramasser le bloc bleu, ou que la calibration soit exacte, relève de la qualité des données. Que vous puissiez prouver que ce champ est bien celui enregistré au moment de la capture, inaltéré, par la partie qui le revendique, relève de la provenance. C2PA traite le second point. Il ne dit rien sur la validité de l’affirmation sous-jacente, seulement sur le fait qu’elle est intacte et attribuée.

Une signature l’emporte sur un tableur

Aujourd’hui, la provenance est le plus souvent un document posé à côté des données : un CSV d’identifiants de consentement, un fichier de calibration, un README décrivant comment le jeu a été constitué. Chacun d’eux partage une propriété fatale. Rien ne le lie aux octets. Une cellule peut être modifiée après coup, un chiffre de calibration arrondi pour faire plus net, une ligne de consentement ajoutée pour un sujet qui n’a jamais été sollicité, sans qu’aucun lecteur ne puisse s’en apercevoir.

Un tableur affirme la provenance. Une signature la prouve. L’écart entre les deux est la différence entre faire confiance au vendeur et vérifier le vendeur, et la diligence réside entièrement dans cet écart.

Un manifeste signé comble l’écart de la seule manière qui passe à l’échelle. Un acheteur n’a pas à auditer l’honnêteté du vendeur sur un million de clips ; il vérifie une signature et une empreinte par clip, de façon mécanique. Si le contrôle réussit, l’enregistrement est bien celui écrit au moment de la capture. Si quelqu’un a modifié un champ de consentement la semaine dernière pour masquer un trou, le contrôle échoue sur ce clip, et sur ce seul clip. La vérification remplace la confiance par les mathématiques, le même geste qui a rendu la norme utile au journalisme.

Ce que chaque champ prouve

La valeur se révèle champ par champ. Chaque ligne ci-dessous est une affirmation qu’un acheteur de données de manipulation finira par demander à voir, ce qu’un manifeste signé lui permet de confirmer, et ce dont il hérite s’il ne reçoit qu’un fichier modifiable.

Ce qu’un manifeste de provenance signé prouve pour chaque champ, et le risque lorsque l’enregistrement est un fichier non vérifiable

Champ de provenance	Ce qu’un manifeste signé prouve	Risque sans enregistrement vérifiable
Référence de consentement	L’enregistrement de consentement lié à chaque sujet était présent au moment de la capture et inchangé depuis	Consentement ajouté ou modifié après coup, aucun moyen d’honorer une demande de suppression ni de prouver une base légale
Appareil de capture et firmware	L’épisode provient bien du rig et de la version qu’il revendique	Des images issues d’un capteur inconnu ou non conforme, présentées comme conformes aux spécifications
Calibration du capteur	Les paramètres intrinsèques et extrinsèques consignés lors de cette session sont ceux livrés	Calibration remplacée en silence ou estimée après coup, supervision 3D discrètement erronée
Horodatage et synchronisation	L’heure de capture et l’horloge partagée ont été enregistrées, non reconstruites	Épisodes réordonnés ou antidatés, décalages entre canaux que personne ne peut auditer
Modifications et transformations	Chaque floutage, recadrage, sous-échantillonnage et reciblage est répertorié dans l’ordre	Une modification non documentée dissimule un défaut ou un problème de droits dans les données brutes
Chaîne de traçabilité	Chaque transfert signé par rapport au manifeste précédent, sans interruption	Une brèche où les données auraient pu être substituées ou contaminées

Lisez la colonne de droite comme les conclusions d’un processus de diligence. Chacune est une décote sur le prix, et le consentement n’est pas du tout une décote. C’est un mur.

Pourquoi l’acheteur commence à demander

La pression ne viendra pas d’un amour de la cryptographie. Elle viendra des achats. Lorsqu’un OEM de robots entraîne un système qu’il compte vendre en Europe, le Règlement (UE) 2024/1689 de l’EU AI Act fait de l’origine des données d’entraînement une pièce du dossier de l’OEM lui-même. L’article 10 et les obligations de gouvernance qui l’entourent exigent un compte rendu documenté de la manière dont les données d’entraînement à haut risque ont été collectées et traitées. Ce compte rendu ne vaut que ce que valent les éléments que les fournisseurs de données de l’OEM peuvent remettre, si bien que ses juristes commencent à réclamer aux fournisseurs des preuves, non de la prose.

Le consentement resserre la même vis du côté de la protection des données. Les images à la première personne de mains, de foyers et de visages sont des données personnelles, et l’European Data Protection Board les traite comme telles, quel que soit l’usage en aval. Un manifeste vérifiable attestant qu’un enregistrement de consentement existait au moment de la capture, et n’a pas été fabriqué plus tard, est une position bien plus solide qu’un tableur qu’un plaignant peut qualifier de falsifié. À mesure que la couverture de The Robot Report suit les humanoïdes passant des démonstrations vers le déploiement commercial, la diligence sur leurs données d’entraînement se resserre au même rythme, et vérifiable l’emporte à chaque fois sur plausible.

C2PA n’arrivera pas dans la robotique sous la forme d’une obligation portant cet acronyme. Il arrivera sous la forme d’une question d’acheteur à laquelle seule une signature peut répondre, et sous la forme de la prise de conscience discrète qu’un enregistrement de provenance que vous pouvez modifier est un enregistrement de provenance que vous ne pouvez pas vendre. La norme existe déjà, éprouvée sur le problème antagoniste plus difficile d’un internet public rempli de faux. La pointer vers les épisodes qui apprennent aux robots à agir tient moins de l’invention que du portage. Les équipes qui le font tôt seront celles dont les données passent encore la vérification lorsque quelqu’un, enfin, contrôle.