重定向:把人类示范映射到机器人的身体上

人手有二十多个自由度,机器人夹爪只有两个。重定向把一段示范改写进机器人的身体,而渗漏恰恰发生在这里。

阅读约 8 分钟

一个人靠一根手指勾住杯柄,把马克杯提起来,拇指搭在杯沿上。这对他不费一丝思量。现在把同一段视频交给一台机器人,它的“手”是一个两指平行夹爪。没有手指可勾,没有多余的指头,也没有稳住杯沿的拇指。这段示范在同一瞬间既完美又无法使用,因为它是用一个机器人并不拥有的身体写成的。

这是“廉价的人类视频将喂养机器人学习”这一承诺背后一笔安静的税。一台架在大厨额头上的相机,一个小时能拍下上百次抓取,但没有一次是以夹爪能够执行的形式抵达的。那些关节角度属于一只人手。那段可及范围属于一条人臂。那份时序属于人的神经系统。在这段画面与一个可执行的机器人动作之间,横着一个转换步骤,它有一个名字:重定向。

重定向把一段示范,从产生它的那个身体,映射到必须去复现它的那个身体上。做得好,一座人类视频的大山就变成了训练信号。做得差,你就是在教机器人去追逐一个它永远无法在物理上做出的动作。值得把它当作一条管线来走一遍,因为其中每一个环节都在渗漏,而这些渗漏决定了那些廉价画面究竟有多少值得采集。

底层的那个问题

机器人学界把根本症结称作对应问题(correspondence problem):两个身体不同的主体无法直接共享一个动作,只能共享一个意图。一只人手带着二十多个自由度。一个平行夹爪只有一个。一只三指机器人手也不过寥寥几个。示范活在前一个空间里,机器人活在后一个空间里,没有任何东西能免费地把一者搬进另一者。

能挺过这次跨越的是意图:所接近的物体、抓取的方式、抵达的目标状态。挺不过去的是那具体的运动。所以重定向不是你跑一遍的过滤器。它是一条由估计与优化串起来的链条,误差沿着链条累积。看清它在哪里累积,就是把人类视频用好、与自欺欺人之间的分界。

第一阶段:还原人做了什么

在任何东西能被映射到机器人身上之前,人的运动必须先从像素里重建出来。一段第一人称视频不是一串关节角度;它是 RGB,有时带深度,有时带一路腕部视角。第一阶段逐帧估计 3D 手部位姿、身体位姿与物体位姿:指尖位置、手腕轨迹、物体的六自由度位姿,理想情况下还有接触发生的时刻。

这一阶段本身就有损。单目位姿估计要去猜它看不见的深度,手指在抓取时彼此遮挡,接触的确切瞬间是从几何关系里推断出来的,而非被真实感知到的。配对相机数据集的存在,一部分正是为了对抗这一点。Ego-Exo4D 用同步的第一人称与第三人称相机拍摄同一段技能性活动,让位姿重建拥有不止一条视线,也更有把握得到准确的 3D 关键点。这一阶段残留下多少误差,之后每一阶段都会照单继承。

第二阶段:为机器人的身体求解

现在,还原出来的人类关键点成了机器人必须命中的目标,逆运动学(IK)就在这里登场。IK 求解那组关节角度,把机器人的末端执行器,也就是它的夹爪或手,放到示范所说的该去的地方。实践中,重定向要挑选去匹配什么,因为它通常无法把一切都匹配上。

两种策略占主导。末端执行器重定向追踪手腕与夹爪的行进路径,求解 IK 去跟随那条路径,把手当作一个单一的功能单元来对待。关键点重定向则更精细:它最小化人类指尖向量与机器人指尖向量之间的距离,好让一个捏取即便在手指更少的手上,依然是一个捏取。cs.RO 文献里的灵巧手方法,正是倚仗这种向量匹配的思路,用人类视频去驱动多指手。

更微妙的那一半,是抓取与接触匹配。一段示范真正讲的,是它对物体产生的效果,而不是造成这一效果的那只手的形状。功能性重定向试图保住那个效果:用相同的接近方式和相同的接触几何,复现一次稳定的抓取,哪怕机器人是用两块指垫、去做人用五根手指做的事。匹配物体上的结果,而不是手的轮廓,能让更多示范活下来。

重定向在哪里渗漏

三种错配逼出最艰难的妥协,而每一种都要你搭上一些示范。

手指数量。把一只五指手映射到三根手指或两块指垫上,是多对少的映射。三脚架式抓取在三指上有一个说得过去的对应形象,在两指上则只有一个粗糙的。而一次在手内的重新抓握,也就是手指把物体在掌中挪成新的位姿,在平行夹爪上根本没有任何对应形象。那些策略无法重定向,它们直接掉队。

工作空间。机器人的手臂有自己的可及范围、自己的关节极限、自己的自碰撞。一个人挥到货架背后的动作,在机器人上可能根本没有有效的 IK 解,于是那条路径必须被缩放、扭曲,或干脆拒收。对工作空间做重新缩放,能在把运动挪进可及空间的同时保住它的形状,代价是精确性。

速度与动力学。人的动作比多数机器人的额定速度都快,还能以更重的手臂做不出的方式抖动手腕。一段超出机器人速度或力矩极限的示范,必须被放慢或平滑,而这会悄悄改变一个成败取决于动量的任务。

人类示范中的每一路信号,在被重定向到机器人身上时的命运
示范中的信号重定向下的命运由什么决定
物体身份与接近方向干净地迁移跨身体共享;它是意图,不是运动
手腕与末端执行器路径经缩放后可重定向IK 加上工作空间与关节极限的映射
抓取类型与接触点可重定向,有时是近似的抓取匹配;手指越少,退化越重
时序与动力学可重定向,但常被改动机器人的速度与力矩极限
接触力与握持压力通常丢失普通视频里很少被感知;无法反推
手内操作与手指步态通常丢失低自由度夹爪上没有运动学对应
重定向能够重新求解它被给到的几何,却无法还原一路从未被采集过的信号。抓取可以从指尖位置重新推导出来。而那让玻璃杯没有滑落的三牛顿握力,若没有任何传感器感知到它,就干脆消失了。

采集质量设定了上限

这里就是管线逼出来的结论。重定向的保真度,为廉价人类视频有多大用处封了顶;而采集的保真度,又为重定向封了顶。你无法重新映射一个你没有测量过的接触力,也无法针对一个你估计得很糟的 3D 手部位姿去求解出准确的 IK。最有损的管线,正是那些被喂以最稀薄数据的:单目 RGB,没有深度,没有力,位姿靠猜、接触靠推。

补救之道,是把信号往上游挪,挪到采集的当下,在那里它记录起来便宜,事后却无法重建。多视角装置把 3D 手部与物体位姿钉牢,好让第一阶段不必再猜。深度与腕部相机,收紧了 IK 要去求解的那份几何。触觉与力的感知,把握持压力从一路丢失的通道,变成一路可重定向的通道。这正是 DROID 这类数据集里,配对的人类与机器人采集背后的逻辑:它给重定向这一步一座有监督的桥,而不是一次开环的猜测。NVIDIA 的 Isaac GR00T 体系,以及 Physical Intelligence 这样的团队之所以倚重人类示范,正因为它能扩展,但这份杠杆能兑现多少,取决于那段示范当初被采集得是否足够丰富,能以低损耗去重定向。

所以,重定向不是夹在视频与策略之间的一处预处理脚注。它是那道阀门,连接着机器人领域里最廉价的数据源与一个机器人真能跑起来的动作,而这道阀门开到多大,早在求解器运行之前就已被决定,取决于相机和手上的传感器当初能捕捉到什么。采集得稀薄,你重定向的就是一次猜测。采集得丰富,人类示范就能挺过这趟旅程,进入一个从来不是为做出它而生的身体。

retargetingembodiment-gaphuman-demonstrationimitation-learningrobot-learning

来源