登顶RoboChallenge Table30!LoopWAM开源,与pi的部署自进化理念不谋而合

项目主页:https://loop-wam.github.io

论文原文:https://arxiv.org/abs/2610.18873

开源代码:https://github.com/loop-wam/LoopWAM

近日,由清华大学、原力灵机与极寰时代联合研发的世界动作模型LoopWAM,登顶真机评测榜单RoboChallenge Table30 V2,成功率与过程分双双位列榜首,成绩超过VLA-DM0.5等同期方案。同时,LoopWAM在仿真榜单RoboTwin 2.0和RoboCasa365上同样取得SOTA表现。

LoopWAM在所有榜单评测中使用的模型,均由国产卡阿里云 PPU-810E训练,非NVIDIA系列卡。

这一成绩背后,是一条从真实部署中持续学习的技术路线:让成功、次优和失败经验共同拓展世界模型的学习范围,增强对任务过程和动作后果的理解,再通过质量引导提升动作生成,使机器人在下一轮部署时做得更好。

从仅使用专家演示训练的初始模型出发,经过三轮部署与训练,LoopWAM的整体成功率提高了约19.7个百分点,相对提升约83%,过程分也从36.10提升至56.80。

让真实部署经验成为下一轮进步的起点,是LoopWAM此次登顶的关键。

自动播放

这种从真实部署反馈中持续迭代的思路,与Physical Intelligence近日发布的PI API workflow不谋而合:通过“数据上传—模型微调—机器人部署—评估与数据收集”的循环推进能力提升。LoopWAM则在部署数据的利用上更进一步:闭环更新无需额外采集专家演示,也无需引入强化学习,而是发挥世界模型从动作与环境变化中学习的特点,将成功、次优和失败的rollout轨迹全部纳入视频预测训练,再通过质量steering与加权动作监督提升动作生成质量,让部署经验本身成为持续自提升的来源。

图1 PI API(来源:Physical Intelligence)

01

30项真机任务检验综合能力

RoboChallenge Table30 V2覆盖ALOHA、DOS-W1、ARX5和UR5四种机器人本体,包含物品整理、工具使用、精细操作和双臂协同等多类任务。

图2 RoboChallenge 多任务可视化

真实操作中的挑战,存在于每一次接触与运动之中:能否选对目标,能否稳定抓取,能否把工具用到位,又能否连续完成多个操作步骤。Table30 V2通过成功率和过程分,分别衡量任务完成情况与执行过程的完成质量。

在本次评测中,LoopWAM在11项任务上的成功率达到60%及以上,9项任务过程分达到80分及以上。几组具体成绩,让模型能力更加直观:

整理水果、物品分类、取出绿色积木:成功率均为100%。

用小勺舀取物体:成功率90%,过程分92。

按下按钮:成功率80%,过程分92.5。

堆叠碗具:成功率80%,过程分89。

从辨认目标、完成分类,到操作工具、推进多阶段任务,高分表现分布在不同本体和任务类型上,共同支撑了LoopWAM的综合成绩。

02

让成功与失败经验进入学习闭环

登顶背后,LoopWAM关注的是一个直接影响机器人持续进步的问题:真实部署中积累的经验,怎样才能被用好?

专家演示为机器人提供了优质的学习起点。但进入真实环境后,机器人会遇到演示之外的状态:抓取发生偏移、物体意外滑落、工具接触不充分,或者任务只完成了一部分。

这些部署轨迹包含了丰富的物理交互信息,也混杂着质量不同的动作。把所有动作都当作模仿目标,可能强化不理想的行为;只保留成功轨迹,又会丢掉大量关于动作及其后果的经验。

LoopWAM由此提出一种闭环世界动作模型:把成功、次优与失败经验纳入统一训练,用更广泛的真实交互增强世界建模,再通过质量引导和动作监督加权,让策略吸收经验的同时保持对高质量行为的偏向。

图3 LoopWAM闭环自提升

这项工作的完整名称是LoopWAM: Closed-Loop Generalist Policy Improvement from Deployment Rollouts。贯穿其中的流程可以概括为:

部署 → 收集成功、次优与失败轨迹 → 质量感知训练 → 再部署。

每一轮新经验都会与专家演示和此前积累的轨迹共同进入训练,形成持续迭代的闭环。

03

支撑闭环自提升的关键技术

LoopWAM围绕一个目标展开:充分利用真实部署中的各种经验,增强世界模型对任务与物理交互的理解,并将这种理解转化为更高质量的动作。为此,它把数据分布扩展、动作条件世界建模、视频与动作联合生成,以及质量感知学习结合起来。LoopWAM以Wan2.2-TI2V-5B预训练视频模型为基础,构建视频与动作双分支架构,联合预测同一时间范围内的未来画面与机器人动作。

图4 LoopWAM方法

吸收更多真实部署数据,拓展世界模型的学习范围

专家演示提供完成任务的优质路径,真实部署则带来更广泛的状态、动作及其结果。LoopWAM将成功、次优和失败轨迹都纳入训练,保留所有质量轨迹的视频预测监督。更丰富的交互过程由此成为世界模型的学习材料,拓展其对环境变化和物理交互的表征能力。

强化ACWM,让模型学清动作带来的后果

LoopWAM在同一世界动作模型中强化动作条件世界建模(Action-Conditioned World Modeling,ACWM):利用已执行的动作,预测它们对应的视觉结果。其关键是来源相关的噪声采样,分别控制视频与动作在训练中的噪声水平。

对于专家演示,模型从较强噪声中恢复专家执行对应的未来画面,同时学习动作生成,让模型能够学到如何完成任务。对于部署轨迹,则对动作施加较小的噪声,保留更多动作信息,让视频分支据此学习动作会引起的环境变化。即使任务没有完成,动作与结果之间的联系仍能用于训练,促进预测视频与生成动作在行为及结果上的一致性。

让世界建模直接参与动作生成

在同一次联合去噪过程中,视频与动作信息通过每一层的双向注意力持续交互。丰富的视频预测监督帮助模型学到更好的物理世界表征和动作后果知识,二者共同支持动作生成:模型既学习“任务怎样最优完成”,也学习“生成的动作会怎样改变环境”,让世界模型更充分地支持机器人控制。

区分数据质量,引导生成高质量动作

为了让模型在吸收更多经验的同时清楚行为优劣,LoopWAM为轨迹赋予质量分数,并将质量条件加入任务指令,通过质量steering的方式驱动视频与动作分支。训练时,模型学习同一任务下不同质量的行为分布;真实部署时,指定专家质量条件,将生成引导到高质量行为分布。

质量条件之外,LoopWAM还根据轨迹质量调整动作监督的权重。在所有轨迹都保留完整视频预测监督的同时:

专家轨迹提供完整的动作监督。

次优轨迹按质量加权,降低对较差动作的模仿强度。

失败轨迹的直接动作监督权重设为零,其真实交互后果仍用于世界建模。

质量steering负责区分不同的行为分布,监督权重决定各类动作被模仿的程度。二者共同作用,让模型从更广泛的经验中学习世界,并引导动作生成偏向高质量行为,支持真实部署的闭环自提升。

图5 四项任务的视频预测

上面的动图展示了整理水果、收纳笔、堆叠碗具和滚筒除尘四项任务上的视频预测效果。每组左侧是机器人执行时的真实观测(Obs),右侧是模型预测(Pred)。对照可见,预测视频能够反映机械臂运动、物体移动和操作进程,直观呈现了视频和动作预测在主要运动和操作进程上的一致性。

这种一致性由训练与生成机制共同促进:训练时,丰富的交互数据提供动作与实际结果之间的对应关系,来源相关的噪声采样强化ACWM,使模型学习动作会引起的环境变化;生成时,视频与动作在同一次联合去噪中通过双向注意力持续交换信息,让对未来的预测与正在生成的动作相互关联。

04

三轮部署带来持续提升

闭环是否有效,可以直接看三轮部署的变化。在覆盖30项任务的Table30 V2实验中,LoopWAM持续吸收自身的真实部署经验,并通过三轮闭环更新提升多任务表现。

整体成功率:23.67% → 28.00% → 37.67% → 43.33%。

过程分:36.10 → 42.63 → 51.65 → 56.80。

图6 多任务自提升

三轮更新中,两项总体指标每轮均有提高。这组结果表明,LoopWAM能够将自身在多任务环境中积累的部署经验,转化为后续策略改进。

05

叠衣服任务中的持续自提升

面对困难单任务的后训练,LoopWAM同样能够利用真实部署经验持续提升。在叠衣服任务上,LoopWAM能够从随意丢到机器人面前、杂乱的衣物开始操作。衣物的初始状态混乱且复杂多样:褶皱与堆叠会遮住衣角,适合抓取的位置也随姿态变化而变化。

机器人需要先在混乱状态下寻找合适的抓取位置,通过反复抓取与逐步展开,让衣物边角暴露出来,再抓住衣角完成后续折叠。衣物会随着操作不断变形,这要求模型根据每一步的实际变化持续调整动作。

LoopWAM从多任务模型出发,先使用新采集的专家叠衣演示进行单任务后训练,再开展两轮部署驱动的自提升。

叠衬衫成功率由13.20%提升至32.54%,最终达到55.56%;过程分从14.44提升至67.78。

图7 叠衣服后训练自提升

图8 叠衣服效果展示(操作部分10倍速)

这说明,在模型已经针对一个困难任务完成适配后,继续利用真实执行反馈,仍然能够带来明显增益。

06

在仿真基准中进一步验证

在两个仿真基准上,LoopWAM进一步验证了更广泛意义下的自提升:模型更新可以利用任意已部署策略产生的轨迹,即使这些策略的表现较差。来自不同策略的部署经验扩展了可学习的状态、动作与结果分布,LoopWAM通过质量感知训练从中学习世界变化,并引导动作生成偏向高质量行为。

在包含50项双臂任务的RoboTwin 2.0上,LoopWAM取得94.5%的平均成功率,其中标准环境约94.6%,域随机化环境约94.4%,所有指标超过LingBot-VA 2.0等方法,取得SOTA。

图9 RoboTwin 2.0评测结果

在RoboCasa365的50项任务评测中,LoopWAM取得49.5%的总体成功率,高于ABot-M0.6的46.6%。对于同时排除在专家训练数据和部署训练数据之外的16项未见组合任务,模型也取得了14.9%的成功率,展示了对未见任务组合的迁移能力。

图10 RoboCasa365评测结果

这两组实验均未进行额外的具身数据预训练,而是在预训练视频模型基础上,利用专家演示与部署轨迹进行学习。结合真实机器人实验,LoopWAM在真实与仿真的三个基准上均取得了最优成绩,为混合质量部署经验的利用价值提供了充分证据。

让每一次真实部署都带来可学习的经验,在真实部署中持续自提升,这是LoopWAM希望持续推进的方向。

本文来自大风号,仅代表大风号自媒体观点。