一张 GPU、三小时:SuperMimic 把人形全身控制的训练成本砍掉三个数量级

Latest Robot News editorial cover

10 月 21 日,加州大学伯克利分校团队公开了 SuperMimic,论文已被 CoRL 2026 接收为 Oral。这篇工作最核心的主张不是某个动作做得多漂亮,而是一笔成本账:在 129,514 段参考动作上,单张 GPU 训练 3 小时,效果超过此前最好的方法 SONIC——后者用了 128 张 GPU、训练 7 天。

换算成真正会写进账单的单位:大约 21,000 GPU 小时,变成 3 个 GPU 小时。要求”零失败”则要长一些,双卡 9.8 小时、约 20 GPU 小时,仍然是三个数量级的差距。

真正值得看的不是这个倍率,而是它是怎么来的,以及这套机制目前还做不到什么。

这个数字,是在和什么对比

结论建立在一个关于训练循环的观察上:参考动作千差万别,但执行它们的是同一具身体。常规强化学习要为每个任务重新学一遍这具身体的物理规律,因为每个任务都用自己的带噪仿真轨迹去估计”这个动作做下去会怎样”。跳舞片段里的髋关节和空翻片段里的髋关节,物理上并没有区别,但基线方法在反复重新发现这件事。

SuperMimic 把这具身体只学一次。

宇树 G1 在动捕棚中连续完成旋转、翻滚与空翻动作
真机上的四组跟踪动作:原地旋转、前滚翻与两次腾空翻转,拍摄于动捕棚。部署到机器上跑的只有策略,世界模型不上机。图:SuperMimic 项目主页。

把论文里公开的几组数据并排放:

配置 硬件 实际耗时 GPU 小时 失败动作
SuperMimic 最低配置 1 张 GPU 3 小时 3 129,514 段中 25 段
SuperMimic 零失败 2 张 GPU 9.8 小时 约 20 0
SONIC(此前最好) 128 张 GPU 约 168 小时 约 21,000 未公布

跨硬件的对比天然会被质疑,所以团队另外做了一组受控实验:固定观测、奖励、终止条件、随机化和策略网络规模,只用 40 段、合计约 2.45 小时的动作。SuperMimic 用一张 H100 在约 1.2 小时内把评估回报做到 0.82;仿真器里的 PPO 给了 18 小时预算,单卡、四卡、八卡的最终回报分别只有约 0.60、0.70、0.72。

这组数据比标题数字更干净,因为它把”方法”从”集群”里剥了出来。

控制器本身,其实很常规

策略网络不大,结构也谈不上新奇。参考动作以接下来 10 帧的形式进入,被压成一个 32 维的动作潜变量,再和最近 10 帧的本体感觉(关节位置、关节速度、IMU、上一时刻动作)拼接,送进共享解码器,输出 29 维关节目标,控制频率 50 Hz。

这个潜空间是刻意被两个入口共用的:另一个入口是前进、侧移、转向的速度指令加上观测历史,由一个用强化学习训练出来的速度编码器处理。两个入口可以驱动同一个解码器,等于把”要做什么”和”这具身体怎么做到”分开。这是个架构上的赌注——从动作捕捉里学到的技能,之后可以被新的指令接口重新调用。

策略输出的不是力矩,而是关节目标位置:网络输出、动作缩放和标称关节姿态合成一个参考位置,再交给底层控制器跟踪。这和目前多数量产人形采用的分工一致,也是它在推理时不必求解接触方程的原因。

宇树 G1 在黄昏的海滨步道上保持低蹲姿态,背景是金门大桥
同一套策略在户外真机上:海滨步道的低蹲动作,背景是金门大桥。训练全程基于本体状态,控制器从未”看”过这个场景,它只看关节状态和动作目标。图:SuperMimic 项目主页。

一个共享的世界模型

整套方法的核心对象,是一个用标准刚体仿真器记录的状态转移拟合出来的可微分世界模型。给定状态和动作,它预测身体下一步会怎样。它在每一轮训练中都更新,但在单次策略优化内部被冻结——这样策略面对的预测环境始终是稳定的。

三个细节决定了它是”能用”而不是”存在”。

它按多步一致性训练,而不是单步精度。 从记录中的状态出发,沿记录的动作连续预测 8 步,逐帧和仿真记录核对。四类误差分别对应四个实际问题:身体会不会被预测到错误位置;这个动作会不会被打高分;回传给策略的本体感觉是否合理;模型能不能判断动作已经失败。这四类误差同时匹配,多步想象才不会一路漂走。

它接收特权参数。 摩擦系数、关节校准偏移、躯干质心位置在训练时一并输入,网络因此学到的是干净的动力学关系,而不是把所有未知噪声源混在一起平均掉。部署时策略只用带噪的本体观测和目标,这些参数一概不需要。

它可以求导。 这是全部意义所在。改变某个关节指令,模型不只给出预测状态,还给出导数——动作往哪个方向改、预计回报会上升。误差沿想象轨迹反传回更早的动作和策略参数,即对模型而非对仿真器做时间反向传播(BPTT)。因为梯度来自学出来的网络,这套方法和采用非光滑接触、本身不可微的仿真器仍然兼容。

默认展开 32 个控制步,在 50 Hz 下是 0.64 秒。窗口之外的后果由一个价值网络承担:目标函数累加短轨迹内的折扣奖励,再加上评论家对窗口结束价值的估计,并按模型预测的存活概率压低失败轨迹的权重。这一步是策略不至于”看起来还能撑 0.6 秒”就往前冲的原因。

省下来的算力,来自两个不同的地方

单张 GPU 与身后延伸至远处的 GPU 墙对比渲染图
项目主页用一张图概括了这件事:过去要一整面加速器墙才能做的训练,现在一张卡装得下。128 卡、7 天就是那面墙。图:SuperMimic 项目主页。

论文把收益拆成两笔,并且刻意分开说。

第一笔,每次练习更便宜。 在实际使用的并行批量区间,神经世界模型生成轨迹的吞吐量是 MuJoCo Warp 的十倍以上。仿真器每一步都要积分刚体与接触,训练好的网络把同样的状态变化近似成一次前向计算。

第二笔,需要的练习步数更少。 固定同一个世界模型,团队比较了”解析梯度更新”和”继续在里面跑 PPO”两条路线:前者用后者约 1/64 的想象步数,就达到了 PPO-WM 的最佳回报。所以收益并不全部来自”更快的仿真替身”,策略确实从每次想象的后果里榨出了更多信息。

真正值得盯的是规模证据。训练动作从 1 小时增加到 7 小时、40 小时、约 264 小时,8 步预测误差始终落在约 0.007 至 0.011 的窄带里,达到目标回报所需的 GPU 小时增长也很缓慢。动作数量涨了两百多倍,为一具身体建模所需的算力没有跟着涨。

这句话的意义超出这篇论文本身:它说明”共享一具身体的动力学”这件事是可扩展的。但它也只有四个数据点,不是定律。加入新地形、新物体和新接触形式时,共享模型要解决的问题会变,论文自己也把这条限制写清楚了。

它还没解决的问题

它基于本体状态,不带感知。 控制器靠本体感觉和参考目标跟踪动作,视觉、地形、操作都不在范围内。团队建议的下一步,正是把方法扩展到带感知的全身控制与行走。

接触密集的交互还没验证。 共享动力学模型遇到物体接触时还成不成立——此时”身体”变成了身体加物体——是公开讨论中被提出的问题,而且是在论文发布后几天内就被提出的。

成功被定义成”没摔倒”。 有同行指出这是个偏弱的代理指标:一个干脆放弃参考动作、只为保持直立的策略会在这套指标上得分很高,而一个动作略微走形、但能在全局坐标里把动作恢复出来的策略反而吃亏。论文自己的扰动实验回应了一部分——带评论家时,0.5 至 4 m/s 的根部速度扰动后约 0.5 至 2.4 秒恢复稳定;没有评论家监督时,机器人在较大扰动下会持续踉跄甚至摔倒——但指标本身的问题成立。

梯度质量受模型覆盖范围约束。 那个导数是对物理的学习替身,模型没见过的地方,梯度就是外推;而 0.64 秒的想象窗口意味着长时段 credit 仍然要靠价值函数估准。

真机数据还没进循环。 用真机数据微调是显然的下一步实验,团队也表示后续会把真实机器人数据和在线系统辨识纳入模型学习。

复现已经开始

发布后几天内,苏黎世联邦理工学院 AI Center 的一位博士生公开了复现项目:单张 RTX PRO 6000、约 1.5 GPU 小时,取得相似结果,并把这个学出来的模型形容成一个更快、可求导的 Isaac Sim。

时间线值得看一下,才知道这不是突然发生的。同一条研究路线在 2021 年 SIGGRAPH Asia 上给出 SuperTrack,2025 年是 SuperDyno,2026 年是 SuperMimic。从仿真走到真机用了五年,思路始终是同一个:用学出来的模型替代仿真器,用反向传播训练动作跟踪,每一步都在补前一步的短板。

有一个下游结果值得单独拎出来,因为它可量化且不夸张:用任务奖励训练的速度编码器,在 672 个速度阶跃响应里有 650 个误差低于蒸馏基线,相对误差中位数 0.16 对 0.49,好了约 67%。也就是说,从动捕里学到的身体技能不一定只能照抄参考动作,它可以被新的指令入口重新组织。

对硬件端意味着什么

全身控制训练一直是人形技术栈里少数几个”钱多就是优势”的环节,因为难题的答案往往是更多 GPU。如果这个结论在更大规模上站得住,这道护城河会变窄:迭代速度不再由集群规模决定,小团队也能做更多实验、做更系统的横向比较。

它不会让机器人变便宜。训练成本从来不是人形 BOM 里的主要项,执行器、减速器、传感器、电池和集成才是。变化的是”试错的价格”——换一套奖励、换一个动作空间、换一个参考库的成本降下来了,而这件事决定控制栈进步的速度。

对零部件供应商来说,要求清单没有变。在一个可微分模型里训出来的策略,最终仍然要跑在有背隙、有温升限制、有真实柔顺性的硬件上。迭代变便宜,会让弱硬件更早暴露,而不是更晚:单位时间内被测的策略更多,失败的都发生在真机上。

一句话收尾

SuperMimic 的贡献是组织方式的,不是结构上的。策略网络很普通,动作潜变量、速度编码器、评论家、世界模型,每个零件此前都存在。团队做的是坚持”身体的动力学只学一次、在 129,514 段动作间共享、并且可微”,让策略梯度穿过这个模型而不是穿过仿真器。

3 个 GPU 小时对 21,000 个,这个比例足以改变一个课题组敢不敢尝试的东西。限制同样清楚:没有感知、没有物体交互、想象窗口只有 0.64 秒,成功指标衡量的是”没摔倒”而不是”做得像”。

接下来十二个月会回答一个问题:这是一次能扩展的训练技巧,还是人形全身控制不再算作算力问题的那一天。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注