仿真闭环
LIBERO 94.95%；LIBERO-Plus 59.27%；RoboCasa365 36.68%。强项是相对内部对照的提升，不是所有基准第一。
世界—动作模型 / 因果联合训练 · OCTOBER 2026 READING SERIES
OneWM：学会动作后果，为什么能帮助不想象未来的策略？
一句话核心洞见
把动作既当作世界预测的已知条件，又当作策略需要生成的目标：训练中混合全干净、部分干净和全噪声动作，让前向动力学监督与动作监督互相帮助。部署策略不生成未来视频；收益不等于测试时先想象再行动。
OOD 的边界
LIBERO-Plus 相机仅 18.39%，光照与初始化也并非全面改善。不能以总均值代替各维度。
真机
3 任务，各 15 次；OneWM 合计 30/45≈66.7%，WAMmask 22/45≈48.9%。任务小、试验量有限。
最强结论
同架构、同数据/训练预算的对照支持双向促进；未证明任意架构、无限规模或梦境可替代真实反馈。
1 · 它究竟比普通 joint WAM 多学了什么？
先把问题具体化
“预测视频能帮助控制”已经不是新问题。这里追问：若未来视频只能看噪声动作，模型是否真正学到给定这个确定动作，世界会怎样变？反过来，让世界模型也学选动作，会不会损害视频质量？作者在同一架构中切换条件，尽量隔离这两种监督的作用。
| 问题 | 答案 |
|---|---|
| 背景 / 卡点 | 视频先验有效，但“视频与动作一起去噪”不自动等于“学习指定动作的前向动力学”。动作太噪或被 mask，动作到视觉的条件就不明确。 |
| 站在哪些工作上 | Wan2.2-TI2V-5B＋原 VAE/文本编码器；MoT 分模态专家；flow matching；因果 WAM。与 Fast-WAM 的联系是训练时视频监督、部署轻量化，而不是同一 mask。 |
| 核心改动 | 同一因果结构，混合 all-noisy / partial-clean / all-clean=60/25/15；干净动作条件把“指定控制的后果”变成显式目标。 |
| 最有力证据 | 内部 WAMmask、WAMnoisy、WM 对照固定数据和训练预算；分别检验世界→策略与策略→世界。外部模型排名不能替代这些对照。 |
| 代价 / 未知 | 训练仍需视频专家与未来监督。报告没有完整给出参数总量、训练 GPU 总耗、真机控制频率和端到端延迟。 |
Figure 1 · 不要只看 MoT：先看谁能读取谁，以及动作是否干净
- 矩阵每一行是 Query（正在查询的 token），每一列是 Key/Value（可读取的信息）。Vc 是真实观察，V1/V2 是未来视频，A1/A2 是对应时段动作；空白表示被屏蔽。
- 左端 WM 把动作当干净的已知输入；右侧 WAM 用噪声动作，或完全屏蔽视频到动作键的读取。OneWM 在训练样本间混合这些条件。图上百分比指干净动作比例，不是成功率或噪声强度。
- 最容易误读的是动作行：它们读取 Vc 和动作前缀，不读取 V1/V2。因此未来视频可在训练中提供梯度，而不必在策略推理中生成。
2 · 主干图：训练的信息流不等于部署调用顺序
从“联合”走到实际可见性
上一节说明动作有两种角色。现在拆开图中各流：图像先编码，两个专家各自处理 token，联合注意力用 mask 规定能读取谁。这里的关键不是 MoT 名字，而是动作是否能访问未来。
Figure 2 · 两个专家、一个因果联合 attention、三种动作输入
- 上路 VAE 把图像变成 latent；观察前缀保持干净，未来 latent 加噪并学习恢复。下路把动作块嵌入 Action DiT；两个专家保留自己的投影、FFN 和语言 cross-attention。
- 中间 Joint Attention 不是任意双向通信：可见性由 Eq.2 的 mask 决定。下方三幅不是三套独立网络，而是同一训练 batch 的三种样本构造。
- Prefix Clean 中，前缀动作固定为真值，只对后缀动作计算去噪损失。全部干净时仍训练视频预测，但没有动作去噪目标。
- 真实输入：已观察图像前缀和语言指令。视频 VAE 编码观察；图像前缀不加噪。
- 训练目标：未来视频 latent 与对应动作块。视频、动作噪声水平独立采样；依动作模式保留全体、前缀或零个干净动作。
- 内部交互：未来视频读取截至本时段的视频/动作；动作只读取真实观察和截至本时段的动作，不读未来视频。
- 反向传播：视频损失通过可见动作特征和共享观察表征提供额外训练信号。不存在“动作推理必须读取未来图像”的逻辑要求。
- 策略部署：最新真实观察→复用观察表征→从噪声生成动作块→执行→再次观察；不生成未来视频。
3 · 六个公式：符号、用途与手算例子
两套时间别混淆
下文 i/k 是轨迹中的时间块或动作位置；τ 是去噪进度。τ 从 1 到 0 不意味着机器人倒着走。所有数字算例均为教学例子，不是论文实验。
Eq.1 · 一个模型的两个问题
pθ(zfut | C, a)；pθ(a | C)，C=(zctx, ℓ)
- θ / p
- 网络参数 / 条件分布；生成模型可以对同一条件产生多个合理结果。
- zctx / zfut
- 已观察图像 / 未来图像经 VAE 编码的 latent token 序列。具体空间 token 数随视频设置变化，本文未逐项列出。
- a / ℓ
- a=(a₁,…,aK) 是 K 步连续动作块，形状可写 K×dₐ；ℓ 是语言指令。dₐ 未在本文协议中逐基准完整列出。
教学例：C 是“看到抽屉关着＋打开抽屉”。左式给定“夹住把手、后拉”的动作，问未来画面；右式不给动作，要求模型自己生成控制序列。不是先算左式才能算右式。
Eq.2 · 为什么动作不需要未来视频？
Sᵥ(i)=V≤ᵢ ∪ A≤ᵢ；Sₐ(i)=V₀ ∪ A≤ᵢ
V₀ 是观察，Vᵢ 是第 i 个未来视频块，Aᵢ 是对齐动作段；S 是该 Query 可见的 Key 集合。视频可以看已经对齐的动作，动作则只能看观察和动作前缀；块内允许自由交互，块间遵循时序。观察 Query 只留在观察流内。
i=2 时，V₂ 可读 V₀/V₁/V₂、A₁/A₂；A₂ 可读 V₀、A₁/A₂，不能读 V₁/V₂，也不能读 A₃。因果粒度是块，不是说同一块内每个 token 严格自回归。
Eq.3 · 联合 attention 到底联合在哪里？
Uₘ=softmaxSₘ(QₘKᵀ/√d)V；K=[Kᵥ;Kₐ]，V=[Vᵥ;Vₐ]
m 表示视频或动作专家；Q/K/V 是各专家投影得到的查询、键、值，不是原始像素。d 是每个 attention head 的键维度。拼接发生在 token 轴，各路仍有自己的参数。mask 让不可见项的权重归零，再对可见项归一化。
某动作 Query 与三个 Key 的打分相同，但其中一个是未来视频而被屏蔽：输出权重变为 [0.5,0.5,0]，不是 [⅓,⅓,⅓]。“联合 attention”不能绕过这条屏蔽。
Eq.4 · 只修改“哪些动作已知”
aₖ(r,τ) = aₖ（k≤r）；否则为 ãₖ(τ)
r 是干净前缀长度，取 0…K。r=K 学指定动作下的世界；r=0 学完整策略；中间值学动作续写。干净 token 的 noise embedding 为零；后缀使用同一个采样的动作噪声水平。partial-clean 在对齐块边界附近与全范围均匀采样之间混合；具体二者比例未给出。
K=4、r=2：输入 [a₁,a₂,ã₃,ã₄]。只有 a₃/a₄ 是动作去噪考题；a₁/a₂ 是条件，不能把它们也算进同一动作损失平均。
Eq.5 · flow matching 与两项损失
x(τ)=(1−τ)x+τε；目标速度=ε−x
Lᵥ=E[wᵥ‖ûᵥ−(εᵥ−zfut)‖²mean]
Lₐ=Er<K[wₐ‖ûₐ,>r−(εₐ,>r−a>r)‖²mean]
L=λᵥLᵥ+λₐLₐ
Lᵥ=E[wᵥ‖ûᵥ−(εᵥ−zfut)‖²mean]
Lₐ=Er<K[wₐ‖ûₐ,>r−(εₐ,>r−a>r)‖²mean]
L=λᵥLᵥ+λₐLₐ
x 是干净目标，ε 是同形状高斯噪声；û 是模型预测的速度场。w 是随噪声水平变化的损失权重，λ 平衡模态。视频和动作各自采样 τ。动作损失只平均有后缀的样本；all-clean 没有动作去噪损失。具体 λ、w 配方未完整报告，不能默认都为 1。
标量 x=2、ε=0、τ=0.75，则输入 0.5、目标速度 −2。若预测 −1.5，平方误差为 0.25。生成从 τ=1 向 0 积分，步长为负，所以负速度沿这条积分方向会使值靠近 2；不能按正时间步直觉判断符号。
Eq.6 · 纯想象中的闭环
Cⱼ=(E(ôⱼ),ℓ)
âⱼ~p(a|Cⱼ)；ẑⱼfut~p(zfut|Cⱼ,âⱼ)
ôⱼ₊₁=last(D(ẑⱼfut))
âⱼ~p(a|Cⱼ)；ẑⱼfut~p(zfut|Cⱼ,âⱼ)
ôⱼ₊₁=last(D(ẑⱼfut))
E/D 是 VAE 编/解码，帽子表示生成值；j 是想象轮次。第一步生成动作，第二步把这些动作固定为干净条件预测视频，再取各相机末帧作下一轮观察。两个调用使用同一网络，不是同一次生成中用未来视频去修正当前动作。
第 1 轮梦见抽屉打开；第 2 轮以“抽屉已打开”的生成画面继续取物。若第一轮幻觉打开了但真实抽屉没动，之后梦境可以自洽却与现实脱节。这就是为什么 Figure 8 不是实际任务成功率。
检查理解：all-clean 样本不训练动作损失，为什么仍能改善策略？
它训练了策略复用的观察/交互表征，且视频能读取动作特征，梯度可以影响相连的专家。改善效果由内部对照支持；“哪一类表示变化占主要贡献”仍是机制解释，并没有被独立因果实验完全证明。
4 · 数据与训练：混合比例不是人机数据配比
区分两种 mixture
60/25/15 是同一数据里的动作条件构造比例，不是 robot/human/simulation 小时比例。本文没有大规模人类视频混训实验，不应和 OpenWAM/UniWAM 数据表混为一谈。
| 阶段 | 数据 / 预算 | 使用方式 / 边界 |
|---|---|---|
| 初始化 | 预训练 Wan2.2-TI2V-5B，复用 VAE 与文本编码器 | 不是从零训练视频生成器；上游视频预训练的数据成本不为零。 |
| LIBERO | 四套示范联合训练，20 epochs，global batch 128 | 直接测试 LIBERO-Plus，不在 Plus 做适配。 |
| RoboCasa365 | 90k optimizer steps，global batch 1024 | 示范集训练；区分 seen atomic / seen composite / unseen composite。 |
| 真机 | 三任务各 50 条，总 150 条；20 epochs，global batch 96 | 不是零样本真机迁移；用各任务示范训练。 |
| 视频评测集 | LIBERO/Plus 合计 100 complete episodes，由 π₀.₅ 收集；RoboCasa 100 episodes，由 Xiaomi-Robotics-1 收集 | 专家 rollout 构造的评测视频，不是论文另发大规模世界模型训练集。 |
| 动作条件模式 | all-noisy 60% / partial-clean 25% / all-clean 15% | 按样本混入 batch；内控对比保持数据、batch 和训练预算一致。 |
5 · 三类评测证据：不要跨协议比一个总分
Figure 3 · 仿真与真机各在考什么
- 左列依次是 LIBERO、LIBERO-Plus 和 RoboCasa365；右列是叠积木、插块和早餐摆盘。不是在一个任务上切换了六种指标。
- 叠放主要看相对位置；插入更敏感于局部几何；早餐要求场景变化后的连续操作。照片只说明任务设置，成功率要看 Figure 4 和协议。
| Benchmark / split | 任务、输入与控制 | OneWM | 内部对照 | 边界 |
|---|---|---|---|---|
| LIBERO / 四套 | 图像观察＋语言；连续动作块；benchmark success。模拟 trials/seeds、完整控制 Hz 未在文中重述。 | Spatial 96.60 / Object 98.60 / Goal 96.80 / Long 87.80；均值 94.95% | WAMmask 92.45；WAMnoisy 92.60 | 相对内控 +2.50 / +2.35 pp；低于表中 Fast-WAM 97.60。 |
| RoboCasa365 | 复杂厨房静止/移动操作；按 seen/unseen 组合报告；精确每子组试验数未报告。 | Atomic-S 68.78 / Comp.-S 30.25 / Comp.-U 7.00；总 36.68% | WAMmask 55.89 / 19.63 / 6.00；总 28.32% | 总体 +8.36 pp；未见组合只有 +1 pp，仍很难。 |
| 观察/动作与终止 | 多视角图像；动作维度、horizon、安全终止细项未完整列出。 | 不能把视频评测的 32/16 步预测 chunk 自动当作所有部署的执行 chunk；缺失字段需代码再核验。 | ||
| 测试变化 | OneWM | WAMmask | WAMnoisy | 相对 mask 差值 |
|---|---|---|---|---|
| 背景 | 57.34 | 54.00 | 53.07 | +3.34 pp |
| 相机 | 18.39 | 11.13 | 10.82 | +7.26 pp，绝对表现仍低 |
| 语言 | 79.57 | 73.85 | 70.33 | +5.72 pp |
| 光照 | 79.86 | 84.24 | 81.87 | −4.38 pp，退步 |
| 布局 | 71.08 | 62.36 | 63.08 | +8.72 pp |
| 机器人初始化 | 47.81 | 47.68 | 49.68 | +0.13 pp，低于 noisy |
| 传感噪声 | 67.08 | 50.41 | 48.34 | +16.67 pp |
| Overall | 59.27 | 53.37 | 52.50 | +5.90 pp |
Figure 4 · 真机提升必须连同 15 次/任务一起看
- OneWM 叠放 73.3%、插入 40.0%、早餐 86.7%；对应 11/15、6/15、13/15。WAMmask 为 9/15、3/15、10/15。
- 总体 66.7% 对 48.9%，增加 17.8 个百分点；不能说提升了 17.8% 相对比例。插入仍有 9/15 失败，说明更好不等于可靠。
- 图中没有多随机种子方差；下方真机表用计数补 Wilson 区间，但单次评测的不确定性不能当训练种子方差。
| 任务 | OneWM 成功 / 总数 | SR | Wilson 95% | WAMmask |
|---|---|---|---|---|
| 叠三色积木 | 11 / 15 | 73.3% | 48.0%–89.1% | 9 / 15 = 60.0% |
| 插入蓝块 | 6 / 15 | 40.0% | 19.8%–64.3% | 3 / 15 = 20.0% |
| 早餐摆盘 | 13 / 15 | 86.7% | 62.1%–96.3% | 10 / 15 = 66.7% |
| 合计 | 30 / 45 | 66.7% | 52.1%–78.6% | 22 / 45 = 48.9% |
真机经任务示范训练；不是 sim-to-real zero-shot。正文图片显示桌面操作，但机器人/夹爪型号、精确传感器规格、完成时间、干预/安全停止数和失败分类未完整报告。合计区间只是把这些试验聚合后的描述，不能代替分任务差异或多训练种子统计。
6 · 策略反过来真的改善了世界预测吗？
先固定评测条件
WM 和 OneWM 都拿到同一干净动作，预测未来多视角视频。差别在训练时有没有动作生成监督。这样才是在问“动作学习能否帮助世界模型”，而不是让两者拿到不同输入。
| Benchmark | PSNR↑ | SSIM↑ | LPIPS↓ | FID↓ | FVD↓ |
|---|---|---|---|---|---|
| LIBERO | 22.33 → 22.95 | .8325 → .8423 | .1529 → .1458 | 11.89 → 12.45（更差） | 13.68 → 13.58 |
| LIBERO-Plus | 20.54 → 21.05 | .7937 → .8049 | .2014 → .1935 | 18.06 → 17.01 | 32.48 → 31.66 |
| RoboCasa365 | 24.72 → 25.21 | .8433 → .8515 | .1087 → .1015 | 9.20 → 9.16 | 18.55 → 17.74 |
PSNR/SSIM/LPIPS 逐个预测与对应真值比较；FID/FVD 汇总特征分布。一个重要反例：把生成片段随机分配给不同动作，汇总分布不变，但动作—后果对应已错。因此“FID 更好”不能直接等于“更遵从动作”。OneWM 并非每项指标第一：WMAdaLN 在部分分布指标更强。
Appendix A：指标实现会影响可比性
每个 chunk 8 个未来帧，不含条件帧；LIBERO/Plus 32 动作步、图像 stride 4；RoboCasa 16 步、stride 2。PSNR=−10log₁₀(MSE+10⁻⁸)，RGB 范围 [0,1]；SSIM 用 11×11 高斯窗口；LPIPS 用 PIQ VGG16。FID/FVD 先 H.264 QP20、YUV420p 编解码，分别提取 Inception-v3 2048D 与 Kinetics-400 I3D-R50 的 400D logits。后者不是可随意与其他 FVD 实现混比的通用标尺。
教学例：MSE=.01 时 PSNR≈20 dB；MSE 减半为 .005 时约 23.01 dB。提高 3 dB 接近误差减半，但不意味着机器人成功率翻倍。
Figure 5 · 主相机：同一动作是否带来对的空间变化
- 每组上行 GT，中行 OneWM，下行指定对照；横向从 t+4 走到 t+32，最后一列放大同一坐标区域。须先匹配相机、动作与时间再比较。
- 六组分别关注摩卡壶/夹爪姿态、奶酪盒附近的位置、酱瓶附近高度、酒瓶旋转、纸盒和篮子的对齐以及推盘关系。
- 这些是作者选择的定性案例；它们帮助解释 PSNR/LPIPS 提升，不提供全测试集失败频率，也不能单独证明物理正确性。
Figure 6 · 腕部相机：近接触局部几何比画面像不像更重要
- 从腕部视角看抽屉位置、盒子轮廓、瓶盖朝向、瓶颈、黄油包装范围和酒瓶倾斜。最终 Detail 对所有方法使用同一区域。
- 主视角可能看着合理，腕部相机却暴露局部位置错误；跨视角证据比单幅漂亮生成图更有说服力。
- 这些仍是开环指定动作的视频预测，不是机器人根据生成图闭环执行后的结果。
Figure 7 · RoboCasa365：同时看左、腕部、右相机
- 六组比较前臂回撤、冰箱门交互、冰箱/碗的腕部视角，以及台面和冰块附近夹爪下降与转向。每组四行有 GT、OneWM、WM、WMAdaLN。
- 移动/操作导致相机和物体关系同时变化。基线过早露出碗或夸大视角变化，可能仍有好看的纹理，但动作条件下的时序位置不对。
- 不能把这里的视觉质量解释为 RoboCasa 未见组合已解决：对应闭环 Comp.-U 仍只有 7%。
7 · 为什么更多干净动作反而让策略变差？
| 全噪 / 部分干净 / 全干净 | LIBERO SR | Plus SR | LIBERO PSNR | Plus PSNR |
|---|---|---|---|---|
| 60 / 25 / 15（默认） | 94.95 | 59.27 | 22.95 | 21.05 |
| 50 / 35 / 15 | 95.95 | 56.98 | 22.44 | 20.57 |
| 30 / 45 / 25 | 87.80 | 38.01 | 23.12 | 20.90 |
图像预测指标相近，策略尤其 OOD 却明显下降。作者解释为必须保留足够“动作未知、从噪声生成”的训练，匹配部署。干净动作是额外老师，不应该让模型只练“答案已给出”的题。这个解释合理，但论文只测试三组比例，没有证明 60/25/15 对其他模型和数据也最优。
8 · Appendix C：无尽梦境的证据上限
Figure 8 · Endless Dream：梦里闭环，不是现实闭环
- 蓝框只有最初两路相机观察是真实环境输入；之后所有图都由模型生成。每轮先生成动作，再固定动作预测视频，末帧反馈到下一轮。
- 16 轮 × 32 动作=512 动作，模型时间跨度 25.6 秒；每阶段 10 次去噪、固定 seed 42。时间戳是模拟时域，不是真机端到端延迟。
- 这六个例子证明两种推理接口可以组合，但没有额外真实观测、没有定量长程成功率，不能据此说已具备可靠在线规划。
这是论文中唯一把两个推理模式交替接起来的展示。它没有再训练、也没有真实环境的每轮纠错。可支持“模型可以自生成连续的动作—视觉序列”；不支持“25.6 秒任务都能在真机成功”“已有可靠规划搜索”或“无需环境验证”。
9 · 细读后的 insight、冲突与研究边界
| 主张 | 机制 | 证据 | 不能外推 |
|---|---|---|---|
| 世界帮助动作 | 指定干净控制的前向预测，改变共享表示与梯度 | Table 1；Fig 4；内控固定训练预算 | 不是所有 OOD 维度更好；未见组合仍 7% |
| 动作帮助世界 | 动作生成监督约束控制相关几何 | Table 2，同架构 WM 对照 | LIBERO FID 退步；表征因果路径未单独量化 |
| 两种能力可组合 | 策略/世界接口轮流调用 | Eq.6、Appendix C 六例 | 没有梦境准确率、真实长程成功率或规划收益 |
与 VLA / Embodied AI 的联系：最值得复用的是训练问题的设计：世界模型是否真的看见足够清晰的动作因果条件？辅助视觉损失是否在不增加部署成本时提供更好的控制表征？这比把“联合生成”当成固定架构标签更可操作。
原文表述核对：§4.2 说对 Fast-WAM 在所有 Plus 类别都更好，但 Table 1 光照为 OneWM 79.86、Fast-WAM 78.90，确实成立；对内部 WAMmask 光照则退步，不能把这两句话混用。arXiv 页边日期 10-15 与正文 Date 10-16 并存，元信息保留差异。不同论文里的 LIBERO-Plus 数字不能直接并榜，版本/任务/评测协议须另外核验。
可支持的最强结论：在这套 Wan 初始化的因果 MoT 与所测试预算下，加入明确动作条件的世界学习能改善策略，加入策略学习能改善多数世界预测指标。暂不能支持：任意规模的 scaling law、强跨本体迁移、普遍实时性，或未来想象是部署动作的必要条件。