跨本体:人手与夹爪不是同一件事
示范表达的是任务意图和接触结构,不是可直接复制的关节角。模型需要把“抓住—转动—放置”映射为目标本体可执行的运动。
语言模型里的 ICL 是“在 prompt 里给例子,不更新权重”;搬到机器人后,例子变成连续视频或传感—动作轨迹,输出变成闭环动作。真正困难的不是把视频塞进 context,而是让模型跨本体理解意图、跨速度追踪进度,并在有限上下文和控制延迟里把未来转成可执行动作。
上一节还没有定义“学会”。这里先把两种适应分开:ICL 改的是推理时输入,SFT / TTT 改的是参数或快权重。二者可以组合,但不能把“给 10 步梯度”也叫一次性 ICL。
GEN-1.5 同时报告 0 步的 one-shot ICL 与 1–10 步的快速适配;59% 属于 ICL,83% 属于 10 步梯度更新。把两者写成同一种“上下文学习”会掩盖真正的系统差异。
定义清楚后,问题不再是“有没有 context window”,而是这个窗口里的经验能否在另一台机器、另一条时间轴和真实控制周期里成立。
示范表达的是任务意图和接触结构,不是可直接复制的关节角。模型需要把“抓住—转动—放置”映射为目标本体可执行的运动。
人类可能 10 秒做完,机器人可能要 30 秒并中途重试。系统必须定位“我做到哪一步了”,而不是按录像时间戳机械回放。
长示范、多视角和高控制频率迅速放大 token 数。工程上需要前缀缓存、进度压缩、future chunk 或分层任务表示。
前两篇证明规模化预训练后可以出现或强化 video prompting;HOST 显式解决时间与本体对齐;Zero-WAM 则把“先预测机器人未来、再读出动作”做成可规模训练的 WAM 路线。
把 3–12 秒 sensorimotor demonstration 放进 30 秒上下文,模型直接输出 100 Hz 动作。作者强调没有为 ICL 设计专门结构或 meta-learning 循环;physical prompting 是规模预训练后的涌现行为。
训练时每个 episode 都由示范指定任务,迫使模型从不同视角、场景和本体的视频里解析意图。重点不是单个精细动作,而是 4–10 分钟未见任务的技能组合、进度追踪与错误恢复。
先用 Smooth DTW 把人类视频与机器人轨迹落到共享进度流形,再级联预测:当前进度 → 下一段机器人视角未来 → 动作。这样把“人类像素直接回归机器人动作”的难题拆成两个更稳的接口。
人类视频被编码为 prefix memory;模型先生成机器人执行该任务的未来视频 chunk,再从预测未来解码动作。HumanGen 用机器人轨迹反向生成匹配的人类示范,IFP 训练目标迫使主干读取示范里的长期任务信息。
| 工作 | 上下文是什么 | 训练时如何逼模型使用 context | 推理链 | 是否更新权重 | 最强证据 | 公开性 |
|---|---|---|---|---|---|---|
| GEN-1.5 | 3–12 s sensorimotor demo | 没有专门 ICL 结构;依赖连续大规模物理预训练 | context → 100 Hz action trajectory | ICL:否;few-step:是 | 0 步 59%;10 步 83% | 博客 |
| Skild S1 | 一条视频示范 | episode 级 demonstration-conditioned pretraining | video prompt → long-horizon action | 否 | unseen:视频 66% vs 语言 9% | 博客 |
| HOST | 单条约 29 s 人类视频 | 共享 task-progress manifold + coupled targets | 进度 → 未来观测 → 动作 | 否 | 62%;旧技能保留 99% | 论文 + 代码 |
| Zero-WAM | 人类视频 prefix memory | HumanGen 配对 + IFP 预测多段未来 | 未来视频 chunk → 动作 chunk | 否 | 46.95% vs 17.45% / 10.98% | 论文 + 代码 + 数据 + 权重 |
四组数字来自不同机器人、任务长度、成功定义、干预协议和数据规模。正确读法是看每篇内部的受控对比与消融,而不是说 66% 的 S1 “超过” 62% 的 HOST。
把论文名拿掉,四条路线都在回答同一个问题:怎样把示范压缩成可执行的任务状态,并在机器人不断偏离示范时重新定位。
GPT-3:示例改变当前函数行为,但不改变参数。先把 ICL、SFT、meta-learning、TTT 四个概念分开。
ICRT、Instant Policy、Behavior Prompting:示范怎样作为 policy context,而不是任务训练集。
GEN-1.5 看涌现式 physical prompt;S1 看 demonstration-conditioned scaling 与长程组合。
HOST 学进度流形;Zero-WAM 学 future chunk、HumanGen 与 IFP,进入世界模型—动作合流。
四篇材料最值得保留的不是“机器人也有 ChatGPT 时刻”,而是新的部署分层:先用 ICL 冷启动并快速验证,再决定是否值得把任务固化进参数。
新任务只出现几次,示范容易获得,允许中等成功率和人工复核。目标是分钟级试运行、发现上下文设计问题。
通过 ICL 验证任务价值并收集真实失败后,再把技能固化为专用策略;产线下料不应只依赖一次视频 prompt。
优先考虑 HOST 的进度流形或 Zero-WAM 的机器人未来视频,避免把人手像素直接回归成机器人动作。
必须同时报告 prompt 编码耗时、prefix cache、每步延迟、控制频率、显存和示范长度,成功率单点不够。
视频比语言承载更多动作与时间细节;跨本体需要中间表示;任务多样性比单纯轨迹数量更关键。这些判断在四条路线中相互印证。
进度对齐、future chunk 与 IFP 能提升未见任务表现,但仍需更多本体、移动操作、柔性物体和非单调执行的独立复现。
现有成功率、私有任务集、算力门槛和控制延迟仍不足以支持通用产品结论。ICL 是新的任务接口,不等于可靠通用机器人已经完成。
“learn a new task in seconds, from a single example”
“the natural task specification for manipulation is a human video”