v0 · 完整正文
研究综述
研究备忘录 | 时间范围：2025-08 至 2026-08 | 证据基础：94 篇论文，127 条经验证证据事件 | 综述模式：scoping 本备忘录基于经过全文提取和 claim-support audit 的论文级证据。所有主张可追溯至具体论文。事件级溯源见 evidence-appendix.md。
1. 研究边界与问题界定
"具身端到端模型除了动作监督之外还需要哪些监督信号"——这个问题预设了动作标签是端到端模型的基础监督，但近一年的证据表明，仅靠动作标签（无论是遥操作 demonstrations 还是 RL reward）远远不够。文献中反复出现的模式是：动作监督解决了"做什么"，但几何、物理、触觉、语义、奖励和安全等监督信号各自解决了"怎么做对"的不同维度。
本文将"动作监督"界定为：机器人动作标签（遥操作轨迹、动作块、RL reward）。"其他监督信号"则涵盖所有在训练或推理阶段引入的外部信号，包括但不限于：几何/3D 先验、触觉/力觉信号、物理约束、语义标注、奖励/RL 信号、对比/表征学习目标、以及安全/纠正监督。
基于 94 篇近一年论文的 127 条证据事件，本文的中心论点是：具身端到端模型至少需要七类非动作监督信号，且这些信号具有维度互补性——每一类解决动作监督无法覆盖的特定失败模式。其中触觉/力觉监督和几何/3D 监督的需求最为普遍，物理监督和语义监督提供了不可替代的结构约束，而所有监督信号的共同设计原则是"训练时注入、推理时可丢弃"的特权范式。
2. 触觉/力觉监督：解决"力觉盲"问题
2.1 力觉作为接触参考信号
近一年最突出的发现是触觉和力觉监督的普遍需求。在 20 篇专门研究新论文中，9 篇涉及触觉/力觉监督，反映了领域对视觉策略"力觉盲"问题的共识。
TORL-VLA 使用未来力矩（6D wrench）序列作为接触参考信号，驱动在线 RL 微调 2606.09337。其 MoE 融合 wrench token 是最关键组件——消融显示移除 wrench 融合导致性能急剧下降。FM-VLA 用 VAE 预训练的力时间序列重建模型，将长程力历史压缩为紧凑记忆 token，力记忆和状态记忆互补（单独 25.9% 和 40.7%，联合 83.3%）2607.18231。
2.2 触觉-力对齐与接触感知门控
TaF-VLA 通过对比学习将触觉序列与物理力/力矩在 VQ-VAE 潜空间中对齐 2601.20321。关键设计是时间历史和解耦力模态（压力 + wrench）缺一不可。TacVLA 进一步发现触觉 token 应仅在接触期间选择性激活，避免自由空间运动中的噪声 2603.12665。
2.3 触觉表征监督的位置依赖性
Representation-Aligned Tactile Grounding 的对照实验揭示了一个微妙发现：触觉预测监督的有效性取决于它施加在哪个表征上 2607.14609。中间动作专家特征是最优目标（74% 成功率），而 VLM 侧特征监督仅达 58%。潜空间目标优于原始触觉预测。这说明监督信号在架构中的应用位置与信号本身同样重要。
2.4 视觉-触觉世界模型
ViTacWorld 和 OmniVTA 构建了视觉-触觉世界模型，通过预测动作条件下的触觉结果来提供接触动力学监督 2607.22530 2603.19201。关键发现是触觉信号的 sim-to-real gap 比视觉信号更小，60Hz 反射性纠正可以有效闭环。FG-CLTP 通过定量触觉 token 化（力大小、接触深度、面积、主轴）桥接定性语义和定量物理，回归 MAE 降低 52.6% 2603.10871。
Bi-HIL 的证据最为直接：基于双边控制的遥操作中，力/力矩记录对接触丰富任务不可或缺——peg-in-hole 任务无力监督时成功率 0%，有力监督时 80% 2603.13315。
3. 几何/3D 监督：解决空间推理瓶颈
3.1 3D 表征的多种监督形式
几何监督是文献中第二普遍的非动作监督类型。VistaVLA 将语义特征蒸馏到 3D 高斯基元中，通过多视图渲染提供场景级空间上下文 2607.12356。关键发现是原始深度输入仅提供有限改善，而结构化的高斯基元表征显著优于 2D 特征。
GEAR-VLA 通过语义对齐的 3D 骨干 + 本体规范化实现跨本体泛化（AgileX 85.9%，未见 LDT-01 81.0%）2606.08530。Lift3D-VLA 提出 GC-MAE 双目标自监督框架：同时重建当前点云和预测未来几何演化，使 VLA 内化 3D 结构和物理动力学 2607.06564。
3.2 视图不变性与对比学习
ManiVID-3D 通过自监督对齐学习的视图不变 3D 点云特征，在视角变化下成功率提高 40.6% 2509.11125。CLAMP 使用 3D 对比预训练对齐多视图渲染、动作和文本，关键设计是动态腕部视图和同时预训练编码器和策略 2602.00937。GEM3D 的点云重建 + 高斯泼溅多视图监督，配合蒸馏式策略学习，比直接微调更好地保留几何知识 2601.22988。
3.3 从已有证据的补充
GEM-4D 的几何特征蒸馏将操作成功率从 61% 提升至 81% 2605.22882。Pri4R 在训练时监督 3D 点轨迹、推理时零开销 2603.01549。Neural Voxel Dynamics 发现纯 2D 端到端学习不足以学习 3D 物理，但 3D 体素结构 + 深度先验可以作为归纳偏置 2606.26410。
4. 物理监督：弥补演示数据的物理无知
4.1 推理时物理门控
PhysVLA 提出了一种独特的物理监督形式：选择性推理时物理修正 2606.13886。仅当动力学残差超过阈值时才触发欧拉-拉格朗日动力学修正，成功率提升达 17% 而无需重训练。相位感知 FSM 提供相位特定的修正，说明物理监督不一定要在训练时注入——推理时的轻量级门控同样有效。
4.2 视频预训练中的隐式物理
PhysGen 发现预训练视频模型可以作为物理代理，在不显式使用物理引擎的情况下转移隐式物理知识（物体永久性、动力学）2603.00110。这提供了一种绕过显式物理监督的路径，但其适用边界仍需验证。
4.3 物理感知后训练
ABot-PhysWorld 使用物理感知 DPO 后训练，通过解耦的物理判别器抑制视频世界模型中物理不合理的行为（物体穿透、反重力运动）2603.23376。这与 ContactGaussian-WM 的可微物理梯度流 2602.11021 和混合 MPM 方法 2607.20653 互补——物理监督可以在训练时（梯度流）、后训练时（DPO）或推理时（门控）注入。
5. 语义/中间表征监督：结构化任务理解
5.1 密集中间表征标注
RoboInter1.5 在 230k episodes 上标注了 10+ 种逐帧中间表征（子任务、原子技能、grounding、affordance、接触点、运动轨迹），作为动作执行和世界状态预测的双向监督 2607.18709。这种密集语义标注解决了端到端模型"知道做什么但不知道为什么"的问题。
5.2 语义掩码作为信息瓶颈
MWM 通过离线语义掩码监督在训练时提供几何信息瓶颈，过滤纹理和光照等光度干扰，保留物体身份、空间布局和接触动力学 2604.19683。关键设计是语义监督仅在训练时使用，部署时模型纯 RGB 输入。
5.3 语言接地与任务分解
ActionReasoning 假设感知已由视觉算法可靠提供，将 LLM 的任务收窄为 3D 动作推理 2602.21161。这种解耦可降低端到端训练的数据需求，但也意味着语言监督和视觉监督应在架构上分离而非混合。
6. 奖励/RL 监督：超越静态演示
6.1 仿真-真实协同训练
RL-Co 将仿真 RL 奖励信号与真实数据辅助监督损失结合 2602.12628。RL 奖励利用了超越静态 SFT 演示的闭环交互，而真实数据辅助损失防止灾难性遗忘。真实世界成功率提升 24%。
6.2 仿真派生特权监督
3DPWM 在仿真中用完整点云和逐点速度真值训练世界模型 2607.00148。仿真中的逐点对应使 Huber 损失可直接施加于动力学，而真实世界的部分观测只能退化为 Chamfer 距离。仿真派生的奖励、价值和编码器先验对世界模型预训练至关重要——仅用专家数据训练时 Peg Insertion 成功率从 0.90 跌至 0.10 2603.15759。
6.3 安全/纠正监督
TORL-VLA 的干预审查评论家防止了从混合策略生成和人类干预数据中学习时的信用分配偏差 2606.09337。后干预成功不会传播到前干预策略动作（AUC 0.999 用于边界风险分离）。Hi-WM 在世界模型内让人类干预失败倾向的 rollout，将纠正轨迹加入后训练数据 2604.21741。
7. 对比/表征学习监督：跨模态对齐
7.1 3D-动作-文本对比
CLAMP 的 3D 对比预训练对齐多视图 3D 渲染、动作和文本 2602.00937。关键发现是动态腕部视图和同时预训练编码器和策略都至关重要。FG-CLTP 的触觉-语言对比预训练将定性语义（"硬"、"滑"）与定量物理（力大小、接触面积）对齐 2603.10871。
7.2 外部表征监督的失败边界
ReWorld 的对照实验给出了重要的限制证据：外部预训练特征（DINOv2、V-JEPA2 等）做监督对齐"几乎无改善，甚至某些情况比基线更差" 2606.27504。模型自身潜空间内的自监督塑造反而更优。这说明对比/表征监督的有效性高度依赖于对齐目标——与任务动力学对齐的表征监督有效，通用视觉表征监督可能有害。
8. 监督信号的互补性与设计原则
8.1 维度互补性
证据反复显示不同类型监督的互补性：FM-VLA 的力记忆 + 状态记忆（25.9% + 40.7% → 83.3%）2607.18231；ABot-PhysWorld 的像素级 + 语义级物理判别器 2603.23376；GEM-4D 的几何蒸馏 + 动作预测 2605.22882。区域聚焦的物理监督在 R-Bench 上从 46.0 提升至 47.5，而均匀监督仅达 46.0 2606.28128。
8.2 特权监督范式
所有有效监督形式都遵循一个共同设计原则：训练时注入结构化外部信号，推理时丢弃监督分支。这一"特权监督"范式已被 Pri4R 2603.01549、GEM-4D 2605.22882、GaussianDream 2605.20752、MWM 2604.19683 等独立验证。
8.3 生命周期视角
不同阶段需要不同监督：预训练阶段需要动作对齐的预测目标 2509.18428；后训练阶段需要幻觉控制和纠正轨迹 2604.21741；推理阶段需要延迟约束的在线修正和物理门控 2606.13886 2606.00113。
9. 开放问题
- 监督信号的最小必要组合：七类监督中哪些是必须的、哪些是可选的？不同任务（自由空间操作 vs 接触丰富操作 vs 导航）的最小监督组合是什么？
- 触觉监督的标准化：FG-CLTP 的定量触觉 token 化 2603.10871 提供了一种标准化的可能，但跨传感器的触觉表征统一仍是开放问题。
- 物理监督的注入时机：PhysVLA 的推理时门控 2606.13886 vs ABot-PhysWorld 的 DPO 后训练 2603.23376 vs ContactGaussian-WM 的训练时梯度流 2602.11021——哪种方式在什么条件下最优？
- 外部表征监督的迁移条件：ReWorld 发现外部预训练特征可能有害 2606.27504，而 GEM-4D 的几何蒸馏却有效 2605.22882——决定外部监督"迁移 vs 不迁移"的具体条件仍需系统研究。
- 监督信号之间的干扰：当多种监督信号同时施加时，是否存在干扰？标准动作条件潜变量世界模型的"一锅炖"监督会导致规划性能下降 2607.18715——多监督信号的最优组合策略是什么？
10. 核心结论
近一年的证据表明，具身端到端模型除动作监督外至少需要七类非动作监督信号：触觉/力觉监督（解决力觉盲和接触感知）、几何/3D 监督（解决空间推理和视图泛化）、物理监督（弥补演示数据的物理无知）、语义/中间表征监督（提供结构化任务理解）、奖励/RL 监督（超越静态演示的闭环优化）、对比/表征学习监督（跨模态对齐），以及安全/纠正监督（防止信用分配偏差和失败传播）。
这些监督信号具有三个共同特征：（1）维度互补性——每类解决动作监督无法覆盖的特定失败模式；（2）特权范式——训练时注入、推理时可丢弃；（3）生命周期依赖——不同阶段需要不同类型。最具实践价值的设计原则是"结构化、任务对齐、训练时注入、推理时丢弃"——与任务动力学对齐的结构化监督有效，通用外部监督可能有害甚至比不加更差。