v0 · 完整正文
研究综述
研究边界
本文考察 2026 年 1 月 20 日至 7 月 20 日间,力觉在具身机器人中的方法演进。这里的“力觉”不只指腕部六维力/力矩传感器,还包括能反映局部接触力、滑移和形变的视觉触觉阵列,以及由关节、本体或多传感器信号估计出的接触状态。三者提供的空间尺度不同:力/力矩是低维、全局的合力与合力矩,触觉是高维、局部的接触分布,二者不能互换。
本轮检索得到 176 篇候选,46 篇具有完整、可解析的非 OCR 全文,最终纳入 17 篇完成全文精读和主张支持审计的论文。证据以操作、灵巧手和四足全身操作为主,多为近期预印本;尚不足以证明跨传感器、跨本体和长期部署条件下的通用增益。
中心判断
近半年的关键变化不是“机器人又多装了一种传感器”,而是力觉开始成为连接感知、预测与控制的接触状态接口。研究路线正在从把力或触觉作为静态附加观测,转向三层闭环:先把原始信号对齐为可解释的接触表征,再预测动作将如何改变接触,最后用高频反馈修正动作。最强的实验收益并不来自模态数量,而来自信号是否在正确的时间尺度、坐标系和控制层级中发挥作用。
1. 表征层:从触觉图像走向物理接触变量
视觉擅长回答“物体在哪里、要做什么”,却难以稳定观测遮挡后的卡滞、滑移、接触法向和微小错位。近期工作因此不再满足于把触觉图像送进一个视觉编码器。HapTile 把触觉图像之外的 marker displacement 保存为接触几何和滑移线索;TacForeSight 则把腕部六维力/力矩作为未来触觉 latent 的先行条件,其消融中,wrist wrench 条件使预测 MSE 从 0.027 降到 0.017、余弦相似度从 0.954 提高到 0.992。这里的进步是把“感觉到碰了什么”改写为“当前合力如何预示下一段局部接触变化”。
空间对齐同样关键。RGB-S 将稀疏触觉接触投影到图像域,并用力调制的高斯显著图表达运动学和标定误差。这说明跨模态融合不是把两个 token 序列拼接,而是要显式处理坐标与不确定性。另一方面,You Only Touch Once 展示了触觉在视觉不可靠条件下的另一种角色:一次双触点接触也能补充 6-DoF 物体位姿观测,尤其针对遮挡、弱光、反光和透明表面。
更系统的证据来自 ContactWorld。在 12 个接触丰富任务中,点云将平均规划成功率由腕部视角的 20.7% 和前视视角的 22.0% 提高到 32.1%,加入触觉力场后进一步达到 36.1%。这组结果的含义不是“触觉总能再加四个百分点”,而是空间结构、时间连续性和跨模态兼容性共同决定了力觉是否有用。
2. 预测层:力觉开始进入世界模型和动作验证
第二个转变是从反应式反馈走向动作条件下的接触预测。Visuo-Tactile World Models 已把腕部位姿、关节位置、外部视觉和双指尖触觉视频同步成训练序列;Dream-Tac 进一步联合生成未来视觉、未来触觉和动作 chunk,把世界模型扩展为 world action model。
预测的价值并不只在训练期。Inference-time Policy Steering via Vision and Touch 用视觉—触觉 latent world model 对候选动作进行长时域视觉选择和短时域触觉细化,说明力觉模型可以在推理时承担“动作是否会导致错误接触”的验证器。TACO 则把真实失败附近的状态转成视频—力联合想象片段并标注纠正动作,用于 VLA 后训练。两者共同把力觉从结果记录器推进到后果预测和失败修正环节。
但这种融合有明确反例。Tactile-WAM 指出,无约束的触觉 token 注入会产生 tactile pollution:稀疏、局部、事件式的接触信号可能破坏原有视频动态和动作预测。由此可见,力觉世界模型的核心问题不是“有没有触觉分支”,而是视觉与接触动力学是否被恰当地解耦,再在需要的地方交互。
3. 控制层:慢语义、快接触与分层闭环
接触变化通常比语言规划快得多,因此近半年架构越来越强调时间尺度分层。AT-VLA 将低频视觉语言理解与高频触觉反应拆成快慢双流;TouchWorld 也把视觉语言子任务规划、触觉世界模型预测和高频触觉残差修正分开。这比让一个统一模型以同一频率处理“把杯子放进柜子”和“夹持力正在下降”更符合控制问题的结构。
这种思想已经从末端执行器扩展到全身操作。Learning Tactile-Aware Quadrupedal Loco-Manipulation Policies 在保持高层触觉策略不变时,仅加入低层 tactile-command tracking,就把插入成功率从 0.70 提高到 0.85、完整重定向加插入从 0.60 提高到 0.80、阀门拧紧从 0.80 提高到 0.85。TAC-LOCO 的 10 次匹配真机实验中,触觉驱动策略成功率为 90%,固定夹爪的 Deep WBC 基线为 50%。证据虽然样本仍小,却清楚指出:当夹持变化影响身体稳定和运动可达性时,力觉必须同时进入夹爪、手臂和机体控制,不能只在高层做接触分类。
4. 数据与评测:力觉系统的瓶颈正在从模型转向接口工程
力觉比视觉更依赖同步、标定、传感器实例和接触过程。TAMEn 用动捕精度模式与 VR 便携模式平衡数据质量和环境多样性,并把人在环恢复数据纳入采集配方;Multisensory Continual Learning 则主张以少量新传感数据适配既有视觉策略,因为力觉、触觉和音频都具有明显的硬件与任务依赖。合理的数据策略不是预训练时穷尽一切传感器,而是保留视觉先验,再围绕目标硬件、接触阶段和失败恢复做小规模高价值补充。
评测也必须从“任务完成”转向“物理过程是否可接受”。SoftVTBench 将 Goal Success 与 Safety Success 分开,后者同时约束掉落和峰值形变;实验显示,只看最终完成会显著高估策略表现。对于力觉系统,至少还应报告过力次数、滑移/掉落、形变、接触检测延迟、恢复率、跨传感器实例退化和力控稳定性。
可操作的系统分层
| 层级 | 主要信号 | 适合承担的功能 | 关键风险 |
|---|---|---|---|
| 语义与几何层 | RGB、深度、点云、语言 | 目标理解、接触前规划、全局定位 | 遮挡后状态不可见 |
| 接触表征层 | 六维力/力矩、触觉图像、marker/force map | 接触检测、滑移、法向、局部形变 | 坐标和时间未对齐 |
| 接触预测层 | 动作条件的视觉—触觉—力序列 | 预判卡滞、候选动作验证、失败片段生成 | 触觉污染视觉动态 |
| 快速控制层 | 高频 wrench、触觉残差、关节状态 | 力位混合控制、抓持调节、反射修正 | 延迟、漂移、硬件特定性 |
| 安全评测层 | 过力、掉落、形变、恢复轨迹 | 验收过程安全而非只验终点 | 成功率掩盖物理伤害 |
条件、分歧与研究空白
第一,现有收益高度依赖具体传感器、任务和标定,不能从单一指尖传感器或少量装配任务外推成通用具身能力。第二,世界模型预测出逼真的触觉或视觉未来,不等于动作响应和接触力正确;其结果仍需真实闭环验证。第三,力觉数据的跨实例漂移、磨损、换件重标定和长期维护,在本轮接纳证据中覆盖不足。第四,四足全身操作已有明显真机增益,但实验规模仍小,尚缺统一的扰动强度、负载、表面和失败恢复基准。
下一步最值得验证的不是“力觉能否提高平均成功率”,而是三项更严格的问题:何种接触隐变量必须由力觉补足;何种时间尺度和控制层级应消费该信号;收益能否跨传感器实例、任务和长期运行保持。只要这三项不能被分账,更多模态仍可能只是更复杂的系统,而不是更可靠的机器人。
结论
近半年力觉研究的主线,是把接触从不可见的执行副作用,升级为可表征、可预测、可验证和可调节的状态。真正有前景的系统不是“视觉模型加一个力传感器”,而是视觉负责语义与接触前规划,力觉负责接触后的物理状态,世界模型预测接触演化,高频控制完成局部纠偏,并以安全过程指标验收。这个分层闭环比单纯扩大多模态模型,更接近力觉在具身机器人中的长期价值。
References
- Visuo-Tactile World Models
- TAMEn
- Learning Tactile-Aware Quadrupedal Loco-Manipulation Policies
- AT-VLA
- HapTile
- Dream-Tac
- RGB-S
- TacForeSight
- ContactWorld
- Inference-time Policy Steering via Vision and Touch
- Tactile-WAM
- You Only Touch Once
- Multisensory Continual Learning
- TACO
- SoftVTBench
- TouchWorld
- TAC-LOCO