导读

视觉语言动作模型（VLA）推理延迟高，是制约真实机器人闭环实时控制的关键瓶颈。现有 VLA 推理流程中，视觉编码与动作去噪各占用近一半延迟，流匹配类模型多步去噪会进一步拉高控制周期。本文介绍 Real-Time VLA Flash，基于投机推理思路设计双路径推理框架，以小幅任务成功率损失换取推理延迟大幅下降，适配真机低时延控制需求。

核心设计

两条路径：Full path 使用原始 VLA 完整推理；Flash path 则由轻量 draft model 先生成 action chunk，再由原始模型验证。draft model 约 110M 参数，远小于原始 VLM + Action Expert 的 3.3B 参数。

图 1：Real-Time VLA Flash 的 full path 与 flash path。

验证阶段并不是证明 draft trajectory 与 target trajectory 完全相同，而是沿 noise -> draft action 的线性插值路径检查主模型速度场是否兼容。若前缀动作的 L2 距离低于阈值，就接受这段 draft prefix。

简言之：小模型提案，大模型裁决。

Fallback 机制

纯 flash path 在精细阶段可能失败。例如 bowl-to-plate 任务中，前半段移动可以较粗，但最后放置必须精确；如果继续走 flash path，轨迹可能漂移到 plate edge。

图 2：phase-aware fallback 在关键阶段回到 full path。

因此论文加入 phase-aware fallback：当接收 step 为 0，或检测到夹爪状态切换时，回退到 full path。为了缓解长任务漂移，还会周期性强制执行 full-path refresh。

实验结果与讨论

图 3：LIBERO 仿真中 FLASH+Triton 达到 3.04x 加速。

• Torch-π0: SR 94.1，latency 58.0ms，/Act 5.0ms。
• Triton-π0: SR 94.2，latency 39.7ms，1.46x。
• FLASH-π0: SR 93.4，latency 34.9ms，1.66x。
• FLASH+Triton-π0: SR 93.8，latency 19.1ms，/Act 1.9ms，3.04x。

速度提升明显，但不是免费午餐：FLASH+Triton 相比 Torch-π0 的平均成功率下降 0.3 个点。平均约三分之二的 re-planning rounds 可以走 flash path，验证通过的 draft prefix 大约覆盖 8 到 9 个动作。

图 4：UR5 传送带真机实验，实时性直接影响任务能否完成。

这篇工作也有局限：只评估了一个 π0 模型，仿真主要集中在 LIBERO；Triton 优化不是本文核心贡献，但对最终加速数字影响很大；此外，这里的 speculative 与语言模型 token exact match 不同，更准确地说是速度场兼容性验证。

Real-Time VLA Flash 的价值在于把 VLA 推理改造成“小模型提案、大模型验证、关键阶段回退”的实时控制路径，用轻微成功率代价换取显著延迟下降。

📌 栏目预告

本栏目定期推送大模型、具身智能领域前沿训练系统与学术成果解读，持续分享行业最新科研进展，欢迎关注。