Unifying Language-Action Understanding and Generation for Autonomous Driving

TL;DR

LinkVLA通过统一语言和动作令牌,提升自动驾驶指令遵循准确率至91.01分。

cs.CV 🔴 高级 2026-03-02 3 次浏览
Xinyang Wang Qian Liu Wenjie Ding Zhao Yang Wei Li Chang Liu Bailin Li Kun Zhan Xianpeng Lang Wei Chen
自动驾驶 视觉语言模型 动作生成 跨模态一致性 效率提升

核心发现

方法论

LinkVLA通过统一语言和动作令牌,创建共享离散码本,增强跨模态一致性。引入辅助动作理解目标,训练模型从轨迹生成描述性标题,促进语言-动作双向映射。采用两步粗细生成方法C2F,提升解码效率。

关键结果

  • LinkVLA在Bench2Drive测试中获得91.01的驾驶分数,比SimLingo提高6.98%。成功率达到74.55%,相较于SimLingo提升10.82%。
  • 在指令遵循能力测试中,LinkVLA展示了显著的性能提升,尤其是在复杂场景中表现优异。
  • 通过消融实验验证了LinkVLA的结构设计和生成策略的有效性,尤其是在减少推理延迟方面。

研究意义

LinkVLA解决了语言指令与动作输出之间的错位问题,并显著提升了自动驾驶系统的效率。该研究为跨模态一致性提供了新的解决方案,推动了自动驾驶技术的发展。

技术贡献

LinkVLA通过统一的令牌化框架和双向语言-动作映射,显著提升了自动驾驶系统的指令遵循能力和效率。其创新的粗细生成策略减少了推理延迟,提供了新的工程实现可能。

新颖性

LinkVLA首次将语言和动作令牌统一到共享码本中,并通过双向学习目标增强语义一致性。这种方法在自动驾驶领域中尚属首次,提供了新的视角。

局限性

  • 在极端天气条件下,LinkVLA的性能可能会下降,因为视觉输入质量受影响。
  • 系统在复杂的城市环境中可能需要更高的计算资源。
  • 对语言指令的理解仍依赖于训练数据的质量。

未来方向

未来研究可以探索LinkVLA在不同环境中的适应性,并优化其在资源受限设备上的性能。此外,进一步研究如何增强语言指令理解的鲁棒性。

AI 总览摘要

LinkVLA是一种新型的视觉语言动作模型,旨在解决自动驾驶中的语言指令与动作输出错位问题。现有方法通常在复杂场景中表现不佳,且动作生成效率低下。LinkVLA通过统一语言和动作令牌,创建共享离散码本,增强跨模态一致性。其创新的两步粗细生成方法显著提升了动作序列的解码效率,节省了86%的推理时间。

实验结果表明,LinkVLA在Bench2Drive测试中获得了91.01的驾驶分数,成功率达到74.55%。在指令遵循能力测试中,LinkVLA展示了显著的性能提升,尤其是在复杂场景中表现优异。该研究为跨模态一致性提供了新的解决方案,推动了自动驾驶技术的发展。

尽管LinkVLA在多个方面表现出色,但在极端天气条件下的性能仍需进一步验证。此外,系统在复杂的城市环境中可能需要更高的计算资源。未来研究可以探索LinkVLA在不同环境中的适应性,并优化其在资源受限设备上的性能。

深度解读

原文摘要

Vision-Language-Action (VLA) models are emerging as a promising paradigm for end-to-end autonomous driving, valued for their potential to leverage world knowledge and reason about complex driving scenes. However, existing methods suffer from two critical limitations: a persistent misalignment between language instructions and action outputs, and the inherent inefficiency of typical auto-regressive action generation. In this paper, we introduce LinkVLA, a novel architecture that directly addresses these challenges to enhance both alignment and efficiency. First, we establish a structural link by unifying language and action tokens into a shared discrete codebook, processed within a single multi-modal model. This structurally enforces cross-modal consistency from the ground up. Second, to create a deep semantic link, we introduce an auxiliary action understanding objective that trains the model to generate descriptive captions from trajectories, fostering a bidirectional language-action mapping. Finally, we replace the slow, step-by-step generation with a two-step coarse-to-fine generation method C2F that efficiently decodes the action sequence, saving 86% inference time. Experiments on closed-loop driving benchmarks show consistent gains in instruction following accuracy and driving performance, alongside reduced inference latency.

cs.CV cs.RO