How Do LLMs and VLMs Understand Viewpoint Rotation Without Vision? An Interpretability Study
研究揭示LLMs和VLMs在无视觉信息下理解视点旋转的困难，提出VRUBench数据集并通过选择性微调提升性能。
核心发现
方法论
本研究通过构建VRUBench数据集，探讨LLMs和VLMs在无视觉信息下的视点旋转理解能力。研究采用层级探测分析和头部因果干预方法，揭示模型在隐藏层中编码视点信息的能力，但在将视点位置与对应观察绑定时存在困难。通过选择性微调关键注意力头，提升了视点旋转理解性能。
关键结果
- 结果1：在VRUBench数据集上，LLMs和VLMs的表现均不佳，最高准确率仅为77.5%，而人类可轻松达到100%。这表明当前模型在空间智能方面存在显著差距。
- 结果2：通过选择性微调关键注意力头，VRU性能显著提升，同时避免了对通用能力的灾难性遗忘。
- 结果3：实验显示，VLMs在无视觉输入时仍优于LLMs，表明视觉数据训练对文本空间任务有益。
研究意义
本研究揭示了当前大模型在无视觉信息下理解空间关系的局限性，强调了视觉数据训练对提升模型空间智能的重要性。通过选择性微调，研究提供了一种在不损害模型通用能力的前提下提升特定任务性能的方法，为未来空间智能模型的开发提供了新的思路。
技术贡献
研究提出了VRUBench数据集，专注于文本视点旋转理解任务，并通过层级探测和头部因果干预揭示了模型在编码视点信息时的局限性。通过选择性微调关键注意力头，展示了提升模型特定任务性能的有效方法，避免了传统微调可能导致的灾难性遗忘。
新颖性
本研究首次系统性地探讨了在无视觉信息下，LLMs和VLMs对视点旋转的理解能力。通过创新性地采用选择性微调方法，研究在不损害模型通用能力的情况下，显著提升了特定任务性能。
局限性
- 局限1：尽管选择性微调提升了VRU性能，但在更复杂的空间任务上，模型的表现仍有待提高。
- 局限2：研究主要集中在文本输入的视点旋转理解，未涉及多模态输入的综合分析。
- 局限3：当前方法在大规模数据集上的扩展性和通用性尚需进一步验证。
未来方向
未来研究可探索更复杂的空间任务，结合多模态输入以提升模型的空间智能。此外，进一步优化选择性微调策略，以提高其在大规模数据集上的扩展性和通用性。
AI 总览摘要
近年来，空间智能成为人工智能领域的研究热点，尤其是在大语言模型（LLMs）和视觉语言模型（VLMs）的发展下。然而，现有研究大多集中于视觉空间智能，忽视了在无视觉信息条件下，语言智能是否足以赋予模型空间智能。本研究聚焦于这一问题，探讨LLMs和VLMs在无视觉信息下的视点旋转理解能力。
研究通过构建VRUBench数据集，系统性地评估了LLMs和VLMs在文本输入下的视点旋转理解能力。结果显示，尽管人类在该任务上可轻松达到100%的准确率，当前模型的表现却远不及预期，最高准确率仅为77.5%。这表明当前大模型在空间智能方面仍存在显著差距。
为了揭示模型在视点旋转理解中的内在机制，研究采用了层级探测分析和头部因果干预方法。结果显示，尽管模型能够在隐藏层中编码视点信息，但在将视点位置与对应观察绑定时存在困难，导致最终层出现幻觉现象。
为改善这一问题，研究通过选择性微调关键注意力头，显著提升了模型的视点旋转理解性能，同时避免了对通用能力的灾难性遗忘。实验结果表明，选择性微调不仅提升了特定任务性能，还保留了模型的通用能力。
本研究不仅揭示了当前模型在空间智能方面的局限性，还为未来模型的开发提供了新的方向。通过选择性微调，研究展示了一种在不损害模型通用能力的前提下，提升特定任务性能的有效方法，为未来空间智能模型的开发提供了新的思路。
深度分析
研究背景
空间智能是指感知和心智操控空间关系的能力，近年来随着大语言模型（LLMs）和视觉语言模型（VLMs）的发展，空间智能的研究受到了越来越多的关注。传统上，空间智能的研究主要集中在视觉空间智能上，即模型通过视觉输入获取空间信息。然而，空间智能并不局限于视觉感知，即便是盲人也可以通过其他感官感知空间（Gardner, 1983）。因此，研究无视觉信息条件下的空间智能具有重要意义。现有研究大多集中在使用视觉数据进行基准测试和提升空间智能，而对无视觉信息条件下的视点旋转理解能力的研究仍然不足。
核心问题
本研究的核心问题是探讨在无视觉信息条件下，LLMs和VLMs是否能够理解视点旋转，即视点旋转理解（VRU）。具体而言，模型需要在接收到多步视点旋转和观察的文本描述后，推断其最终视点位置并预测相应的观察结果。尽管人类在该任务上可轻松达到100%的准确率，当前模型的表现却远不及预期，表明当前模型在空间智能方面仍存在显著差距。
核心创新
本研究的核心创新在于：
1. 提出VRUBench数据集，专注于文本视点旋转理解任务，为评估模型在无视觉信息条件下的空间智能提供了新的基准。
2. 采用层级探测分析和头部因果干预方法，揭示模型在编码视点信息时的局限性，尤其是在将视点位置与对应观察绑定时存在困难。
3. 通过选择性微调关键注意力头，显著提升了模型的视点旋转理解性能，同时避免了对通用能力的灾难性遗忘。
方法详解
本研究的方法论包括以下几个关键步骤：
- �� 数据集构建：设计VRUBench数据集，提供多步视点旋转和观察的文本描述，要求模型预测最终观察结果。
- �� 层级探测分析：评估模型在不同层级编码视点信息的能力，揭示模型在隐藏层中编码视点信息的局限性。
- �� 头部因果干预：通过路径修补技术，识别对视点旋转理解有重要影响的关键注意力头。
- �� 选择性微调：针对识别出的关键注意力头进行选择性微调，提升模型在视点旋转理解任务上的性能。
实验设计
实验设计包括以下几个方面：
- �� 数据集：使用VRUBench数据集评估模型的视点旋转理解能力，数据集包含多步视点旋转和观察的文本描述。
- �� 基线：选择多个LLMs和VLMs作为基线模型，包括LLaMA2-7B-chat、Qwen2.5-VL系列等。
- �� 评估指标：采用观察预测的准确率作为评估指标，比较不同模型在VRUBench数据集上的表现。
- �� 消融研究：通过选择性微调关键注意力头，评估其对模型性能的影响。
结果分析
结果分析显示，尽管人类在VRUBench数据集上可轻松达到100%的准确率，当前LLMs和VLMs的表现却远不及预期，最高准确率仅为77.5%。这表明当前模型在空间智能方面仍存在显著差距。通过选择性微调关键注意力头，模型的视点旋转理解性能显著提升，同时避免了对通用能力的灾难性遗忘。实验还显示，VLMs在无视觉输入时仍优于LLMs，表明视觉数据训练对文本空间任务有益。
应用场景
本研究的应用场景包括：
- �� 人工智能助手：提升AI助手在无视觉信息条件下的空间理解能力，增强其在导航、描述等任务中的表现。
- �� 教育领域：为教育领域的AI应用提供更好的空间智能支持，帮助学生理解复杂的空间关系。
- �� 机器人导航：提高机器人在无视觉信息条件下的导航能力，增强其在复杂环境中的适应性。
局限与展望
尽管本研究在提升模型视点旋转理解性能方面取得了进展，仍存在一些局限性。首先，选择性微调虽然提升了VRU性能，但在更复杂的空间任务上，模型的表现仍有待提高。其次，研究主要集中在文本输入的视点旋转理解，未涉及多模态输入的综合分析。此外，当前方法在大规模数据集上的扩展性和通用性尚需进一步验证。未来研究可探索更复杂的空间任务，结合多模态输入以提升模型的空间智能。
通俗解读 非专业人士也能看懂
想象一下，你在一个完全黑暗的房间里，手里拿着一个指南针。你不能看到周围的东西，只能通过指南针来判断自己的方向。现在，你需要在这个房间里转几圈，然后告诉别人你最后面朝哪个方向。这就是视点旋转理解任务的核心：在没有视觉信息的情况下，仅通过文字描述来判断自己的方向。
在这项研究中，科学家们想知道，像ChatGPT这样的语言模型能否像人类一样，通过文字来理解方向变化。他们设计了一系列任务，让这些模型在没有视觉信息的情况下，尝试判断自己的方向。
结果发现，这些模型在这方面的表现远不如人类。为了改善这一点，研究人员对模型进行了特别的训练，专注于模型中负责方向判断的部分。经过这样的训练，模型的表现有所提升，但仍然不如人类。
这项研究告诉我们，虽然语言模型在很多任务上表现出色，但在一些需要空间感知的任务上，它们仍然需要进一步的改进。未来，科学家们可能会结合更多的感官信息，来提升这些模型的空间智能。
简单解释 像给14岁少年讲一样
嘿，小伙伴们！你们有没有想过，如果你在一个黑暗的房间里，完全看不见东西，只能靠感觉来判断方向，那会是什么样子？这就是科学家们在研究的一种能力，叫做视点旋转理解。
想象一下，你在玩一个游戏，角色在一个迷宫里，你需要根据文字提示来转动角色，最后找到出口。科学家们想知道，像ChatGPT这样的智能助手，能不能像我们一样，通过文字来找到方向。
他们给这些助手设计了一些任务，让它们在没有视觉帮助的情况下，试着判断自己的方向。结果发现，这些助手在这方面的表现不太好，远不如我们人类。
为了让这些助手变得更聪明，科学家们对它们进行了特别的训练，专注于它们的大脑中负责方向判断的部分。经过这样的训练，它们的表现有所提升，但还是不如我们。这说明，虽然这些助手很聪明，但在某些任务上，它们还需要继续学习和改进。未来，科学家们可能会让这些助手结合更多的信息，变得更聪明哦！
术语表
视点旋转理解 (Viewpoint Rotation Understanding)
在没有视觉信息的情况下，通过文字描述来判断和理解自身视点位置变化的能力。
研究中用于评估模型在无视觉信息条件下的空间智能。
大语言模型 (Large Language Model, LLM)
一种通过大量文本数据训练的人工智能模型，能够生成和理解自然语言。
研究中用于评估在无视觉信息下的视点旋转理解能力。
视觉语言模型 (Vision-Language Model, VLM)
结合视觉和语言信息进行训练的人工智能模型，能够处理多模态任务。
研究中用于比较在无视觉信息下的视点旋转理解能力。
层级探测分析 (Layer-wise Probing Analysis)
通过分析模型不同层级的隐藏状态，评估其编码特定信息的能力。
用于揭示模型在编码视点信息时的局限性。
头部因果干预 (Head-wise Causal Intervention)
通过干预模型中特定注意力头的激活，评估其对输出的因果影响。
用于识别对视点旋转理解有重要影响的关键注意力头。
选择性微调 (Selective Fine-tuning)
仅对模型中特定部分进行微调，以提升特定任务性能，同时保留模型的通用能力。
用于提升模型在视点旋转理解任务上的性能。
VRUBench数据集 (VRUBench Dataset)
专注于文本视点旋转理解任务的数据集，用于评估模型在无视觉信息条件下的空间智能。
研究中用于评估模型的视点旋转理解能力。
幻觉现象 (Hallucination)
模型在生成输出时，未能准确绑定输入信息，导致生成不符合实际的结果。
研究中用于描述模型在视点旋转理解任务中的表现问题。
自注意力机制 (Self-attention Mechanism)
一种用于神经网络的机制，能够在处理输入序列时，动态调整不同部分之间的权重。
用于模型在编码视点信息时的关键机制。
灾难性遗忘 (Catastrophic Forgetting)
在对模型进行新任务训练时，模型对已学任务的性能显著下降。
研究中通过选择性微调避免的问题。
开放问题 这项研究留下的未解疑问
- 1 当前模型在无视觉信息下的空间智能仍然有限，尤其是在复杂的多步视点旋转任务中表现不佳。这表明现有方法在处理复杂空间关系时存在不足，需要进一步研究以提高模型的空间感知能力。
- 2 尽管选择性微调提升了模型的特定任务性能，但其在大规模数据集上的扩展性和通用性尚未得到充分验证。未来研究需要探索更高效的微调策略，以提高其在不同任务上的适应性。
- 3 研究主要集中在文本输入的视点旋转理解，未涉及多模态输入的综合分析。结合视觉、听觉等多模态信息，可能会显著提升模型的空间智能。
- 4 当前研究的实验主要基于模拟环境，尚未在真实世界场景中验证其有效性。未来需要在更真实的环境中测试模型的性能，以确保其在实际应用中的可靠性。
- 5 选择性微调虽然避免了灾难性遗忘，但在提升模型通用能力方面的效果有限。未来研究应探索如何在提升特定任务性能的同时，进一步增强模型的通用能力。
应用场景
近期应用
人工智能助手
通过提升AI助手在无视觉信息条件下的空间理解能力，增强其在导航、描述等任务中的表现。
教育领域
为教育领域的AI应用提供更好的空间智能支持，帮助学生理解复杂的空间关系。
机器人导航
提高机器人在无视觉信息条件下的导航能力，增强其在复杂环境中的适应性。
远期愿景
智能城市
通过提升AI系统的空间智能，实现更高效的城市管理和资源分配，推动智能城市的发展。
人机交互
结合多模态信息，提升人机交互的自然性和智能性，实现更高效的协作和沟通。
原文摘要
Over the past year, spatial intelligence has drawn increasing attention. Many prior works study it from the perspective of visual-spatial intelligence, where models have access to visuospatial information from visual inputs. However, in the absence of visual information, whether linguistic intelligence alone is sufficient to endow models with spatial intelligence, and how models perform relevant tasks with text-only inputs still remain unexplored. Therefore, in this paper, we focus on a fundamental and critical capability in spatial intelligence from a linguistic perspective: viewpoint rotation understanding (VRU). Specifically, LLMs and VLMs are asked to infer their final viewpoint and predict the corresponding observation in an environment given textual description of viewpoint rotation and observation over multiple steps. We find that both LLMs and VLMs perform poorly on our proposed dataset while human can easily achieve 100% accuracy, indicating a substantial gap between current model capabilities and the requirements of spatial intelligence. To uncover the underlying mechanisms, we conduct a layer-wise probing analysis and head-wise causal intervention. Our findings reveal that although models encode viewpoint information in the hidden states, they appear to struggle to bind the viewpoint position with corresponding observation, resulting in a hallucination in final layers. Finally, we selectively fine-tune the key attention heads identified by causal intervention to improve VRU performance. Experimental results demonstrate that such selective fine-tuning achieves improved VRU performance while avoiding catastrophic forgetting of generic abilities. Our dataset and code will be released at https://github.com/Young-Zhen/VRU_Interpret .
参考文献 (20)
Computing Krippendorff's Alpha-Reliability
K. Krippendorff
Thinking in Space: How Multimodal Large Language Models See, Remember, and Recall Spaces
Jihan Yang, Shusheng Yang, Anjali Gupta 等
InternVL3: Exploring Advanced Training and Test-Time Recipes for Open-Source Multimodal Models
Jinguo Zhu, Weiyun Wang, Zhe Chen 等
Do LVLMs Know What They Know? A Systematic Study of Knowledge Boundary Perception in LVLMs
Zhikai Ding, Shiyu Ni, Keping Bi
Assessing the Brittleness of Safety Alignment via Pruning and Low-Rank Modifications
Boyi Wei, Kaixuan Huang, Yangsibo Huang 等
How Large Language Models Encode Context Knowledge? A Layer-Wise Probing Study
Tianjie Ju, Weiwei Sun, Wei Du 等
Beyond the Imitation Game: Quantifying and extrapolating the capabilities of language models
Aarohi Srivastava, Abhinav Rastogi, Abhishek Rao 等
P2FTrack: Multi-Object Tracking with Motion Prior and Feature Posterior
Hong Zhang, Jiaxu Wan, Jing Zhang 等
Language Models are Super Mario: Absorbing Abilities from Homologous Models as a Free Lunch
Le Yu, Yu Bowen, Haiyang Yu 等
Towards Best Practices of Activation Patching in Language Models: Metrics and Methods
Fred Zhang, Neel Nanda
On the Role of Attention Heads in Large Language Model Safety
Zhenhong Zhou, Haiyang Yu, Xinghua Zhang 等
Does Spatial Cognition Emerge in Frontier Models?
Santhosh K. Ramakrishnan, Erik Wijmans, Philipp Kraehenbuehl 等
Dual coding theory and education
James M. Clark, A. Paivio
Can LLMs See Without Pixels? Benchmarking Spatial Intelligence from Textual Descriptions
Zhongbin Guo, Zhen Yang, Yushan Li 等
MLLM can see? Dynamic Correction Decoding for Hallucination Mitigation
Chenxi Wang, Xiang Chen, Ningyu Zhang 等
Interpreting and Improving Large Language Models in Arithmetic Calculation
Wei Zhang, Chaoqun Wan, Yonggang Zhang 等
Safety Alignment Should Be Made More Than Just A Few Attention Heads
Chao Huang, Zefeng Zhang, Juewei Yue 等
Sparkle: Mastering Basic Spatial Capabilities in Vision Language Models Elicits Generalization to Composite Spatial Reasoning
Yihong Tang, A. Qu, Zhaokai Wang 等
Scaling Laws for Neural Language Models
J. Kaplan, Sam McCandlish, T. Henighan 等