Agent-ScanKit: Unraveling Memory and Reasoning of Multimodal Agents via Sensitivity Perturbations
Agent-ScanKit通过敏感性扰动揭示多模态代理的记忆与推理能力，发现记忆往往超过推理。
核心发现
方法论
本文提出Agent-ScanKit，通过视觉、文本和结构三种正交探测范式，系统评估多模态代理的记忆与推理能力。每种范式通过不同的扰动手段量化记忆与推理的贡献，无需访问模型内部。
关键结果
- 在五个GUI基准上，18个多模态代理的实验结果显示，机械记忆往往超过系统性推理，模型主要作为训练对齐知识的检索器。
- RL结合链式思维机制在语言模态上表现出一定的推理能力，但整体推理能力仍有限。
- 在长程任务或跨平台场景中，模型性能显著下降，表明当前模型的泛化能力有限。
研究意义
研究揭示了多模态代理在真实场景中需要更强的推理建模能力，以提高其可靠性。通过Agent-ScanKit的探测框架，研究者可以更好地理解多模态代理的内在机制，从而推动更可靠的多模态代理的开发。
技术贡献
Agent-ScanKit提供了一种系统的探测工具包，能够在不访问模型内部的情况下，量化多模态代理的记忆与推理能力。这一工具包在视觉、文本和结构维度上提供了统一的分析。
新颖性
这是首次通过敏感性扰动系统地探测多模态代理的记忆与推理能力，提供了一种无需访问模型内部的量化评估方法。
局限性
- 模型在处理复杂或域外任务时表现不佳，主要依赖于训练对齐的知识。
- 探测框架虽然揭示了记忆与推理的贡献，但未能提供改进模型的方法。
未来方向
未来研究可以探索如何增强多模态代理的推理能力，特别是在复杂任务和跨平台场景中的表现。
AI 总览摘要
在多模态大语言模型的推动下，构建多模态代理变得更加简单，特别是在图形用户界面（GUI）中。然而，现有的多模态代理在面对复杂或域外任务时仍表现出可靠性不足的问题。针对这一挑战，本文提出了Agent-ScanKit，一个系统的探测框架，通过敏感性扰动揭示多模态代理的记忆与推理能力。
Agent-ScanKit引入了三种正交探测范式：视觉引导、文本引导和结构引导。每种范式通过不同的扰动手段量化记忆与推理的贡献，无需访问模型内部。实验结果表明，机械记忆往往超过系统性推理，模型主要作为训练对齐知识的检索器，表现出有限的泛化能力。
研究揭示了多模态代理在真实场景中需要更强的推理建模能力，以提高其可靠性。通过Agent-ScanKit的探测框架，研究者可以更好地理解多模态代理的内在机制，从而推动更可靠的多模态代理的开发。未来的研究方向包括增强多模态代理的推理能力，特别是在复杂任务和跨平台场景中的表现。
深度分析
研究背景
多模态大语言模型（MLLMs）的发展使得在图形用户界面（GUI）中构建多模态代理变得更加简单。这些代理承诺在移动和桌面设备上实现广泛的任务自动化。然而，现有的多模态代理在面对复杂或域外任务时表现出可靠性不足的问题。相关研究表明，LLMs的所谓“推理”能力往往归结为复杂的模式匹配或甚至是训练数据的死记硬背。
核心问题
现有多模态代理在复杂或域外任务中表现不佳，主要依赖于训练对齐的知识，缺乏真正的推理能力。这种现象导致了在长程任务或跨平台场景中的性能显著下降，表明当前模型的泛化能力有限。
核心创新
本文提出了Agent-ScanKit，一个系统的探测框架，通过敏感性扰动揭示多模态代理的记忆与推理能力。引入了三种正交探测范式：视觉引导、文本引导和结构引导，每种范式通过不同的扰动手段量化记忆与推理的贡献。
方法详解
- �� 视觉引导：通过对象遮挡和编辑测试模型是否依赖记忆，使用缩放策略量化在局部视觉变化下的推理能力。
- �� 文本引导：采用原子指令掩码和替换，探测文本模态中的记忆与推理。
- �� 结构引导：探测特定状态和反射动作是记忆捷径还是反射引起的推理。
实验设计
在五个公开的GUI基准上对18个多模态代理进行评估，结果显示现有多模态代理在三种探测策略中表现出过度记忆。具体而言，这些代理倾向于构建复杂且脆弱的输入输出映射，更多地作为训练对齐知识的检索器，而非真正的推理者。
结果分析
实验结果表明，机械记忆往往超过系统性推理，模型主要作为训练对齐知识的检索器，表现出有限的泛化能力。RL结合链式思维机制在语言模态上表现出一定的推理能力，但整体推理能力仍有限。
应用场景
研究揭示了多模态代理在真实场景中需要更强的推理建模能力，以提高其可靠性。通过Agent-ScanKit的探测框架，研究者可以更好地理解多模态代理的内在机制，从而推动更可靠的多模态代理的开发。
局限与展望
模型在处理复杂或域外任务时表现不佳，主要依赖于训练对齐的知识。探测框架虽然揭示了记忆与推理的贡献，但未能提供改进模型的方法。
通俗解读 非专业人士也能看懂
想象你在厨房里做饭。多模态代理就像一个厨师助手，它能帮你找到食材（记忆）和决定下一步怎么做（推理）。但问题是，这个助手有时候只是记住了食谱，而不是理解如何根据情况调整。Agent-ScanKit就像一个测试工具，能通过改变食材的位置或给出不同的指令，来检查这个助手到底是靠记忆还是靠真正的理解来做决定的。
简单解释 像给14岁少年讲一样
想象你在玩一个手机游戏，你的角色需要在一个复杂的迷宫里找到出口。多模态代理就像是游戏里的助手，它能帮你记住路径（记忆）和决定下一步怎么走（推理）。但有时候，这个助手只是记住了地图，而不是理解如何根据新的情况调整路线。Agent-ScanKit就像是一个测试工具，通过改变迷宫的布局或给出不同的任务，来检查这个助手到底是靠记忆还是靠真正的理解来做决定的。
术语表
多模态代理
能够处理多种形式输入（如视觉和文本）的智能代理。
在GUI任务中用于自动化操作。
敏感性扰动
通过改变输入条件来测试模型的反应。
用于评估多模态代理的记忆与推理能力。
记忆
模型对训练数据的存储和检索能力。
在探测中用于评估模型是否依赖于训练对齐的知识。
推理
模型根据输入信息进行逻辑判断和决策的能力。
在探测中用于评估模型的真正理解能力。
链式思维
一种推理机制，通过逐步解释来得出结论。
在RL结合链式思维机制中用于增强推理能力。
开放问题 这项研究留下的未解疑问
- 1 如何增强多模态代理在复杂任务中的推理能力？现有方法主要依赖于记忆，缺乏真正的推理。
- 2 如何在不访问模型内部的情况下改进多模态代理的性能？
应用场景
近期应用
自动化GUI任务
多模态代理可以用于自动化移动和桌面设备上的任务，提高效率。
远期愿景
智能助手
未来的智能助手可以更好地理解用户需求，并在复杂场景中做出合理决策。
原文摘要
Although numerous strategies have recently been proposed to enhance the autonomous interaction capabilities of multimodal agents in graphical user interface (GUI), their reliability remains limited when faced with complex or out-of-domain tasks. This raises a fundamental question: Are existing multimodal agents reasoning spuriously? In this paper, we propose \textbf{Agent-ScanKit}, a systematic probing framework to unravel the memory and reasoning capabilities of multimodal agents under controlled perturbations. Specifically, we introduce three orthogonal probing paradigms: visual-guided, text-guided, and structure-guided, each designed to quantify the contributions of memorization and reasoning without requiring access to model internals. In five publicly available GUI benchmarks involving 18 multimodal agents, the results demonstrate that mechanical memorization often outweighs systematic reasoning. Most of the models function predominantly as retrievers of training-aligned knowledge, exhibiting limited generalization. Our findings underscore the necessity of robust reasoning modeling for multimodal agents in real-world scenarios, offering valuable insights toward the development of reliable multimodal agents.