核心发现
方法论
本文提出Entry-Propagation-Recovery（E-P-R）框架，将记忆消耗过程细分为三个阶段：进入（Entry）、传播（Propagation）和恢复（Recovery）。通过在WebArena和MemTrapBench两个测试平台上，控制记忆注入时间和内容，分析模型在多步轨迹中的行为变化。利用特定算法（如对比试验和路径偏差检测）评估记忆对行动的影响，结合模型输出和人类判定，量化记忆引入的偏差和修正能力。该方法强调轨迹层面的动态变化，区别于传统单次检索评估。
关键结果
- 在WebArena中，冲突记忆主要在首次决策点被采纳（Entry阶段），且反复暴露会放大偏差（Propagation），模型难以从偏离路径中恢复（Recovery），形成‘合规陷阱’。强模型虽具更高基础能力，但在冲突记忆下的绝对损失更大（如Qwen3.5-27B的成功率下降25.5个百分点），显示模型越强，偏差越严重。
- 在MemTrapBench中，控制实验验证了冲突记忆的危害性，持久冲突记忆导致模型在任务成功率上显著下降（如Gemini-3-Flash下降26.0个百分点），而有益记忆则带来一致提升（提升约30个百分点），证明机制的普适性。
- 分析显示，模型在面对冲突记忆时，虽然采纳率（Recommendation Compliance Rate）高达65%，但成功修正率极低（仅15%左右），说明偏差一旦形成，模型难以自我纠正，形成‘合规陷阱’。该现象在不同模型和任务中普遍存在，揭示了记忆利用的潜在风险。
研究意义
本研究首次系统性揭示了长远行为中记忆冲突的机制，强调模型在多步决策中对冲突记忆的敏感性，提示未来在设计记忆增强系统时，需关注偏差传播和修正能力。该框架为模型安全、可靠性评估提供了新工具，有助推动智能系统在复杂环境中的稳健应用。研究结果对AI安全、决策解释和人机协作具有深远影响，促使行业重新审视记忆机制的风险管理。
技术贡献
提出E-P-R轨迹诊断框架，细化记忆消耗的三个阶段，为模型行为分析提供量化工具。通过在WebArena和MemTrapBench上的实证验证，揭示冲突记忆的‘合规陷阱’，并分析模型在不同复杂度下的偏差传播机制。技术上，结合模型输出判定、路径偏差检测和统计显著性检验，创新性地将轨迹层面分析引入记忆利用研究，突破传统单点检索评价的局限。该方法为未来多模态、多任务环境中的记忆安全提供理论基础和实用工具。
新颖性
首次系统性提出轨迹层面的记忆消耗分析框架（E-P-R），区别于以往专注于记忆存储和检索的研究。创新性地定义了“合规陷阱”，揭示模型在多步决策中对冲突记忆的依赖机制，强调偏差的累积和难以修正的问题。该研究填补了模型行为在连续轨迹中的动态理解空白，为模型安全和鲁棒性提供新视角。
局限性
- 当前分析主要基于文本记忆和特定任务环境，尚未扩展到多模态或真实世界场景，未来需考虑更复杂的记忆类型和环境因素。
- 模型修正能力的评估依赖人类判定，存在主观偏差，自动化评价机制仍需优化。
- 实验中采用的模型规模和任务复杂度有限，尚未充分验证在大规模或高复杂度环境中的表现。
未来方向
未来将扩展E-P-R框架到多模态环境，结合视觉、声音等多源信息，研究跨模态记忆冲突的影响。同时，探索模型自我修正机制的增强策略，如引入强化学习或元学习，提升偏差修正能力。还将关注模型在真实应用中的安全性评估，开发更鲁棒的记忆管理算法，确保长远决策的可靠性。
AI 总览摘要
随着AI系统在长远任务中的应用日益普及，记忆机制成为关键技术之一。传统研究多关注记忆的存储和检索效率，忽视了模型在多步决策中对冲突记忆的实际利用过程。本文提出了Entry-Propagation-Recovery（E-P-R）框架，系统分析模型在轨迹中的记忆消耗行为。通过在WebArena和MemTrapBench两个平台上的实证，揭示了“合规陷阱”——即模型在首次暴露冲突记忆时易采纳偏差，反复暴露后偏差放大，且难以从偏离路径中恢复。研究发现，越强的模型在偏差上的绝对损失越大，显示偏差传播的严重性。该框架不仅帮助理解模型行为的动态机制，也为未来设计更安全、稳健的记忆系统提供指导。研究强调，评价AI代理的性能时，应考虑其在轨迹中的记忆利用方式，而非仅关注最终成功率。未来工作将结合多模态信息，提升模型在复杂环境中的偏差修正能力，推动AI系统的安全发展。
深度分析
研究背景
近年来，长远任务中的AI代理逐渐成为研究热点，特别是在网页操作、软件交互等场景。早期工作如WebGPT、MemoryBank等，主要关注记忆的存储效率和检索策略，旨在提升模型的记忆容量和响应速度。随着应用复杂度增加，研究逐步转向记忆的内容管理和利用机制，强调模型在多步决策中的行为表现。代表性工作包括Reflexion、ExpeL和RAP等，它们试图通过不同的机制增强模型对过去经验的利用，但大多忽视了记忆在连续轨迹中的实际影响。当前，模型在面对冲突记忆时，容易陷入偏差传播和难以修正的困境，亟需系统性分析其机制。
核心问题
核心问题在于，虽然已有系统能有效存储和检索记忆，但在多步决策中，模型如何消费和利用这些记忆仍不清楚。特别是在面对冲突或错误记忆时，模型可能采纳偏差，导致轨迹偏离目标，形成“合规陷阱”。这一问题严重影响模型的安全性和可靠性。现有评估多集中在最终成功率，缺乏轨迹层面的机制分析，难以识别偏差的起点、传播路径及修正能力。这限制了模型在复杂环境中的应用推广。
核心创新
本文创新性提出E-P-R框架，将记忆利用过程细分为进入（Entry）、传播（Propagation）和恢复（Recovery）三个阶段，系统分析模型在多步轨迹中的行为变化。通过在WebArena和MemTrapBench上进行控制实验，验证了冲突记忆在首次暴露时的高采纳率（RCR达65%），但成功修正率极低（约15%），揭示偏差一旦形成难以逆转。该框架突破了传统单点评估的局限，为理解模型偏差传播提供了理论基础。研究还引入“合规陷阱”概念，强调模型在偏差传播中的脆弱性和风险，为未来设计安全的记忆机制提供指导。
方法详解
- �� 设计E-P-R框架，将记忆消耗过程划分为三个阶段：Entry（是否首次改变行动）、Propagation（偏差是否持续）和Recovery（是否能修正偏差）。
- �� 在WebArena中，通过控制记忆注入时间（早/持续/晚），观察模型在轨迹中的行为变化。
- �� 在MemTrapBench中，构建受控任务，验证偏差的起点和修正能力。
- �� 采用对比试验，比较无记忆、冲突记忆和有益记忆的轨迹差异。
- �� 利用人类判定和模型输出，计算Recommendation Compliance Rate（RCR）和Damage Per Compliance（DPC），量化偏差的采纳和损失。
- �� 统计分析偏差传播的路径和修正概率，识别“合规陷阱”。
实验设计
- �� 使用五个不同规模模型（如Qwen3.5-9B、27B，Gemma-4系列，Gemini-3-Flash）在WebArena和MemTrapBench上进行测试。
- �� 设计多种记忆内容（有益、冲突、跨任务控制），控制注入时间（早/持续/晚）以分析不同阶段的影响。
- �� 采用成功率变化、偏差采纳率（RCR）和修正率（Recovery）作为主要指标。
- �� 进行统计显著性检验（如配对bootstrap、Permutation测试），确保结论的可靠性。
- �� 通过对比不同模型和任务复杂度，验证偏差传播和修正机制的普适性。
结果分析
- �� 冲突记忆在首次暴露（Entry）阶段被采纳率高达65%，但成功修正率极低（约15%），偏差一旦形成，难以逆转。
- �� 持续暴露（Propagation）会放大偏差，导致模型偏离正确轨迹的概率显著增加（如Qwen3.5-27B成功率下降25.5个百分点）。
- �� 在MemTrapBench中，持久冲突记忆导致模型成功率平均下降约20-26个百分点，而有益记忆带来30多个百分点的提升，验证机制的普适性。
- �� 结果表明，模型在面对冲突记忆时，偏差传播迅速且难以修正，越强模型偏差越大，强调偏差的累积风险。
应用场景
- �� 该研究为设计安全、稳健的记忆增强AI系统提供理论基础，适用于长远任务中的自动化决策、交互式助手等场景。
- �� 在实际应用中，可通过监控偏差传播路径，优化记忆管理策略，提升模型在复杂环境中的表现。
- �� 未来可结合多模态信息，增强模型对冲突记忆的识别和修正能力，推动智能系统在医疗、金融等关键领域的应用。
局限与展望
- �� 目前分析主要基于文本记忆和网页操作任务，尚未扩展到多模态环境或真实世界复杂场景。
- �� 模型偏差修正依赖人工判定，自动化评估机制仍需完善。
- �� 实验模型规模有限，未来需验证在大规模、多任务环境中的表现和偏差传播机制。
通俗解读 非专业人士也能看懂
想象你在厨房做饭，手里拿着食谱（记忆），但有时食谱上的建议可能不适合当前的食材（冲突记忆）。你第一次看到食谱时，可能会按照建议做（Entry阶段），但如果你反复使用这个食谱，可能会越走越偏（Propagation），最终发现味道变差（偏差累积）。有时，你还能发现偏差，调整回正确的做法（Recovery），但很多时候偏差会变得根深蒂固，难以扭转。这就像厨师在厨房里不断试错，偏差一旦形成，就很难再回到正轨。研究发现，越是“厉害”的厨师（模型），偏差带来的损失越大，因为他们的偏差更难修正。这提醒我们，设计智能厨师（模型）时，要特别注意偏差的传播和修正机制，否则就会陷入“合规陷阱”，越努力越偏离目标。
简单解释 像给14岁少年讲一样
想象你在玩一款游戏，有时候你会听到朋友告诉你怎么走（记忆），但有时候他们的建议其实不适合你当前的情况（冲突记忆）。刚开始，你可能会相信他们（Entry阶段），但如果你一直听他们的话，可能会越走越偏（Propagation），最后迷路了（偏差难以修正）。有时候，你还能自己发现走错了，重新找回正确路线（Recovery），但很多时候偏差会变得很难扭转。这就像你在迷宫里不断试错，偏离了正确路径后，很难再回到起点。研究发现，越厉害的玩家（模型），偏差带来的损失越大，因为他们的偏差更难修正。这告诉我们，要让AI更聪明，就得学会在偏差出现时及时修正，否则就会陷入“合规陷阱”，偏离目标越来越远。
原文摘要
Memory is becoming a core component of long-horizon AI agents, allowing agents to reuse past experience when operating web browsers, software tools, and other interactive environments. Existing work mostly treats memory as a supply problem, asking what experience to write, how to store it, and which entry to retrieve for the next task. Yet we still lack a clear account of how models consume retrieved memory across a multi-step action trajectory. This consumption process matters because it determines not only what memories should be retrieved, but also what models and control policies are needed to use them safely. To diagnose this process, we propose Entry--Propagation--Recovery (E-P-R), a trajectory-level framework that asks where memory first changes an action, whether that change carries forward, and whether the agent can recover after leaving a correct path. We instantiate E-P-R on WebArena and on MemTrapBench, a controlled benchmark we build to isolate these phases. We find that the main failure often begins at entry: agents adopt conflicting memory at the first exposed decision point even when it is task-wrong. Repeated exposure then amplifies this early error, while recovery after divergence is weak. Together, these effects create a compliance trap: across models, conflicting memory induces similar compliance rates, but once agents comply, their success rates collapse to a low floor. Stronger agents therefore suffer larger absolute damage because each compliance event erases more baseline capability. These results suggest that memory-augmented agents should be evaluated not only by retrieval quality or final success rate, but by how they consume memory throughout the trajectory.