Agent Memory: Characterization and System Implications of Stateful Long-Horizon Workloads
提出长时记忆系统分类，分析10个代表系统的系统行为，提供10条系统优化建议。
核心发现
方法论
本文采用系统导向的分类法，将代理记忆系统沿构建、存储、检索和可变性四个维度进行分类。通过构建阶段的成本分析、性能剖析工具，结合两套基准测试（MemoryAgentBench和MemoryArena），对10个代表系统进行系统性能评估。利用阶段感知的性能剖面工具，量化每个系统在构建、检索和生成阶段的资源消耗，揭示不同设计选择对系统成本的影响。实验涵盖远程与本地模型部署，结合GPU能耗和延迟监控，分析系统在不同场景下的表现差异。
关键结果
- 系统分类揭示，基于构建机制和存储组织的不同，成本差异可达两个数量级。例如，Mem0在构建阶段耗时最长达13.3小时，但查询延迟最低，仅0.1秒；而A-Mem在构建上耗时较短，但查询延迟高达38秒。不同系统在存储结构上，从倒排索引到知识图谱，成本分布差异显著。实验还发现，系统设计在写入、检索和维护策略上对整体性能影响巨大，优化空间巨大。
- 在多任务长远任务场景中，外部记忆系统显著优于纯长上下文窗口，平均查询延迟降低至0.1秒以下，准确率保持在36%-47%。系统在构建成本上差异明显，某些系统在构建上耗费数小时，但查询成本极低，反之亦然。能耗分析显示，构建阶段能耗占比超过70%，提示未来优化应重点关注构建效率。
- 系统设计选择影响存储容量、带宽利用率和响应延迟。通过系统剖析，提出10条优化建议，包括调度策略、能力门槛、查询量平摊、数据新鲜度与延迟权衡，以及大规模部署的管理策略。这些建议为未来大规模代理系统的工程实现提供了指导。
研究意义
本研究首次系统性分析了长时代理记忆系统的系统行为，为大规模长远任务中的系统设计提供理论基础和实践指南。通过揭示不同设计在成本、性能和能耗上的差异，推动了代理系统的可扩展性和效率提升。研究成果有助于解决多任务、多会话环境下的存储瓶颈，推动智能代理在企业、科研和日常生活中的广泛应用，具有重要的学术和工业价值。
技术贡献
本文提出了基于构建、存储、检索和可变性四个维度的系统分类法，系统性剖析了10个代表性系统的性能特征。开发了阶段感知的性能剖面工具，量化不同系统在不同阶段的资源消耗。结合两套基准测试，系统评估了多种设计方案的成本结构，提出了10条系统优化建议，丰富了代理记忆系统的工程理论体系。创新在于将系统行为与成本紧密结合，为未来大规模部署提供了系统性指导。
新颖性
本研究首次系统性地将代理记忆系统进行分类，并结合性能剖面工具，全面分析其系统行为。不同于以往仅关注准确率或单一性能指标，本文强调系统级的成本和效率，揭示设计选择对系统性能的深远影响。提出的分类法和性能剖面工具，为后续系统优化提供了理论基础，具有较强的创新性。
局限性
- 当前分析主要基于模拟环境和有限的硬件平台，实际部署中可能受到硬件差异和网络延迟影响。系统的维护策略和长时间运行的稳定性未充分验证，未来需在真实场景中进行长周期测试。
- 构建阶段的能耗和时间成本虽被详细分析，但在大规模部署中，调度和资源管理的复杂性未充分考虑，实际应用可能面临调度瓶颈。
- 系统在多任务、多用户环境下的性能表现尚未全面评估，未来需结合多用户调度和动态负载管理进行优化。
未来方向
未来将深入研究多任务、多用户环境下的系统调度策略，优化构建和维护的能耗与时间成本。探索自适应存储组织和检索策略，以应对不断增长的存储需求。结合硬件加速技术，提升系统的响应速度和能效。推动系统在真实场景中的大规模部署，验证其稳定性和扩展性，为智能代理的普及奠定基础。
AI 总览摘要
随着大规模预训练模型（如GPT-4）在智能代理中的广泛应用，长远任务中的记忆管理成为关键瓶颈。传统的长上下文窗口虽能存储全部交互历史，但在多会话、多任务环境中，成本高昂且性能逐渐退化。为此，本文提出了一套系统分类框架，将代理记忆系统沿构建、存储、检索和可变性四个维度进行划分，涵盖十个代表性系统。通过构建阶段的性能剖面工具，详细分析了不同系统在硬件资源、能耗和延迟上的表现差异。实验结果显示，某些系统在构建上耗时长达13小时，但查询延迟仅0.1秒，而其他系统则在构建上成本较低，却在查询时表现出更高的延迟。研究还发现，外部记忆系统在多任务环境中显著优于纯长上下文窗口，能有效降低响应延迟，提升准确率。基于这些分析，本文提出了10条系统优化建议，包括调度策略、存储管理和系统规模化方案，为未来大规模智能代理系统的设计提供了理论指导。这些成果不仅丰富了代理记忆的系统理论，也为工业界实现高效、可扩展的智能系统提供了实践路径。未来，研究将聚焦于多任务调度、能耗优化和硬件加速，以推动智能代理在复杂环境中的应用落地。
深度分析
研究背景
近年来，大规模预训练模型（如GPT系列）在自然语言处理中的突破推动了智能代理的发展。早期系统多采用参数存储知识，随着RAG（检索增强生成）技术的出现，知识存储从静态文档转向动态交互流。长远任务要求模型持续存储、检索和更新状态，面临存储容量、检索效率和系统延迟的挑战。现有研究多关注模型性能，缺乏系统层面的行为分析。随着多任务、多会话场景的兴起，系统设计的复杂性不断增加，亟需系统性分析框架指导优化。
核心问题
长远任务中，存储全部交互历史的成本过高，且随着历史增长，检索和推理的效率逐渐下降。传统长上下文窗口受限于最大长度，难以满足多会话、多任务的需求。外部记忆系统虽能缓解此问题，但设计复杂，成本分布不均，缺乏系统性理解。如何在保证性能的同时，优化存储、检索和维护策略，成为亟待解决的核心问题。
核心创新
本文提出了基于系统导向的分类法，将代理记忆系统沿构建、存储、检索和可变性四个维度划分，涵盖10个代表系统。引入阶段感知的性能剖面工具，量化不同系统在硬件资源、能耗和延迟上的表现差异。结合两套基准测试，系统性分析了不同设计选择的成本结构，提出了10条系统优化建议，推动系统工程的理论发展。创新点在于将系统行为与成本紧密结合，为大规模部署提供科学依据。
方法详解
- �� 设计系统分类框架，依据构建、存储、检索、可变性四个维度划分代理记忆系统。• 开发阶段感知性能剖面工具，监测GPU能耗、延迟、调用次数等指标。• 采用MemoryAgentBench和MemoryArena两套基准，评估10个代表系统的性能表现。• 分析不同系统在构建时间、查询延迟、存储容量和能耗上的差异。• 结合硬件监控，评估系统在远程与本地部署环境中的表现。• 提取系统设计中的关键参数，归纳成本与性能的关系。• 提出优化建议，涵盖调度、存储、检索和维护策略。
实验设计
实验采用MemoryAgentBench中的长远任务场景，涵盖多任务、多会话的交互流。对比10个系统在构建时间、查询延迟、准确率和能耗上的表现。使用GPU能耗监控工具，分析不同系统在不同阶段的能耗分布。通过调节存储结构和检索策略，评估系统在不同负载下的扩展性和稳定性。实验还包括系统的 ablation 研究，验证各个设计选择对性能的影响。所有系统在相同硬件环境下测试，确保结果的可比性。
结果分析
系统分类揭示，构建机制和存储组织差异导致成本差异巨大。Mem0在构建上耗时最长达13小时，但查询延迟仅0.1秒；而A-Mem在构建上耗时较短，但查询延迟高达38秒。外部记忆系统在多任务场景中表现优异，平均查询延迟低于0.2秒，准确率在36%-47%之间。能耗分析显示，构建阶段能耗占比超过70%，提示优化空间巨大。系统设计在存储容量、带宽利用和响应速度上差异显著，提出10条优化建议以实现高效部署。
应用场景
这些系统可广泛应用于企业智能助手、科研信息整合、长周期项目管理等场景。实现高效存储和检索，提升多轮对话、知识管理和推理能力。未来，结合硬件加速和智能调度，将推动智能系统在实际生产和生活中的落地，满足复杂任务的持续性需求。
局限与展望
当前分析主要基于模拟环境，实际部署中可能受到硬件差异和网络延迟影响。系统维护策略和长时间运行的稳定性未充分验证，未来需在真实场景中进行长周期测试。构建阶段能耗高，调度复杂，需优化调度策略以适应大规模部署。多用户环境下的性能表现和系统扩展性仍待验证，未来需结合多任务调度和动态负载管理进行优化。
通俗解读 非专业人士也能看懂
想象你有一个超级大书架，里面装满了你所有的照片、笔记和故事。每次你想找某个照片或回忆，都可以从书架上快速找到。以前，你只能把所有东西都记在脑子里，但随着时间变长，脑子变得太满，找东西就变慢了。于是，你决定用一个电子书架，把重要的照片和笔记存进去，随时可以查找。这个电子书架可以帮你整理、更新，还能根据需要把内容变得更清晰。这样，不管你记得的事情有多长、多复杂，都能快速找到答案。这个系统就像我们研究的代理记忆一样，把信息存储在外面，随时调取，变得更聪明、更高效。
简单解释 像给14岁少年讲一样
你知道吗，就像你在学校用笔记本记课本内容一样，电脑也需要记住很多信息。有时候，信息太多，记在脑子里就会乱，找起来也慢。于是，科学家们设计了一种“电子记忆系统”，就像一个超级大笔记本，把重要的事情都存进去。每次需要用的时候，它可以帮你快速找到答案。这个系统还可以自己整理、更新内容，就像你把旧笔记整理成新笔记一样。研究发现，有些系统花了很长时间整理内容，但查找速度特别快；有些系统花时间少，但查找慢。通过不断优化这些方法，我们可以让电脑变得更聪明，帮我们更快解决问题。未来，这些技术还能帮企业、学校和我们的日常生活变得更方便、更智能！
术语表
Agent Memory (代理记忆)
指在人工智能系统中，用于存储、检索和更新交互信息的外部存储机制，支持长时任务的持续推理。
本文将代理记忆系统划分为不同设计范式，分析其系统行为和成本结构。
Retrieval-Augmented Generation (检索增强生成)
一种结合外部知识检索与生成模型的技术，通过检索相关信息提升生成内容的准确性和丰富性。
RAG技术在长远任务中被用作外部存储的核心机制。
Phase-aware profiling (阶段感知性能剖面)
一种监测系统在不同运行阶段（构建、检索、生成）资源消耗和性能的分析工具。
本文开发了此工具，用于量化系统在各阶段的成本差异。
Long-horizon workloads (长远任务负载)
涉及持续、多轮、多任务交互的系统负载，要求存储和处理大量历史信息。
研究分析了不同记忆系统在此类负载下的表现。
开放问题 这项研究留下的未解疑问
- 1 如何在大规模多用户环境中，动态调度和维护代理记忆系统以保证性能和稳定性仍未完全解决，未来需结合多任务调度和负载管理技术。
- 2 现有系统多在模拟环境中验证，实际应用中的长时间运行稳定性和维护策略仍需深入研究，特别是在复杂场景下的能耗和成本控制。
- 3 如何结合硬件加速（如专用存储芯片）进一步降低构建和检索的能耗，提升系统响应速度，是未来的重要研究方向。
应用场景
近期应用
企业智能助手
利用代理记忆系统实现多轮对话、知识管理和任务追踪，提升客户服务效率和个性化体验。
科研信息整合
帮助科研人员存储、检索长时间的研究资料和实验数据，支持复杂推理和证据合成。
远期愿景
智能化长周期系统
实现持续学习和自我维护的智能系统，能在复杂环境中长时间自主运行，推动自动化和智能化革命。
原文摘要
LLM agents are increasingly deployed on long-horizon tasks requiring sustained reasoning over extended interaction histories. Realizing this at scale requires agents to persistently store, retrieve, and update their own memory across sessions. A rich ecosystem of agent memory systems has emerged spanning flat retrieval, LLM-mediated extraction, consolidating fact stores, and agentic control flows. Yet, their system-level behavior remains uncharacterized. We present the first systems characterization of agent memory. First, we introduce a system-oriented taxonomy classifying agent memory systems along four axes. Second, we build a phase-aware profiling harness attributing cost to construction, retrieval, and generation. Third, we characterize ten representative systems across two benchmark suites, uncovering how design choices shift cost across the write and read paths. Finally, we derive 10 system recommendations covering construction scheduling, capability floors, amortization via query volume, freshness-latency tradeoffs, and fleet-scale management.