RAMPART: Registry-based Agentic Memory with Priority-Aware Runtime Transformation

TL;DR

RAMPART通过优先级感知的运行时转换优化LLM代理的内存模型,提升任务成功率。

cs.CL 🔴 高级 2026-06-03 3 次浏览
Nikodem Tomczak
内存模型 LLM 编译时 任务成功率 优先级感知

核心发现

方法论

RAMPART是一个基于注册表的内存模型,使用五个可组合的原语(提升、门控、写入、驱逐、回滚)在编译前操作命名的可寻址块。通过优先级感知的上下文编译,控制块的绝对位置和任务查询的结构关系。

关键结果

  • 在Qwen3-8B Q4上的实验显示,任务成功率在第七块位置后急剧下降,块分组提升成功率。
  • 跨模型复制显示内容引导效应在不同模型中出现,块分组在Mistral模型中提升成功率五倍。
  • 相关性门控降低提示成本67.8%,恢复83%的成功率。

研究意义

RAMPART通过在编译时控制内存块的位置和顺序,显著提高了LLM代理的任务成功率。这种方法解决了传统内存模型中存在的上下文组装问题,减少了提示成本,并在多模型环境中显示出一致的性能提升。

技术贡献

RAMPART提供了一种新的内存模型,允许在编译时对内存块进行精细控制。其优先级感知的上下文编译和块分组策略在多个模型中验证了其有效性,提供了新的工程可能性。

新颖性

RAMPART首次将内存块的绝对位置和任务查询的结构关系作为可编程变量,显著提高了任务成功率,与现有方法相比具有独特的创新性。

局限性

  • RAMPART在处理非常大的注册表时可能面临性能瓶颈。
  • 需要在不同模型和任务上进一步验证其通用性。

未来方向

未来研究可以探索RAMPART在更大规模模型和多任务环境中的应用,以及优化其在不同硬件上的性能。

AI 总览摘要

RAMPART提出了一种新的基于注册表的内存模型,通过优先级感知的运行时转换优化LLM代理的任务成功率。传统的内存模型在上下文组装时存在固定顺序和内容的问题,导致任务成功率下降。RAMPART通过五个可组合的原语(提升、门控、写入、驱逐、回滚)在编译前操作命名的可寻址块,实现了优先级感知的上下文编译。

实验结果显示,RAMPART在Qwen3-8B Q4上显著提高了任务成功率,尤其是在块分组策略下,成功率提升了数十个百分点。跨模型复制验证了其在不同模型中的一致性,块分组在Mistral模型中提升成功率五倍。相关性门控降低提示成本67.8%,恢复83%的成功率。

RAMPART的创新之处在于首次将内存块的绝对位置和任务查询的结构关系作为可编程变量,提供了新的工程可能性。然而,其在处理非常大的注册表时可能面临性能瓶颈,未来研究可以探索其在更大规模模型和多任务环境中的应用。

深度分析

研究背景

随着LLM在各种任务中的应用,内存模型的优化成为关键。传统的内存模型在上下文组装时存在固定顺序和内容的问题,导致任务成功率下降。RAMPART通过优先级感知的运行时转换,提供了一种新的内存管理方式。

核心问题

传统内存模型在上下文组装时存在固定顺序和内容的问题,导致任务成功率下降。如何在编译时优化内存块的位置和顺序是一个重要的研究问题。

核心创新

RAMPART通过五个可组合的原语(提升、门控、写入、驱逐、回滚)在编译前操作命名的可寻址块,实现了优先级感知的上下文编译。其创新之处在于首次将内存块的绝对位置和任务查询的结构关系作为可编程变量。

方法详解

  • �� 使用五个可组合的原语操作内存块。
  • �� 优先级感知的上下文编译控制内存块的位置和顺序。
  • �� 通过块分组策略提升任务成功率。

实验设计

实验在Qwen3-8B Q4上进行,测试了不同内存块位置和顺序对任务成功率的影响。跨模型复制验证了其在不同模型中的一致性。

结果分析

RAMPART在Qwen3-8B Q4上显著提高了任务成功率,尤其是在块分组策略下,成功率提升了数十个百分点。跨模型复制验证了其在不同模型中的一致性。

应用场景

RAMPART可用于优化LLM代理的内存管理,提高任务成功率,降低提示成本,适用于各种需要高效内存管理的任务。

局限与展望

RAMPART在处理非常大的注册表时可能面临性能瓶颈,未来研究可以探索其在更大规模模型和多任务环境中的应用。

通俗解读 非专业人士也能看懂

想象一个厨房,RAMPART就像一个聪明的厨师助手,帮助厨师在做菜前准备好所有需要的食材和工具。传统的助手可能会把所有食材一次性放在桌上,但RAMPART会根据菜谱的优先级,把最重要的食材放在厨师最容易拿到的地方。这样,厨师可以更快更好地完成每道菜。RAMPART通过这种方式优化了整个烹饪过程,减少了不必要的浪费和时间。

简单解释 像给14岁少年讲一样

嘿,小伙伴!想象一下你在玩一个需要快速反应的游戏。RAMPART就像你的超级助手,帮你在游戏开始前把所有需要的道具都准备好。传统的助手可能会把所有道具一次性丢给你,但RAMPART会根据游戏的优先级,把最重要的道具放在你最容易拿到的地方。这样,你可以更快更好地赢得比赛!是不是很酷?

术语表

RAMPART

一种基于注册表的内存模型,优化LLM代理的任务成功率。

用于控制内存块的位置和顺序。

优先级感知

根据任务的重要性调整内存块的位置。

在RAMPART中用于优化上下文编译。

块分组

将相关内存块组合在一起以提升任务成功率。

在实验中验证了其有效性。

相关性门控

通过过滤不相关内容降低提示成本。

在RAMPART中用于优化内存管理。

编译时

在任务执行前对内存块进行优化的时机。

RAMPART通过编译时优化内存块。

开放问题 这项研究留下的未解疑问

  • 1 如何在更大规模模型中优化RAMPART的性能?
  • 2 RAMPART在多任务环境中的表现如何?

应用场景

近期应用

LLM代理优化

RAMPART可用于优化LLM代理的内存管理,提高任务成功率。

远期愿景

智能系统

RAMPART的技术可应用于更广泛的智能系统,提高其效率和性能。

原文摘要

RAMPART is a compile-time memory model and pure in-RAM block registry for LLM-based agents. Context assembly is a programmable runtime operation where content is compiled from a structured registry under explicit policy for ordering, inclusion, and eviction. Five composable primitives (promote, gate, write, evict, rollback) act on named addressable blocks before compilation at zero prompt-token cost. Provenance tags and non-evictable authorship flags implement a permissioned memory model with block-level ownership. Controlled probes with Qwen3-8B Q4 show that compile-time placement and the structural relationship between blocks and the task query affect task success, with the cliff falling at roughly the seventh block position when the task follows the registry and the twelfth when it precedes. Grouping the critical block with content-adjacent neighbours and promoting the group as a unit lifts task success by tens of percentage points at positions where single-block placement fails. Cross-model replication on Qwen2.5-7B, Llama-3.1-8B, Mistral-7B-v0.3, and Qwen3-14B shows the content-priming effect appears at the same absolute positions across families, with magnitude varying with model strength. Block grouping raises Mistral's mean pass rate roughly fivefold at the hardest registry size, and a smaller model with the intervention can outperform a larger model without it in the mid-registry zone. Relevance gating reduces prompt cost by 67.8\% while recovering 83% of the promoted-condition success rate. Schema eviction produces 0% invocations against 100% with the schema present, a property policy-based approaches cannot guarantee by construction. Shared-registry coordination reduces inter-agent communication to a method call at zero coordination token cost.

cs.CL cs.MA