核心发现
方法论
该研究提出了一种失效合约协议层，附加版本戳和缓存提示于每个恢复建议，使客户端能够在不进行试错的情况下清除过期条目。协议将实现的节约分解为有效性和合规性两个独立因素。有效性仅依赖于协议，而合规性则依赖于规划模型。
关键结果
- 在七个模型中，行级失效将合规性提高了0到66.7个百分点，恢复了29-33%的基线代币成本。
- 表级失效在五个模型中将漂移后的首次尝试率降至0%。
- 在行级Oracle下，每个模型的逐行精确度为1.00。
研究意义
该研究通过引入失效合约，有效解决了缓存恢复建议在数据漂移后失效的问题。通过将缓存控制语义应用于恢复建议，显著提高了缓存的有效性和合规性，减少了不必要的API调用和代币消耗。
技术贡献
技术贡献包括提出了失效合约协议层，提供了六个协议级别，从简单的版本戳到依赖向量比较，并在多个模型和服务路径中进行了评估，证明了协议的有效性和合规性。
新颖性
该研究首次将缓存控制语义应用于API恢复建议，提供了一个系统化的方法来处理数据漂移对缓存的影响，与现有方法相比，显著提高了缓存的有效性和合规性。
局限性
- 协议增加了15%的响应负载，可能影响系统性能。
- 表级失效可能导致共址条目的破坏。
未来方向
未来工作可以探索更精细的失效策略和更高效的协议实现，以进一步提高缓存的有效性和合规性。
AI 总览摘要
在现代API环境中，数据漂移常常导致缓存恢复建议失效，增加了不必要的API调用和代币消耗。现有的解决方案通常需要在每个会话中重新推导，无法有效利用缓存的优势。
本文提出了一种失效合约协议层，通过附加版本戳和缓存提示，使客户端能够在不进行试错的情况下清除过期条目。该协议将实现的节约分解为有效性和合规性两个独立因素，并在多个模型和服务路径中进行了评估。
实验结果表明，行级失效将合规性提高了0到66.7个百分点，恢复了29-33%的基线代币成本，而表级失效在五个模型中将漂移后的首次尝试率降至0%。该研究为API恢复建议的缓存控制提供了一个系统化的方法，显著提高了缓存的有效性和合规性。
深度分析
研究背景
随着大规模语言模型（LLM）代理的广泛应用，跨集记忆成为提高API调用效率的重要手段。然而，服务器端的数据漂移常常导致缓存恢复建议失效，增加了不必要的API调用和代币消耗。现有的解决方案通常需要在每个会话中重新推导，无法有效利用缓存的优势。
核心问题
核心问题在于如何在数据漂移的情况下有效管理缓存的恢复建议。现有方法缺乏对缓存建议有效性的系统化管理，导致缓存失效后需要重新推导，增加了系统负担。
核心创新
本文提出了一种失效合约协议层，通过附加版本戳和缓存提示，使客户端能够在不进行试错的情况下清除过期条目。该协议将实现的节约分解为有效性和合规性两个独立因素，并在多个模型和服务路径中进行了评估。
方法详解
- �� 引入失效合约协议层，附加版本戳和缓存提示于每个恢复建议。
- �� 将实现的节约分解为有效性和合规性两个独立因素。
- �� 在七个模型、三个服务路径和两个领域中进行评估。
实验设计
实验设计包括七个模型、三个服务路径和两个领域，总计约9400个会话。通过比较不同协议级别的有效性和合规性，评估失效合约的性能。
结果分析
实验结果表明，行级失效将合规性提高了0到66.7个百分点，恢复了29-33%的基线代币成本，而表级失效在五个模型中将漂移后的首次尝试率降至0%。
应用场景
该研究的应用场景包括任何需要高效管理API调用的系统，特别是在数据频繁变化的环境中。通过提高缓存的有效性和合规性，可以显著减少不必要的API调用和代币消耗。
局限与展望
尽管失效合约显著提高了缓存的有效性和合规性，但协议增加了15%的响应负载，可能影响系统性能。此外，表级失效可能导致共址条目的破坏。
通俗解读 非专业人士也能看懂
想象一个图书馆，书架上有很多书，每本书都有一个标签，标明它的版本。当图书馆更新某本书时，它会更换标签。失效合约就像是图书馆的管理员，确保每次有人借书时，借到的都是最新版本。这样，读者就不需要每次都检查书的内容是否过时，只需看标签即可。这种方法不仅节省了时间，还提高了图书馆的效率。
简单解释 像给14岁少年讲一样
想象你在玩一个大型多人在线游戏。每次你完成任务后，游戏会给你一些提示，告诉你下次可以怎么做得更好。但有时候，游戏更新了，这些提示就不再有效。失效合约就像是游戏中的一个智能助手，它会在游戏更新时自动更新你的提示，让你总是能用最新的信息来玩游戏。这样，你就不需要每次都重新探索，而是能更快地完成任务！
术语表
失效合约 (Invalidation Contract)
一种协议层，附加版本戳和缓存提示于每个恢复建议，以管理缓存的有效性。
用于提高缓存恢复建议在数据漂移后的有效性。
版本戳 (Version Stamp)
一个标识符，用于标记缓存建议的版本，以便在数据更新时进行失效处理。
附加于每个恢复建议，以帮助客户端清除过期条目。
缓存提示 (Cache Hint)
一个指示缓存建议是否可缓存的标志，用于指导客户端的缓存策略。
帮助客户端决定是否保留或清除缓存建议。
数据漂移 (Data Drift)
指服务器端数据的变化，可能导致缓存建议失效。
是导致缓存失效的主要原因之一。
合规性 (Compliance)
指缓存建议在首次尝试时被规划模型应用的比例。
依赖于规划模型和协议级别。
开放问题 这项研究留下的未解疑问
- 1 如何在不增加系统负担的情况下进一步提高协议的有效性和合规性？
- 2 在不同领域和应用场景中，失效合约的表现如何？
应用场景
近期应用
API调用优化
通过提高缓存的有效性和合规性，减少不必要的API调用和代币消耗。
远期愿景
智能缓存管理
开发更智能的缓存管理系统，自动适应数据变化，提高系统效率。
原文摘要
LLM agents that cache recovery suggestions from API errors can skip re-derivation in later episodes, spending fewer tokens and fewer model calls on constraints they have already learned. Server-side data drift turns those cached fixes into silent failures, and the usual remedy, re-deriving on every episode, gives the savings back. We introduce invalidation contracts, a protocol layer that attaches version stamps and cacheability hints to every recovery suggestion so the client can evict stale entries without trial and error, and keep the rest. The contract decomposes realized savings into two independent factors: validity, the fraction of cached suggestions that remain correct after a drift event, and compliance, the fraction the planner applies on the first attempt. Validity depends only on the protocol and is vendor-independent. Compliance depends on the planner model: identical wire bytes yield 100% first-try compliance on Claude Haiku 4.5 and 11% or below on Claude Sonnet 5, which exhibits input-schema conservatism, refusing fixes that add fields the original request did not contain. We evaluate across seven models, three serving paths, two domains, and approximately 9,400 episodes. Row-level invalidation raises compliance by 0 to 66.7 percentage points across the seven models, 55.6 to 66.7 on three, and recovers 29-33% of baseline token cost on four of seven models, while table-level invalidation destroys co-located entries and drops post-drift first-try rates to 0% on five of seven. Eviction precision is 1.00 at row granularity on every model under the row-level oracle of Section 4.1. The contract adds 15% to response payload. Version-stamp validity is deterministic by construction and produced identical results across every model and serving path, with zero contract failures in the entire evaluation.