核心发现
方法论
本文将持续预训练视为一种自适应复习调度问题，借鉴认知科学中的间隔重复（spaced repetition）原理，设计了基于SuperMemo-2（SM-2）算法的样本级调度框架。每个训练样本维护个体的复习状态，包括易因子、连续成功次数、间隔和到期时间。通过将模型在当前参数下的困惑度转换为回忆质量信号，动态调整样本的复习间隔，实现对历史样本的有效复习和新样本的巩固。该调度机制在不改变模型架构、目标函数和优化器的基础上，优化了旧知识的保持与新知识的学习平衡。
关键结果
- 在Wikipedia和代码数据集上，SRT显著提升了模型在旧知识保持方面的表现，恢复了5%到37%的遗忘损失，且在不同模型规模中均优于传统的均匀重放方法。
- 在大规模模型（如Llama-3.2-3B）上，SRT在保持旧知识的同时，未牺牲新知识的学习效果，甚至在某些任务中实现性能提升。
- 通过在视觉和表格数据上的扩展实验，验证了调度原则的模态无关性，表明该方法具有广泛的适用潜力。
研究意义
该研究突破了传统连续预训练中单一混合采样的局限，提出基于认知科学的个体样本调度策略，有效缓解了灾难性遗忘问题。其理论创新在于将人类记忆模型引入深度学习训练流程，为大模型的知识更新提供了新的思路。实践中，该方法提升了模型的稳定性和适应性，有助于推动大规模模型在动态环境中的持续学习能力，具有重要的学术价值和工业应用前景。
技术贡献
本文提出了结合间隔重复原理的样本调度算法，将每个样本的困惑度转化为回忆质量信号，动态调整复习间隔。该机制在不改变模型架构和训练目标的前提下，有效缓解了灾难性遗忘，显著优于传统均匀重放和难度优先采样。该方法提供了理论上的新保证，并在多模态数据上验证了其泛化能力，为持续学习提供了新的工程可能。
新颖性
首次将认知科学中的间隔重复算法（SuperMemo-2）引入深度学习中的持续预训练调度，提出样本级个性化复习策略，区别于以往的固定或均匀采样方法。该创新突破了传统重放的局限，为模型动态调节记忆保持提供了系统性解决方案。
局限性
- 调度机制依赖困惑度作为回忆信号，在某些任务或模型中可能不够准确或鲁棒。
- 引入额外的前向计算开销，增加训练时间约14.7%。
- 在极端的旧新比例设置下，模型性能可能受到一定影响，需进一步优化调度参数。
未来方向
未来将探索更复杂的记忆信号和多模态数据的调度策略，结合强化学习优化调度参数，提升大模型在真实动态环境中的持续学习能力。同时，研究如何降低调度带来的计算成本，增强方法的实用性。
AI 总览摘要
随着大规模语言模型的不断发展，模型在更新知识时面临灾难性遗忘的问题。传统的持续预训练方法多采用均匀采样历史数据，忽视样本的不同遗忘速度，导致旧知识流失严重。本文提出一种基于认知科学的调度框架——间隔重复（spaced repetition），引入SuperMemo-2（SM-2）算法，动态调节样本的复习间隔。该方法为每个样本维护个体的复习状态，通过困惑度转化为回忆质量信号，合理安排历史样本的复习和新样本的巩固，有效缓解了灾难性遗忘问题。
实验结果显示，在Wikipedia和代码数据集上，SRT显著提升模型的旧知识保持能力，恢复了5%到37%的遗忘损失，同时在保持或提升新知识学习的基础上，兼顾模型的整体性能。更大规模模型的验证表明，SRT在多任务和跨模态场景中具有良好的泛化能力，超越了传统均匀重放和难度优先采样的效果。
该研究的核心创新在于将人类记忆中的间隔重复原理引入深度学习训练流程，为持续学习提供了新的理论基础和工程实现路径。其广泛的应用前景包括动态环境中的知识更新、机器人自主学习以及个性化推荐系统等。未来，作者计划结合强化学习优化调度策略，降低计算成本，推动该方法在实际场景中的落地应用。整体而言，本研究为大模型的持续学习提供了具有理论创新和实践价值的解决方案，具有重要的学术意义和产业推动力。
深度分析
研究背景
近年来，随着大规模预训练模型的兴起，模型的知识更新逐渐成为研究焦点。传统方法多采用全量再训练或简单的混合采样，存在知识遗忘和效率低下的问题。早期工作如Elastic Weight Consolidation（EWC）和知识蒸馏等尝试缓解灾难性遗忘，但在大模型中效果有限。近年来，重放策略成为主流，尤其是在连续学习场景中表现出色。然而，现有重放多采用均匀采样或固定比例，忽略样本的不同遗忘速度，导致旧知识流失严重。认知科学中的间隔重复技术已被证明在提升人类记忆方面有效，但尚未被充分引入深度学习中。本文结合这些背景，提出基于SM-2的样本调度机制，旨在解决大模型持续学习中的遗忘问题，推动模型在动态环境中的应用。
核心问题
大模型在持续学习过程中，面临灾难性遗忘的核心难题。传统重放方法未考虑样本的遗忘速度差异，导致重复频率不合理，既不能有效巩固旧知识，也影响新知识的学习效率。此外，模型在面对不断变化的数据分布时，如何合理安排历史样本的复习时间，成为提升模型稳定性和适应性的关键。现有方法缺乏个性化调度机制，难以兼顾旧知识保持和新知识学习的平衡，限制了模型在实际应用中的持续能力。
核心创新
本研究的创新点在于引入认知科学中的间隔重复原理，将每个样本的复习状态个性化管理。具体包括：
- �� 设计基于SM-2的样本调度算法，动态调整样本复习间隔；
- �� 将困惑度转化为回忆质量信号，实时评估样本的遗忘程度；
- �� 在训练过程中同步更新样本的复习状态，实现旧知识的有效巩固和新知识的快速融入；
- �� 不改变模型架构和目标，纯粹通过调度机制提升性能。这一创新突破了传统均匀采样的局限，为持续学习提供了更智能的解决方案。
方法详解
- �� 每个样本维护个体的复习状态，包括易因子、连续成功次数、间隔和到期时间；
- �� 在每个训练步骤，计算样本的困惑度，将其映射为回忆质量信号；
- �� 根据回忆质量，动态调整样本的复习间隔，难样本提前复习，易样本延长间隔；
- �� 采用SM-2算法调节样本的复习频率，确保旧知识得到合理巩固；
- �� 训练过程中，模型参数保持不变，仅调度样本，提升旧知识保持能力；
- �� 在Wikipedia和代码数据集上验证，采用不同模型规模进行对比分析。
实验设计
实验设计包括在Wikipedia和GitHub代码库中构建时间分割的训练集，评估模型在旧知识保持和新知识学习上的表现。采用TinyLlama-1.1B和Llama-3.2-3B两种模型，比较SRT、均匀重放、纯持续预训练等多种策略。指标包括源源问答准确率、广义能力基准（如MMLU、GSM8K）以及跨模态验证。超参数如复习比例、困惑度阈值经过调优，进行消融分析验证调度机制的有效性。
结果分析
SRT在Wikipedia和代码数据集上，显著提升旧知识保持，恢复了5%到37%的遗忘损失，优于均匀重放和纯持续预训练。在大模型中，SRT保持了广泛能力的性能，避免了传统方法带来的能力退化。消融实验显示，调度策略优于单纯难度排序，且在多模态任务中表现出良好的泛化能力。这些结果验证了调度机制在实际训练中的有效性和适用性。
应用场景
该方法适用于需要持续知识更新的应用场景，如智能助手、自动问答系统和动态知识库维护。只需在训练中引入调度机制，无需改变模型架构，便能显著提升模型的稳定性和适应性。未来还可结合强化学习优化调度策略，进一步降低计算成本，推动在工业界的广泛应用。
局限与展望
调度机制依赖困惑度作为回忆信号，可能在某些任务中不够鲁棒。引入额外的计算开销，增加训练时间。调度参数的设置对性能影响较大，需进一步自动调优。未来需解决在极端旧新比例下的性能波动问题，并探索更高效的信号源。
通俗解读 非专业人士也能看懂
想象你在学习一门新技能，比如弹钢琴。每天你都要复习旧的曲子，同时学习新曲子。为了记得住旧的曲子，你会安排不同的复习时间：一些难记的部分会反复练习得更频繁，而一些熟悉的部分则可以拉长练习间隔。这种方法帮助你既巩固了旧技能，又不断吸收新内容。类似的，SRT算法也是这样，它会根据每个“样本”的“难易程度”智能安排复习时间，确保模型在不断学习新知识的同时，不会忘记之前学过的内容。
简单解释 像给14岁少年讲一样
你知道学习一门新技能，比如玩游戏，最怕忘记之前学到的技巧。其实，你可以用一种聪明的方法来帮自己记忆更牢：当你觉得某个技巧还不熟练时，就多练几次；而已经掌握得很好的技巧，就可以少练点。这样反复练习，既不会忘记旧的，又能学会新的。SRT算法就是用这个原理，让电脑模型在学习新内容时，自动安排什么时候复习旧资料。它会根据每个资料的难易程度，决定什么时候再看一遍，确保模型既记住了旧知识，又能快速吸收新知识，就像你用聪明的复习计划一样！
原文摘要
Continual pre-training of large language models must acquire new information without erasing old knowledge. Existing replay methods often choose a global old/new mixture and sample uniformly, ignoring that examples differ in how quickly they are forgotten. We formulate continual pre-training as adaptive review scheduling: the training loop should decide not only how much history to replay, but which examples should return at each step. We introduce Spaced Repetition Training (SRT), a continual learning framework inspired by cognitive science, which schedules sample-rehearsal using the SuperMemo-2 (SM-2) algorithm. SRT maintains per-example review state, maps per-example perplexity to a recall-quality signal, and schedules historical examples for retention and new examples for consolidation while leaving the model, objective, and optimizer unchanged. On temporally separated Wikipedia and code corpora, SRT improves the stability-plasticity trade-off, recovering 5 to 37 percentage points of old-knowledge accuracy lost by naive continual pre-training across model scales while preserving or improving new-knowledge acquisition. At larger scale, SRT preserves broad benchmark performance that naive continual pre-training and uniform replay substantially degrade. Experiments with vision and tabular data further suggest that the scheduling principle extends beyond language when paired with an appropriate recall signal.