核心发现
方法论
论文建立从System-1到弱System-2再到强System-2的统一分类框架。System-1侧重测试时适应，包括参数更新、输入修改、表示编辑与输出校准；System-2侧重测试时推理，包括反馈建模、重复采样、自我纠错和树搜索。代表算法有Tent、MEMO、kNN-MT、CoT、ORM、PRM、ToT、RAP与MCTS。
关键结果
- 论文不是提出新模型或新数据集，而是系统梳理既有证据。其明确指出，o1、o3、DeepSeek-R1和Gemini 2.5展示了推理计算增加、复杂任务表现提升的趋势，但全文提供的是方法分类与机制分析，而非统一的准确率表。
- 在System-1适应中，Tent以预测熵为损失，MEMO通过增强单样本并最小化边际熵；kNN-MT融合检索概率与模型概率。论文同时指出，熵最小化可能导致模型坍缩，参数更新还面临反向传播成本和灾难性遗忘。
- 在System-2推理中，ORM评价最终答案，PRM评价中间步骤，重复采样通过多数或验证器选择提高可靠性，树搜索通过ToT、RAP和MCTS扩展回溯能力。论文未报告统一数据集上的百分比增益，因此不能据此声称某算法普遍领先。
研究意义
论文的重要性在于把通常分散于计算机视觉、机器学习适应和大模型推理中的“测试时计算”放入同一条认知演化链。它说明，额外推理预算不仅可用于修补分布偏移，也可用于生成多个候选、检查错误并搜索更深路径。这一视角有助于研究者区分参数适应、上下文操控和显式推理，也提醒工业界权衡准确率、延迟、显存、反馈可靠性与知识泄漏风险。
技术贡献
技术贡献主要是系统化而非提出单一新算法。论文按参数更新、输入修改、表示编辑、输出校准、反馈建模和搜索策略组织文献，并明确区分ORM与PRM、TTT与FTTA、重复采样与树搜索。它还把改进训练，如ReST、SCoRe、GRPO和ReST-MCTS*，置于测试时推理闭环中，揭示训练阶段学习反馈、推理阶段利用反馈之间的联系。
新颖性
论文自称是首个系统综述测试时计算、并以System-1到System-2的转变组织材料。相较只讨论CoT或推理时扩展的工作，它把早期TTA方法，如Tent、AdaNPC和ActAdd，与LRM中的PRM、Self-correction和MCTS联系起来。新颖性主要来自统一叙事、分类与未来议题整合，而非新的理论定理或实验算法。
局限性
- 论文是综述而非统一实验研究，未在同一模型、数据集和计算预算下比较方法，因此不能直接推导算法排名或确定的百分比收益。
- 许多方法依赖额外反馈。PRM需要步骤级标注，ORM可能只看最终答案，外部奖励又可能带来偏差、奖励投机和知识泄漏。
未来方向
作者提出的方向包括更强泛化、跨模态推理、计算效率、测试时扩展定律和方法组合。代表工作有GenPRM、Search-o1、Deep Research、VisualPRM、O1-Pruner与Marco-o1。未来需要统一基准、成本—准确率曲线、可靠验证器以及能够在动态分布中持续适应而不遗忘的系统。
AI 总览摘要
大型模型正在从“立即回答”转向“先思考再回答”。论文指出，训练规模继续扩张受到数据和算力限制，而传统System-1模型面对分布偏移和复杂任务时鲁棒性不足。o1、o3、DeepSeek-R1与Gemini 2.5表明，推理阶段投入更多计算，可能释放模型尚未显现的能力。
作者把测试时计算分成两条连续路线。对System-1模型，Tent和MEMO通过预测熵适应新分布，AdaNPC和kNN-MT借助记忆库校准输出，ActAdd则编辑中间表示。对System-2模型，CoT生成显式步骤；重复采样产生多条思路，Self-correction进行反思，ToT、RAP和MCTS则允许分支、评估与回溯。ORM关注最终答案，PRM关注每个推理步骤，是这些搜索策略的重要反馈来源。
这篇36页综述的核心价值不是报告一个新的SOTA数字，而是建立共同语言：测试时计算既可以是隐式适应，也可以是显式推理；既能提高泛化，也会增加延迟、成本和错误反馈风险。论文特别强调，现有材料缺少统一数据集、模型和预算下的可比实验。未来研究应同时优化准确率、推理长度、验证器可靠性、跨模态能力和计算效率。
深度分析
研究背景
深度学习依靠模型和数据规模取得进展，但ResNet、Transformer、BERT等System-1模型通常直接输出结果，默认训练测试同分布。CoT使LLM能够逐步生成中间过程，o1等推理模型进一步展示了测试时扩展的价值。然而，线性CoT会累积错误，RAG主要缓解事实错误而非复杂推理，因此需要系统总结TTA与测试时推理。
核心问题
核心问题是：如何利用推理阶段额外计算改善分布偏移下的鲁棒性，并在复杂任务中找到更可靠的推理路径？难点包括无真实标签、反馈噪声、参数更新不稳定、演算成本高、搜索空间巨大，以及模型可能在错误的自我评价下反复强化错误。
核心创新
- ��提出System-1—弱System-2—强System-2演化框架。•将TTA划分为参数更新、输入修改、表示编辑和输出校准。•将测试时推理拆为反馈建模与搜索策略。•统一介绍ORM、PRM、重复采样、自我纠错和树搜索。•把ReST、GRPO、SCoRe及ReST-MCTS*等改进训练纳入闭环。
方法详解
- ��参数更新：TTT使用旋转预测、掩码自编码或对比学习；FTTA如Tent最小化预测熵，MEMO最小化增强样本的边际熵。•输入修改：BM25、SentenceBERT或对比学习检索示例，Auto-CoT、DAWN-ICL生成或规划示例。•表示编辑：PPLM用梯度控制，ActAdd计算对比提示的表示差并加入残差流。•输出校准：kNN-MT检索上下文邻居并融合概率。•推理搜索：ORM/PRM评分，重复采样、自我纠错、ToT、RAP与MCTS选择路径。
实验设计
本文属于综述，主要依据已发表方法与基准，而非重新训练统一模型。讨论对象覆盖视觉、机器翻译、问答、数学推理和多模态任务；方法清单包括Tent、kNN-MT、CoT、Math-Shepherd、OmegaPRM、ToT、rStar和AlphaMATH。论文未给出统一实验协议、公共数据集上的总表或统一超参数，因此评价重点是机制、适用条件和成本。
结果分析
综合结论是：参数更新和输出校准适用面广，但分别受训练不稳定、推理开销和目标域信息依赖影响；输入修改无需训练，却依赖ICL能力；表示编辑需要先验方向。CoT仍受线性思维和错误累积限制，而重复采样、自我纠错和树搜索分别扩展思维多样性、反思能力和回溯深度。由于没有统一数值实验，论文不支持跨方法的绝对排名。
应用场景
在机器翻译中，kNN-MT可用领域记忆校准概率；视觉和多模态系统可用TTA适应新环境；问答与数学系统可用PRM、ORM和重复采样筛选答案；复杂研究代理可用MCTS、Search-o1和Deep Research进行规划。实际部署必须测量延迟、显存、反馈质量和错误累积。
局限与展望
综述未解决验证器可靠性、奖励投机和测试时计算预算分配问题。Tent等熵方法可能坍缩，持续TTA可能遗忘，episodic TTA又增加加载延迟；PRM标注昂贵，MCTS和多次采样成本高。未来应构建统一基准与扩展定律，发展高效剪枝、跨模态PRM、可校准反馈和组合式推理系统。
通俗解读 非专业人士也能看懂
把模型想成一家餐馆。平时它看到菜单和客人，就凭经验快速上菜，这像System-1。若客人来自新地区、口味突然改变，餐馆可以在不改厨师的情况下换菜单、参考相似订单或调整调味，这对应输入修改、记忆检索和输出校准。也可以短暂训练厨师，例如根据当天客人的反馈调整做法，但这会花时间，还可能把原来的好手艺弄丢。
更复杂的订单不能只凭第一反应。餐馆可以同时做几份候选菜，比较后选最好的一份；也可以让品尝员逐步检查每个环节；如果一条路线失败，就退回上一步换方案。重复采样、自我纠错、ORM、PRM和MCTS就是这些做法的机器版本。代价是厨房更慢、更贵，而且品尝员判断错时，所有努力都可能朝错误方向进行。
简单解释 像给14岁少年讲一样
想象你在玩一道很难的解谜游戏。普通模式是看到题目就立刻选答案，速度快，但遇到没见过的关卡容易翻车，这就是System-1。测试时计算像给自己更多“思考时间”：你可以先试几种路线，再比较哪条最靠谱。
CoT像把解题步骤写在草稿纸上；重复采样像让几个同学各自解一次题；自我纠错像交卷前重新检查；ToT和MCTS则像游戏地图上的分叉探索，走不通就回到岔路口。ORM只看最后有没有通关，PRM还检查每一步是不是合理。
另一类方法处理的是“题目环境变了”。Tent和MEMO会根据当前题目的不确定性调整模型，kNN-MT会翻看相似例子，ActAdd则像给角色加一个特殊技能方向。不过，想得越久越耗电、越慢；如果检查员判断错，模型还可能很自信地坚持错误答案！
术语表
Test-time compute（测试时计算）
模型部署后为当前输入额外使用的计算，包括更新参数、修改提示或搜索推理路径。它区别于只增加训练阶段算力。
论文的总主题，贯穿TTA与测试时推理。
Test-time adaptation, TTA（测试时适应）
利用无标签或外部反馈，在推理阶段使模型适应测试分布。典型机制包括Tent、MEMO和AdaNPC。
主要对应System-1模型。
Chain-of-Thought, CoT（思维链）
模型在最终答案前生成一系列中间推理步骤。它使模型具备显式、渐进式推理，但仍可能线性累错。
论文将CoT视为弱System-2基础。
Outcome/Process Reward Model, ORM/PRM（结果/过程奖励模型）
ORM评价最终答案是否正确，PRM评价每个推理步骤或过程质量。PRM更细致但标注成本更高。
作为搜索和自我改进的反馈模型。
Monte Carlo Tree Search, MCTS（蒙特卡洛树搜索）
通过扩展、评估和回溯树节点寻找高价值路径的搜索算法。它适合处理非线性规划与多步推理。
用于DAWN-ICL、Math-Shepherd、ToT相关方法和改进训练。
System-1/System-2（系统一/系统二）
System-1代表快速、直觉式预测；System-2代表缓慢、显式、反思式推理。论文用其描述模型能力演化。
组织全文分类与研究路线。
开放问题 这项研究留下的未解疑问
- 1 统一比较仍缺失：不同论文使用不同模型、数据集、采样次数和验证器，难以判断准确率提升究竟来自算法还是更多算力。
- 2 反馈可靠性未解决：错误ORM、PRM或自评机制可能放大错误，需要可校准、抗奖励投机并能识别不确定性的验证器。
- 3 成本边界不清晰：未来需建立准确率、延迟、能耗与推理长度之间的扩展定律。
应用场景
近期应用
领域机器翻译
部署kNN-MT或AdaNPC，为医学、法律等场景建立记忆库，检索相似上下文并校准模型概率。前提是拥有可靠领域语料，并需监控记忆污染和隐私风险。
数学问答与代码审查
使用CoT加重复采样，并用ORM或PRM筛选答案；对代码可加入Self-debug和Reflexion。适合高价值、可接受额外延迟的任务，但验证器必须独立可靠。
远期愿景
自主研究代理
结合Search-o1、Deep Research、PRM和MCTS，让代理生成计划、检索证据、回溯失败路线并提交可审计结论。主要障碍是成本、事实核验和长期错误累积。
原文摘要
The remarkable performance of the o1 model in complex reasoning demonstrates that test-time compute scaling can further unlock the model's potential, enabling powerful System-2 thinking. However, there is still a lack of comprehensive surveys for test-time compute scaling. We trace the concept of test-time compute back to System-1 models. In System-1 models, test-time compute addresses distribution shifts and improves robustness and generalization through parameter updating, input modification, representation editing, and output calibration. In System-2 models, it enhances the model's reasoning ability to solve complex problems through repeated sampling, self-correction, and tree search. We organize this survey according to the trend of System-1 to System-2 thinking, highlighting the key role of test-time compute in the transition from System-1 models to weak System-2 models, and then to strong System-2 models. We also point out advanced topics and future directions.