核心发现
方法论
研究采用两种后训练策略：从前沿模型的推理痕迹中蒸馏，以及使用可验证奖励的强化学习（RLVR）。蒸馏方法通过DeepSeek-R1生成的推理痕迹数据集微调LLM，得到Table-R1-SFT模型。RLVR方法设计了任务特定的可验证奖励函数，并应用GRPO算法，得到Table-R1-Zero模型。
关键结果
- Table-R1-Zero模型在多个表格推理任务中表现优于GPT-4.1和DeepSeek-R1，使用仅7B参数的LLM，展现出强大的跨领域泛化能力。
- Table-R1-SFT在TabFact上达到91.1%的准确率，接近最高的91.9%。
- 在FeTaQA上，Table-R1-Zero的BLEU得分为32.7，显著超过DeepSeek-R1的26.2。
研究意义
本研究首次探索了表格推理任务中的推理时间扩展，显著提升了小规模模型在复杂推理任务中的性能，降低了计算资源需求，为学术界和工业界提供了更高效的解决方案。
技术贡献
提出了结合推理痕迹蒸馏和RLVR的创新方法，展示了在表格推理任务中使用小规模模型实现高性能的可能性，提供了新的理论保证和工程可能性。
新颖性
首次在表格推理任务中应用推理时间扩展策略，结合了蒸馏和RLVR方法，显著提升了小规模模型的推理能力。
局限性
- 模型在处理极长表格输入时可能表现不佳，需进一步优化输入处理机制。
- RLVR方法的训练稳定性依赖于奖励设计，可能需要针对不同任务进行调整。
未来方向
未来研究可探索更复杂的表格推理任务，优化RLVR的奖励设计，并扩展到更多领域的应用。
AI 总览摘要
在表格推理任务中，现有解决方案通常需要大规模模型和大量计算资源，难以在资源受限的环境中应用。Table-R1通过推理痕迹蒸馏和可验证奖励的强化学习，提出了一种高效的推理时间扩展方法。该方法使用DeepSeek-R1生成的推理痕迹数据集进行蒸馏，并设计了任务特定的奖励函数，应用GRPO算法，得到Table-R1-Zero模型。实验结果表明，Table-R1-Zero在多个表格推理任务中表现优于GPT-4.1和DeepSeek-R1，使用仅7B参数的LLM，展现出强大的跨领域泛化能力。这一研究为小规模模型在复杂推理任务中的应用提供了新的可能性，具有重要的学术和工业意义。然而，模型在处理极长表格输入时可能表现不佳，未来研究可进一步优化输入处理机制，并探索更复杂的表格推理任务。
深度分析
研究背景
表格推理是自然语言处理中的一个重要领域，涉及从结构化数据中提取和推理信息。近年来，随着大语言模型的发展，推理能力得到了显著提升。然而，现有方法通常依赖于大规模模型和大量计算资源，难以在资源受限的环境中应用。
核心问题
表格推理任务需要处理多样的单元格内容，跨表对齐数据，并执行多步推理和数值运算。这些要求使得现有模型在处理长且结构复杂的表格输入时面临挑战。
核心创新
Table-R1通过推理痕迹蒸馏和RLVR方法，首次在表格推理任务中应用推理时间扩展策略。蒸馏方法通过DeepSeek-R1生成的推理痕迹数据集微调LLM，RLVR方法设计了任务特定的可验证奖励函数，并应用GRPO算法。
方法详解
- �� 从DeepSeek-R1生成推理痕迹数据集
- �� 微调LLM得到Table-R1-SFT模型
- �� 设计任务特定的可验证奖励函数
- �� 应用GRPO算法进行RLVR训练，得到Table-R1-Zero模型
实验设计
实验在多个表格推理任务上进行，包括短问答、事实验证和自由问答。使用的基准数据集包括WTQ、HiTab、TabFact和FeTaQA。评估指标包括BLEU、ROUGE-L和准确率。
结果分析
Table-R1-Zero在FeTaQA上的BLEU得分为32.7，显著超过DeepSeek-R1的26.2。在TabFact上，Table-R1-SFT达到91.1%的准确率，接近最高的91.9%。
应用场景
Table-R1可用于数据分析、科学报告和决策支持系统等实际应用场景，尤其适合资源受限的环境。
局限与展望
模型在处理极长表格输入时可能表现不佳，需进一步优化输入处理机制。RLVR方法的训练稳定性依赖于奖励设计，可能需要针对不同任务进行调整。
通俗解读 非专业人士也能看懂
想象你在厨房里做饭。你有一张复杂的食谱表格，上面列出了所有的食材、步骤和注意事项。Table-R1就像一个聪明的助手，它能快速理解这张表格，帮你找出需要的食材，按照步骤指导你完成美味的菜肴。它不仅能帮你找到答案，还能在过程中检查和修正错误，就像一个经验丰富的厨师在旁边指导你一样。
简单解释 像给14岁少年讲一样
想象你在玩一个需要解谜的游戏，你有一张复杂的地图，上面有各种线索和任务。Table-R1就像一个超级聪明的游戏助手，它能快速理解地图上的信息，帮你找出完成任务的最佳路线。它不仅能帮你找到答案，还能在过程中检查和修正错误，就像一个经验丰富的玩家在旁边指导你一样。是不是很酷？
术语表
推理时间扩展 (Inference-Time Scaling)
一种在推理过程中动态调整计算资源的方法，以提高模型的推理能力。
在表格推理任务中应用以提升小规模模型的性能。
蒸馏 (Distillation)
从大模型中提取知识并应用于小模型的过程，以提高小模型的性能。
通过DeepSeek-R1生成的推理痕迹数据集进行蒸馏。
可验证奖励 (Verifiable Rewards)
一种基于任务特定规则设计的奖励信号，用于指导模型的强化学习训练。
在RLVR方法中用于训练Table-R1-Zero模型。
GRPO算法 (Group Relative Policy Optimization)
一种用于强化学习的优化算法，能够稳定地训练大语言模型。
在RLVR方法中应用以训练Table-R1-Zero模型。
BLEU得分 (BLEU Score)
一种用于评估机器翻译或文本生成质量的指标，基于n-gram匹配。
用于评估Table-R1在自由问答任务中的生成质量。
开放问题 这项研究留下的未解疑问
- 1 如何在极长表格输入中保持模型的高效性和准确性？现有方法在处理长输入时可能表现不佳。
- 2 如何设计更通用的可验证奖励函数，以适应不同类型的表格推理任务？
应用场景
近期应用
数据分析
Table-R1可以帮助分析师从复杂的表格数据中快速提取信息，进行数据分析和报告生成。
远期愿景
智能决策支持
在未来，Table-R1可以用于构建更智能的决策支持系统，帮助企业在复杂数据环境中做出更准确的决策。
原文摘要
In this work, we present the first study to explore inference-time scaling on table reasoning tasks. We develop and evaluate two post-training strategies to enable inference-time scaling: distillation from frontier model reasoning traces and reinforcement learning with verifiable rewards (RLVR). For distillation, we introduce a large-scale dataset of reasoning traces generated by DeepSeek-R1, which we use to fine-tune LLMs into the Table-R1-SFT model. For RLVR, we propose task-specific verifiable reward functions and apply the GRPO algorithm to obtain the Table-R1-Zero model. We evaluate our Table-R1-series models across diverse table reasoning tasks, including short-form QA, fact verification, and free-form QA. Notably, the Table-R1-Zero model matches or exceeds the performance of GPT-4.1 and DeepSeek-R1, while using only a 7B-parameter LLM. It also demonstrates strong generalization to out-of-domain datasets. Extensive ablation and qualitative analyses reveal the benefits of instruction tuning, model architecture choices, and cross-task generalization, as well as emergence of essential table reasoning skills during RL training.