Seed-Prover: Deep and Broad Reasoning for Automated Theorem Proving

TL;DR

Seed-Prover通过形式化验证和长链推理实现78.1%的IMO问题证明。

cs.AI 🔴 高级 2025-08-01 21 次浏览
Luoxin Chen Jinming Gu Liankai Huang Wenhao Huang Zhicheng Jiang Allan Jie Xiaoran Jin Xing Jin Chenggang Li Kaijing Ma Cheng Ren Jiawei Shen Wenlei Shi Tong Sun He Sun Jiahui Wang Siran Wang Zhihong Wang Chenrui Wei Shufa Wei Yonghui Wu Yuchen Wu Yihang Xia Huajian Xin Fan Yang Huaiyuan Ying Hongyi Yuan Zheng Yuan Tianyang Zhan Chi Zhang Yue Zhang Ge Zhang Tianyun Zhao Jianqiu Zhao Yichi Zhou Thomas Hanwen Zhu
自动定理证明 形式化验证 数学推理 强化学习 几何引擎

核心发现

方法论

Seed-Prover采用引理式全证推理模型,结合Lean反馈、已证明引理和自我总结进行迭代优化。通过三种推理策略实现深度和广度推理,尤其在几何支持不足的情况下引入Seed-Geometry引擎。

关键结果

  • Seed-Prover在过去的IMO问题中证明了78.1%的问题,MiniF2F测试中达到100%,在PutnamBench上超过50%,显著超越之前的最佳水平。
  • Seed-Geometry在IMO-AG-50基准上解决了43个几何问题,超过了AlphaGeometry 2。
  • 在IMO 2025中,Seed-Prover和Seed-Geometry共同解决了6道题中的5道。

研究意义

该研究显著推动了自动数学推理的发展,通过形式化验证和长链推理展示了其在解决复杂数学问题中的有效性。尤其在几何问题上,Seed-Geometry引擎的引入填补了Lean在几何支持上的空白。

技术贡献

Seed-Prover引入了引理式证明方法,结合长链推理和形式化验证,提供了新的理论保证和工程可能性。Seed-Geometry通过快速推理引擎和扩展的领域特定语言实现了几何问题的高效求解。

新颖性

Seed-Prover是首个结合引理式证明和长链推理的模型,显著提升了复杂数学问题的解决能力,尤其在几何领域的创新性引擎设计上。

局限性

  • Seed-Prover在某些复杂几何问题上仍存在局限,尤其是需要大量辅助构造的情形。
  • 在处理非几何问题时,Seed-Geometry的优势不明显。

未来方向

未来工作将关注提升Seed-Prover在非几何问题上的性能,并探索更多领域的应用可能性,尤其是在形式化验证的广泛应用中。

AI 总览摘要

Seed-Prover是一个创新的自动定理证明系统,通过形式化验证和长链推理实现了对复杂数学问题的高效求解。传统的自然语言推理在数学证明中缺乏明确的监督信号,而Seed-Prover通过引入Lean语言的形式化验证,克服了这一挑战。

Seed-Prover采用引理式全证推理模型,结合Lean反馈、已证明引理和自我总结进行迭代优化。为了应对IMO级别竞赛问题,设计了三种推理策略,实现了深度和广度推理。尤其在几何支持不足的情况下,引入了Seed-Geometry引擎,显著提升了几何问题的求解能力。

在实验中,Seed-Prover在过去的IMO问题中证明了78.1%的问题,MiniF2F测试中达到100%,在PutnamBench上超过50%,显著超越之前的最佳水平。Seed-Geometry在IMO-AG-50基准上解决了43个几何问题,超过了AlphaGeometry 2。该研究展示了形式化验证和长链推理在自动数学推理中的巨大潜力。

深度分析

研究背景

近年来,大型语言模型在数学推理能力上取得了显著进展,但在定理证明中仍面临挑战,特别是由于自然语言缺乏明确的监督信号。AlphaProof等工作展示了使用形式化语言进行数学证明的潜力,但仍需进一步提升模型的推理深度和广度。

核心问题

核心问题在于如何在缺乏明确监督信号的情况下,实现复杂数学问题的自动证明。传统的自然语言推理难以提供足够的细节和准确性,而形式化语言虽然提供了明确的信号,但在推理深度和广度上仍有不足。

核心创新

Seed-Prover通过引入引理式证明方法,结合长链推理和形式化验证,显著提升了复杂数学问题的解决能力。Seed-Geometry通过快速推理引擎和扩展的领域特定语言,实现了几何问题的高效求解。

方法详解

  • �� 引理式证明:生成有用的中间引理,作为不同推理路径的共享知识。
  • �� 迭代优化:基于Lean反馈、已证明引理和自我总结进行证明优化。
  • �� 三层推理策略:实现深度和广度推理,分配思维预算以探索有趣的性质。

实验设计

实验设计包括在MiniF2F、PutnamBench和IMO问题上进行测试,使用不同的推理策略评估Seed-Prover的性能。关键超参数包括推理次数和引理池的使用。

结果分析

Seed-Prover在MiniF2F测试中达到100%,在PutnamBench上超过50%,显著超越之前的最佳水平。Seed-Geometry在IMO-AG-50基准上解决了43个几何问题,超过了AlphaGeometry 2。

应用场景

Seed-Prover可用于自动数学证明,特别是在数学竞赛和学术研究中。其形式化验证能力使其在需要高精度和可靠性的场景中具有重要应用价值。

局限与展望

Seed-Prover在某些复杂几何问题上仍存在局限,尤其是需要大量辅助构造的情形。在处理非几何问题时,Seed-Geometry的优势不明显。未来工作将关注提升非几何问题的性能。

通俗解读 非专业人士也能看懂

想象你在厨房里做饭,Seed-Prover就像一个聪明的厨师助手。它不仅能帮你找到正确的食材,还能告诉你每一步该怎么做,确保最后的菜肴完美无缺。传统的助手可能只会给你一个食谱,但Seed-Prover会在每一步都给你反馈,确保你没有犯错。而Seed-Geometry就像一个专门处理复杂糕点的专家,能快速找到最优的装饰方案,让你的蛋糕不仅好吃还好看。

简单解释 像给14岁少年讲一样

嘿,小伙伴!想象一下你在玩一个超级复杂的解谜游戏。Seed-Prover就像是一个无敌的攻略助手,它不仅能帮你找到通关的关键,还能在每一步都给你提示,确保你不会走错路。而Seed-Geometry就像是一个专门解几何谜题的高手,能快速找到最优解法,让你轻松过关。是不是很酷?

术语表

Seed-Prover (种子证明器)

一种自动定理证明系统,结合引理式证明和长链推理。

用于解决复杂数学问题,特别是几何问题。

Lean (Lean语言)

一种形式化验证语言,用于提供明确的证明信号。

在Seed-Prover中用于验证证明的正确性。

Seed-Geometry (种子几何引擎)

一种专门用于几何问题的推理引擎,具有快速推理能力。

用于解决几何支持不足的问题。

MiniF2F (MiniF2F测试)

一个用于评估自动定理证明系统性能的基准测试。

Seed-Prover在此测试中达到100%的通过率。

PutnamBench (Putnam基准)

一个评估数学推理能力的基准测试,包含复杂数学问题。

Seed-Prover在此基准上超过50%的通过率。

开放问题 这项研究留下的未解疑问

  • 1 如何在非几何问题中提升Seed-Prover的性能,尤其是在需要大量辅助构造的情形。
  • 2 如何进一步优化Seed-Geometry的推理速度和准确性,特别是在复杂几何问题中。

应用场景

近期应用

数学竞赛

Seed-Prover可用于自动解答数学竞赛问题,帮助选手提高解题效率。

学术研究

在数学研究中,Seed-Prover可用于验证复杂定理的正确性,提高研究的可靠性。

远期愿景

教育领域

Seed-Prover可用于数学教育,帮助学生理解复杂数学概念,提高学习效果。

原文摘要

LLMs have demonstrated strong mathematical reasoning abilities by leveraging reinforcement learning with long chain-of-thought, yet they continue to struggle with theorem proving due to the lack of clear supervision signals when solely using natural language. Dedicated domain-specific languages like Lean provide clear supervision via formal verification of proofs, enabling effective training through reinforcement learning. In this work, we propose \textbf{Seed-Prover}, a lemma-style whole-proof reasoning model. Seed-Prover can iteratively refine its proof based on Lean feedback, proved lemmas, and self-summarization. To solve IMO-level contest problems, we design three test-time inference strategies that enable both deep and broad reasoning. Seed-Prover proves $78.1\%$ of formalized past IMO problems, saturates MiniF2F, and achieves over 50\% on PutnamBench, outperforming the previous state-of-the-art by a large margin. To address the lack of geometry support in Lean, we introduce a geometry reasoning engine \textbf{Seed-Geometry}, which outperforms previous formal geometry engines. We use these two systems to participate in IMO 2025 and fully prove 5 out of 6 problems. This work represents a significant advancement in automated mathematical reasoning, demonstrating the effectiveness of formal verification with long chain-of-thought reasoning.

cs.AI cs.CL