Goedel-Prover-V2: Scaling Formal Theorem Proving with Scaffolded Data Synthesis and Self-Correction

TL;DR

Goedel-Prover-V2通过分层数据合成和自我纠正,实现了自动定理证明的新突破,MiniF2F上达到88.1%准确率。

cs.LG 🔴 高级 2025-08-06 6 次浏览
Yong Lin Shange Tang Bohan Lyu Ziran Yang Jui-Hui Chung Haoyu Zhao Lai Jiang Yihan Geng Jiawei Ge Jingruo Sun Jiayun Wu Jiri Gesi Ximing Lu David Acuna Kaiyu Yang Hongzhou Lin Yejin Choi Danqi Chen Sanjeev Arora Chi Jin
自动定理证明 机器学习 强化学习 模型平均 数据合成

核心发现

方法论

Goedel-Prover-V2采用分层数据合成、验证器引导的自我纠正和模型平均等创新方法。分层数据合成通过生成难度递增的合成任务来提高模型的复杂定理掌握能力。验证器引导的自我纠正利用Lean编译器反馈来迭代修正证明。模型平均通过合并模型检查点来缓解训练后期模型输出多样性下降的问题。

关键结果

  • Goedel-Prover-V2-8B在MiniF2F上以84.6%的pass@32表现超越了DeepSeek-Prover-V2-671B,尽管模型规模小80倍。
  • 旗舰模型Goedel-Prover-V2-32B在MiniF2F上以88.1%的pass@32表现,并在自我纠正模式下达到90.4%。
  • 在PutnamBench上,Goedel-Prover-V2-32B在pass@184下解决了86个问题,远超DeepSeek-Prover-V2-671B的47个问题。

研究意义

Goedel-Prover-V2在开放源码定理证明领域树立了新的性能标杆,特别是在计算资源受限的情况下表现优异。它不仅在MiniF2F和PutnamBench等基准测试中取得了领先地位,还为学术界和工业界提供了一个高效的定理证明解决方案。该模型的成功展示了无需超大规模模型和计算资源也能实现高性能的可能性。

技术贡献

该研究通过引入分层数据合成和验证器引导的自我纠正,显著提升了定理证明的效率和准确性。与现有SOTA方法相比,Goedel-Prover-V2在模型规模和计算预算上实现了更高的性能。模型平均技术的应用也为后期训练阶段的多样性问题提供了有效解决方案。

新颖性

Goedel-Prover-V2首次将验证器反馈与长链思维推理结合,形成一个高效的自我纠正机制。这种方法在复杂推理任务中表现出色,与以往的定理证明方法相比,提供了更高的准确性和效率。

局限性

  • 在某些复杂定理上,模型仍可能出现错误推理,尤其是在缺乏充分训练数据的情况下。
  • 自我纠正过程可能导致推理时间的增加,影响实时应用。
  • 模型在特定领域的泛化能力仍需进一步验证。

未来方向

未来的研究方向包括优化自我纠正过程以减少推理时间,扩展模型在更多数学领域的应用,以及探索更高效的数据合成方法以进一步提升模型性能。

AI 总览摘要

Goedel-Prover-V2是一个开源语言模型系列,通过创新的方法在自动定理证明领域取得了显著进展。现有的解决方案通常依赖于大规模模型或计算密集型推理,而Goedel-Prover-V2通过分层数据合成和自我纠正等方法,在提高性能的同时显著降低了计算需求。

该模型的核心技术包括分层数据合成、验证器引导的自我纠正和模型平均。分层数据合成通过创建难度逐步增加的合成任务,帮助模型掌握更复杂的定理。验证器引导的自我纠正利用Lean编译器的反馈来迭代修正证明,显著提高了模型的准确性。模型平均则通过合并模型检查点来保持输出的多样性。

实验结果显示,Goedel-Prover-V2在MiniF2F和PutnamBench等基准测试中表现优异,尤其是在计算资源受限的情况下。该模型不仅在开放源码定理证明领域树立了新的性能标杆,还为学术界和工业界提供了一个高效的解决方案。尽管如此,模型在某些复杂定理上的表现仍有待提高,未来的研究将继续优化这些方面。

深度分析

研究背景

自动定理证明是人工智能领域的一大挑战,需要构建机器可验证的形式化证明。近年来,随着DeepMind的AlphaProof和AlphaGeometry等系统的出现,AI在国际数学奥林匹克竞赛级别的表现得到了显著提升。然而,这些成功通常依赖于大规模模型或计算密集型推理。

核心问题

自动定理证明需要在形式语言中构建严格的逻辑流程,这对AI系统来说是一个巨大的挑战。现有方法通常依赖于大规模模型或计算密集型推理,导致在计算资源受限的情况下难以实现高效的定理证明。

核心创新

Goedel-Prover-V2通过引入分层数据合成、验证器引导的自我纠正和模型平均等创新方法,显著提升了定理证明的效率和准确性。分层数据合成通过生成难度递增的合成任务来提高模型的复杂定理掌握能力。验证器引导的自我纠正利用Lean编译器反馈来迭代修正证明。模型平均通过合并模型检查点来缓解训练后期模型输出多样性下降的问题。

方法详解

  • �� 分层数据合成:生成难度递增的合成任务,帮助模型掌握复杂定理。
  • �� 验证器引导的自我纠正:利用Lean编译器反馈迭代修正证明。
  • �� 模型平均:合并模型检查点,保持输出多样性。
  • �� 强化学习:通过多任务设置优化模型的推理能力。

实验设计

实验在MiniF2F和PutnamBench等基准测试上进行,采用pass@N作为主要评估指标。模型在不同的推理预算下进行测试,验证了其在计算资源受限情况下的性能。实验还包括对自我纠正和模型平均的消融研究,以评估其对模型性能的影响。

结果分析

Goedel-Prover-V2在MiniF2F上以88.1%的pass@32表现超越了DeepSeek-Prover-V2-671B,尽管模型规模小80倍。在PutnamBench上,Goedel-Prover-V2-32B在pass@184下解决了86个问题,远超DeepSeek-Prover-V2-671B的47个问题。

应用场景

Goedel-Prover-V2在数学竞赛、学术研究和工业应用中具有广泛的应用潜力。其高效的定理证明能力可以用于解决复杂的数学问题,并为数学教育和研究提供支持。

局限与展望

尽管Goedel-Prover-V2在多个基准测试中表现优异,但在某些复杂定理上的表现仍有待提高。此外,自我纠正过程可能导致推理时间的增加,影响实时应用。未来的研究将继续优化这些方面。

通俗解读 非专业人士也能看懂

想象一个聪明的学生在学习数学。他首先从简单的问题开始,逐步挑战更复杂的题目。这就像Goedel-Prover-V2的分层数据合成方法,通过生成难度递增的任务来训练模型。然后,这个学生在考试中犯了错误,但老师给了他反馈,他根据这些反馈修正了答案。这类似于验证器引导的自我纠正过程,模型利用Lean编译器的反馈来修正证明。最后,学生总结了所有的学习经验,形成了一个完整的知识体系,这就像模型平均,通过合并模型检查点来保持输出的多样性。

简单解释 像给14岁少年讲一样

想象你在玩一个超级复杂的游戏,游戏里有很多关卡,每一关都比上一关更难。Goedel-Prover-V2就像一个超级聪明的游戏玩家,它通过玩这些关卡来变得越来越厉害。每当它在某一关卡失败时,游戏会告诉它哪里出错了,它就会根据这些提示来修正自己的策略。这就像它的自我纠正功能。最后,它会总结所有的经验,变得更加强大。是不是很酷?

术语表

自动定理证明 (Automated Theorem Proving)

利用计算机程序自动生成数学定理的形式化证明。

在论文中用于评估Goedel-Prover-V2的性能。

分层数据合成 (Scaffolded Data Synthesis)

生成难度递增的合成任务以训练模型。

用于提高模型的复杂定理掌握能力。

验证器引导的自我纠正 (Verifier-guided Self-correction)

利用编译器反馈来修正模型的证明。

用于提高模型的准确性。

模型平均 (Model Averaging)

合并模型检查点以保持输出多样性。

用于缓解训练后期的多样性下降问题。

MiniF2F

一个用于评估自动定理证明模型的基准测试。

用于评估Goedel-Prover-V2的性能。

开放问题 这项研究留下的未解疑问

  • 1 如何在缺乏充分训练数据的情况下提高模型的复杂定理推理能力?
  • 2 如何优化自我纠正过程以减少推理时间?
  • 3 如何提高模型在特定领域的泛化能力?

应用场景

近期应用

数学竞赛

Goedel-Prover-V2可以用于解决数学竞赛中的复杂问题,帮助选手提高解题能力。

远期愿景

数学教育

通过提供高效的定理证明工具,Goedel-Prover-V2可以支持数学教育和研究,促进数学领域的发展。

原文摘要

We introduce Goedel-Prover-V2, a series of open-source language models that set a new state-of-the-art in automated theorem proving. Built on the standard expert iteration and reinforcement learning pipeline, our approach incorporates three key innovations: (1) Scaffolded data synthesis: We generate synthetic tasks of increasing difficulty to train the model to master increasingly complex theorems; (2) Verifier-guided self-correction: We enable the model to iteratively revise its proofs by leveraging feedback from the Lean compiler; (3) Model averaging: We merge model checkpoints to mitigate the decrease in model output diversity in later stages of training. Our small model, Goedel-Prover-V2-8B, reaches 84.6% pass@32 on MiniF2F and outperforms DeepSeek-Prover-V2-671B under the same metric, despite being 80X smaller. Our flagship model, Goedel-Prover-V2-32B, achieves 88.1% on MiniF2F at pass@32 in standard mode and 90.4% in self-correction mode, outperforming prior SOTA by a large margin. Additionally, our flagship model solves 86 problems on PutnamBench at pass@184, securing the first place among open-source models on the leaderboard, surpassing DeepSeek-Prover-V2-671B's record of solving 47 problems by pass@1024 with a significantly smaller model size and compute budget. At the time of its release (July-August 2025), Goedel-Prover-V2 achieves the strongest overall performance among all open-source theorem provers. It also ranks among the top-performing models--including closed-source systems with publicly reported performance--under a constrained test-time compute budget. Our models, code, and data are released at https://github.com/Goedel-LM/Goedel-Prover-V2.

cs.LG cs.AI