核心发现
方法论
本研究将偏微分方程(PDE)求解转化为代码生成任务，设计了五步框架：任务描述、代码生成、调试、评估与优化。利用链式思考(prompting)引导模型探索多种数值方案，结合自动调试机制修正错误，通过多轮自我优化提升解的精度。采用多模型测试和自适应扩展策略，提升推理能力和解的可靠性。核心算法包括基于GPT-4、Gemini 2.5 Pro等模型的推理与调试机制，结合best-of-n采样实现测试时扩展。
关键结果
- 在五类代表性PDE（如Burgers、Reaction-Diffusion等）上，经过调试与优化，LLMs生成的求解器在nRMSE指标上超越传统数值软件，Burgers方程精度提升70%，达到1.06×10^-4。多模型集成和自我修正显著提高了bug-free率，从41%提升至84%。在测试时扩展策略下，解的准确性随采样数增加而提升，最大提升幅度在n=4到16之间。
- 不同模型在生成复杂求解器方面表现差异显著，先进推理模型（如o3、DeepSeek-R1）在从零生成方面优于标准模型（如GPT-4o），但在细节优化阶段表现相似。调试机制使得大部分模型在多轮调试后达到或优于手工编码的标准求解器，Bug-free率超过90%。
- 通过系统性分析，发现模型在复杂任务中存在可靠性与复杂性之间的权衡，模型在生成高阶数值方案时更易出错，但调试和自我优化能有效缓解这一问题。测试时扩展策略的效果在不同PDE上表现一致，验证了方法的普适性。
研究意义
本研究突破了传统偏微分方程求解器依赖专家知识和繁琐调试的瓶颈，展示了大语言模型在科学计算中的潜力。通过将代码生成与推理、调试、优化相结合，极大降低了求解器开发门槛，为自动化科学计算提供了新途径。这不仅推动了AI在数学和物理模拟中的应用，也为未来智能科学引擎的构建奠定基础。
技术贡献
本文提出了结合链式推理、自动调试和测试时扩展的多模型集成框架，首次系统性评估了多模型在偏微分方程求解中的能力。创新点包括：将偏微分方程求解转化为代码生成任务，设计了多轮自我调试机制，以及利用多模型集成实现解的稳健性提升。该框架兼容多种模型和推理策略，为科学计算中的AI赋能提供了新思路。
新颖性
本工作首次将大语言模型应用于偏微分方程求解器的自动代码生成，系统性结合推理、调试和扩展策略，超越了以往仅关注单一模型或有限调试的研究。提出的多轮自我调试和测试时扩展机制，为模型在复杂科学任务中的可靠性提供了新解决方案，填补了AI在科学计算中的应用空白。
局限性
- 模型在处理极端非线性或高维PDE时仍存在精度不足和稳定性问题，部分复杂问题难以通过现有调试策略修正。
- 调试轮次和模型规模对性能影响显著，计算成本较高，实际部署仍需优化。
- 对某些特殊边界条件和复杂几何的适应性有限，未来需结合几何信息增强模型理解能力。
未来方向
未来将结合物理信息引导的学习策略，提升模型对复杂边界和高维问题的适应性。探索多模态数据融合，增强模型的泛化能力。此外，计划开发更高效的调试算法和自我修正机制，降低计算成本，推动AI在科学计算中的广泛应用。
AI 总览摘要
偏微分方程（PDE）在科学与工程中扮演核心角色，但传统求解器依赖专家知识，调试繁琐且计算成本高。近年来，深度学习方法虽能自动化求解，但缺乏透明性和泛化能力。本文提出CodePDE框架，利用大语言模型（LLMs）将偏微分方程求解转化为代码生成任务。通过链式推理引导模型探索多种数值方案，结合自动调试、多轮优化和测试时扩展策略，实现高质量求解器的自动生成。实验在五类代表性PDE（如Burgers、Reaction-Diffusion）上，结果显示经过调试与优化的模型在nRMSE指标上超越传统软件，Bug-free率从41%提升至84%，解的准确性随采样数增加而提升。不同模型在生成复杂求解器方面表现差异显著，先进推理模型在从零生成方面优于标准模型，但在细节优化阶段表现相似。调试机制极大提高了模型的可靠性，使得多轮调试后，绝大多数模型能达到或优于手工编码的标准。该框架的普适性和可扩展性，为未来自动化科学计算提供了新思路，推动AI在数学和物理模拟中的应用。尽管如此，模型在高维复杂问题中仍面临挑战，未来将结合物理信息引导策略，提升泛化能力和效率。总体而言，CodePDE展现了大语言模型在科学计算中的巨大潜力，为智能科学引擎的构建提供了坚实基础。
深度分析
研究背景
偏微分方程（PDE）广泛应用于描述自然界中的复杂现象，如流体动力学、反应扩散和弹性力学。传统数值方法如有限差分（FDM）、有限元（FEM）和谱方法（Spectral）在理论上提供收敛保证，但实现复杂、计算成本高，尤其在高维问题中表现突出。近年来，深度学习方法如PINNs和神经算子试图突破传统瓶颈，但面临泛化不足和缺乏透明性的问题。大语言模型（如GPT-4、Gemini）在代码生成和数学推理方面展现出强大能力，为自动化求解提供新可能。此前研究多集中在模型训练和特定任务，缺乏系统性框架整合推理、调试和扩展策略，限制了其实际应用。
核心问题
偏微分方程求解器的开发依赖专家知识和繁琐调试，难以普及到非专业用户。传统方法虽有效，但在复杂边界条件、高维空间和非线性问题上表现不足。深度学习模型虽能自动生成代码，但缺乏鲁棒性和可解释性，难以保证解的可靠性。现有方法难以实现快速、多样化且高精度的求解器，限制了其在实际工程中的应用。如何利用大模型的推理能力，自动生成高质量、可靠的偏微分方程求解器，成为亟待解决的关键问题。
核心创新
本研究的核心创新在于：
1) 将偏微分方程求解转化为代码生成任务，利用大模型的自然语言理解和推理能力自动设计数值方案；
2) 设计了多轮自我调试机制，模型在运行失败后能自主修正错误，显著提升求解器的可靠性；
3) 采用多模型集成和best-of-n采样策略，实现测试时的解质量扩展，提升解的准确性；
4) 构建了完整的五步框架，从任务描述到优化，系统性整合推理、调试和扩展技术，为科学计算中的AI赋能提供新范式。这些创新突破了传统方法的局限，显著提升了模型在复杂科学任务中的表现。
方法详解
- �� 任务描述：将偏微分方程的定义、边界条件和初始条件转化为自然语言描述，输入模型。
- �� 代码生成：利用链式推理(prompting)引导模型生成完整求解器代码，包括数值方案和辅助函数。
- �� 调试：执行生成代码，检测错误，利用模型自主诊断和修正，进行多轮调试直到满足要求。
- �� 评估：通过数值误差、收敛性和运行时间指标评价求解器性能。
- �� 优化：将误差信息反馈给模型，指导其改进代码，提升解的精度和稳定性。
- �� 测试时扩展：采用best-of-n采样策略，通过多次推理选择最优解，增强解的可靠性。
实验设计
在五类典型PDE（如Advection、Burgers、Reaction-Diffusion、CNS、Darcy）上，采样100个实例，利用16个不同模型进行测试。比较标准数值软件、神经网络求解器和基于模型的自动生成器。指标包括nRMSE、调试成功率、收敛性和运行时间。采用多轮调试和自我优化策略，验证模型在复杂任务中的表现。通过ablation研究分析调试、扩展和模型规模对性能的影响，确保方法的普适性和鲁棒性。
结果分析
LLMs在五类PDE上生成的求解器在nRMSE指标上优于传统软件，Burgers方程精度达1.06×10^-4，超越手工编码的3.55×10^-4。调试机制显著提高Bug-free率，从41%提升至84%。多模型集成和扩展策略使解的准确性随采样数增加而提升，最大提升在n=4到16之间。不同模型表现差异明显，先进推理模型在从零生成方面优于标准模型，但在细节优化阶段相似。调试轮次和模型规模对性能影响显著，未来需优化计算成本。
应用场景
该方法可应用于工程设计、物理模拟、气候建模等领域，用户只需提供问题描述，即可自动生成求解器，降低专业门槛。对于科研人员，提供快速验证和探索新模型的工具；工业界则可实现高效、可靠的偏微分方程求解，推动智能制造和仿真技术发展。未来结合物理信息引导和几何理解，将进一步拓展其应用范围。
局限与展望
模型在高维复杂或极端非线性问题上仍存在稳定性和精度不足的问题，调试轮次和模型规模限制了效率。部分特殊边界条件和几何形状难以适应，需结合几何信息增强模型理解能力。计算成本较高，实际部署需优化推理和调试流程。未来需解决泛化能力不足和复杂场景适应性的问题，推动模型在更广泛科学问题中的应用。
通俗解读 非专业人士也能看懂
想象你在一家工厂里，工厂需要制造各种复杂的机械设备。传统上，你必须由经验丰富的工程师设计每个设备的详细图纸和制造流程，这既费时又容易出错。现在，如果有一种智能助手，能根据你简单描述的需求，自动写出详细的制造步骤和图纸，并在发现错误时自己修正，工厂的效率就会大大提高。这就像是用AI帮你写程序、调试代码一样。这个研究就是让大语言模型成为这样的智能助手，自动生成解决偏微分方程的“制造流程”。它可以理解复杂的数学问题，自动设计出数值算法，自己检测和修正错误，最终帮科学家和工程师更快、更准确地解决问题。就像你用语音描述想要的菜谱，AI自动写出完整的做法，还能自己试错和改进，变得越来越厉害。这种技术未来可以让科学研究变得更快、更智能，甚至让没有专业背景的人也能用上复杂的数学工具。
简单解释 像给14岁少年讲一样
想象你在玩一个超级复杂的游戏，你需要设计一个策略来赢得比赛。以前，你得花很多时间学习各种技巧，还要不断试错，才能找到最好的方法。现在，假如有个聪明的朋友，他能听你描述你的目标，然后帮你写出详细的攻略，还能自己检查哪里出错了，帮你改正。你只需要告诉他你的目标，他就能帮你设计出一套完整的方案，而且还能不断改进，让策略变得更厉害。这就像是用AI帮你写程序、调试代码一样。这个研究让大语言模型变成了这样的“聪明朋友”，它可以根据数学问题自动写出解决方案，自己找错误并修正。虽然它还不是完美，但已经能在很多复杂问题上表现得很好。未来，它可以帮助科学家更快地解决难题，也让普通人更容易用到复杂的数学工具，就像有个超级助手一样。
原文摘要
Partial differential equations (PDEs) are fundamental to modeling physical systems, yet solving them remains a complex challenge. Traditional numerical solvers rely on expert knowledge to implement and are computationally expensive, while neural-network-based solvers require large training datasets and often lack interpretability. In this work, we frame PDE solving as a code generation task and introduce CodePDE, the first inference framework for generating PDE solvers using large language models (LLMs). With CodePDE, we present a thorough evaluation on critical capacities of LLM for PDE solving: reasoning, debugging, self-refinement, and test-time scaling. CodePDE shows that, with advanced inference-time algorithms and scaling strategies, LLMs can achieve strong performance across a range of representative PDE problems. We also identify novel insights into LLM-driven solver generation, such as trade-offs between solver reliability and sophistication, design principles for LLM-powered PDE solving agents, and failure modes for LLM on hard tasks. These insights offer guidance for building more capable and reliable LLM-based scientific engines.