核心发现
方法论
TANTE采用神经网络学习高阶时间导数和局部收敛半径，通过泰勒展开实现连续时间预测。架构包括时空编码器、Transformer处理器和解码器，动态调整时间步长以适应局部复杂性。模型在多类PDE基准上验证，表现优于固定步长方法，准确率提升60-80%，推理速度提升30-40%。
关键结果
- 在Rayleigh-Bénard对流、活性物质、粘弹性流体等四个复杂PDE基准中，TANTE显著优于传统方法，平均相对L2误差降低至原来的40-50%。在推理时间上，TANTE实现了30-40%的加速，且在误差累积方面表现出更强稳定性。模型在不同复杂度和尺度下均展现出优越的适应性和泛化能力。
- 通过消融实验验证神经泰勒展开的关键作用，显示高阶导数学习和局部收敛半径估计共同提升模型性能。
- 与现有的Fourier神经算子（FNO）、U型神经算子（UNO）等相比，TANTE在复杂动态系统中的预测精度和计算效率均优越，尤其在非均匀时间变化场景中表现出明显优势。
研究意义
该研究突破了传统固定步长的限制，实现了连续时间的高效预测，极大改善了偏微分方程的数值模拟和科学计算的效率。其时间自适应机制为多尺度、多复杂性系统建模提供了新思路，有望推动天气预报、流体动力学、材料科学等领域的发展，解决长时间尺度误差积累难题，具有重要理论和应用价值。
技术贡献
提出神经泰勒展开作为连续时间预测工具，结合Transformer架构实现高阶导数和局部收敛半径的学习，创新性地实现了时间步长的动态调整。模型在多类复杂PDE任务中验证了其优越性，提供了理论保证和实践工具，为科学机器学习中的时间自适应算子学习开辟新路径。
新颖性
首次将神经泰勒展开引入偏微分方程算子学习，结合Transformer实现高阶导数和收敛半径的联合学习，突破了传统固定步长限制，开启了连续时间预测的新范式。这一方法在多尺度、多复杂系统中表现出显著优势，区别于现有的基于傅里叶变换或图神经网络的算子学习方法。
局限性
- 模型依赖于高质量训练数据，复杂系统中高阶导数的学习可能受噪声影响，导致预测不稳定。
- 在极端非线性或突变场景中，局部收敛半径估计可能不足，限制模型的适应性。
- 计算成本仍较高，尤其在高维问题中，未来需优化模型结构和训练策略。
未来方向
未来将探索多尺度、多物理场联合建模，结合物理约束增强模型的物理一致性，提升在极端条件下的稳定性。同时，优化模型结构以降低计算成本，扩展到更复杂的非线性系统和实际工程应用中。
AI 总览摘要
偏微分方程（PDE）在科学与工程中扮演核心角色，但传统数值方法在复杂多尺度系统中面临效率与精度的双重挑战。近年来，算子学习作为一种数据驱动的替代方案，借助深度神经网络模拟复杂物理过程，取得了显著进展。代表性架构如DeepONet和Fourier神经算子（FNO）通过端到端训练实现了非线性算子的逼近，推动了空间和时空域的研究发展。然而，现有方法多采用固定时间步长，难以应对物理系统中非均匀的时间演化，导致误差累积和计算效率低下。为解决这一问题，本文提出了TANTE（Time-Adaptive Transformer with Neural Taylor Expansion），一种结合神经泰勒展开的时间自适应算子学习框架。
TANTE的核心创新在于通过神经网络同时学习高阶时间导数和局部收敛半径，实现连续时间预测的自适应调节。架构包括时空编码器、Transformer处理器和解码器，前者提取空间特征并调制时间信息，后者估算导数和收敛半径，最后通过泰勒级数进行时间预测。模型在多类复杂PDE基准上验证，表现出优异的准确性和效率，误差降低60-80%，推理速度提升30-40%。
该方法突破了传统固定步长的限制，为多尺度、多复杂性系统建模提供了新工具。其时间自适应机制能根据局部动态变化调整预测步长，有效缓解误差累积，增强模型稳定性。未来，TANTE有望在天气预报、流体模拟、材料设计等领域实现更高效、更精确的科学计算，推动科学机器学习的应用边界。尽管如此，模型在高噪声环境和极端非线性场景下仍需优化，未来研究将聚焦于多物理场联合建模和物理约束集成，进一步提升其实用性和鲁棒性。
深度分析
研究背景
偏微分方程（PDE）在描述自然界多种复杂系统中起着基础性作用。传统数值方法如有限差分、有限元和谱方法，虽然成熟但在高维、多尺度和复杂几何条件下计算成本高昂。近年来，深度学习引入算子学习，通过神经网络逼近算子映射，代表性工作包括DeepONet、Fourier神经算子（FNO）和U型神经算子（UNO），极大推动了空间和时空域的研究。这些方法实现了对非线性算子的端到端逼近，适应性强，泛化能力好，但多依赖固定时间离散，难以应对动态系统中非均匀演化，误差积累成为瓶颈。随着Transformer等注意力机制的引入，模型在捕获长距离依赖方面表现出色，推动了算子学习的边界扩展。
核心问题
现有算子学习方法多采用固定时间步长，无法适应物理系统中非均匀的时间演化，导致在快速变化或突变场景中误差迅速累积，影响长时间预测的准确性。此外，固定步长还限制了模型在多尺度、多复杂性场景中的适应性和效率。如何在保证预测连续性和高精度的同时，实现时间步长的动态调节，成为亟待解决的核心问题。这不仅关系到模型的稳定性，也影响其在实际工程中的应用效果。
核心创新
本文提出神经泰勒展开结合Transformer架构，创新性地实现了时间自适应算子学习。具体包括：1）神经网络学习高阶时间导数和局部收敛半径，提供连续时间预测的理论基础；2）架构设计中引入多维注意力机制，沿时间、空间维度提取特征，提升模型表达能力；3）通过泰勒级数在局部收敛区间内进行时间推断，避免重复计算，显著提升效率。这一创新突破了传统固定步长的限制，赋予模型根据局部动态调整时间步长的能力，为复杂系统建模提供了新思路。
方法详解
- �� 输入：多帧空间数据与时间信息，经过卷积编码成空间特征。• 编码器：提取空间特征，调制时间信息。• Transformer处理器：沿时间、空间维度堆叠多层Transformer，学习高阶导数和局部收敛半径。• 解码器：利用MLP和TransCNN预测各阶导数，估算收敛区间。• 预测：在收敛区间内，将导数级数相加，得到连续时间预测。• 超出区间：采用自回归方式，利用已预测状态递推。• 损失函数：MSE结合收敛半径正则化，确保模型稳定性。
实验设计
在Rayleigh-Bénard对流、活性物质、粘弹性流体等四个复杂PDE基准上，训练TANTE-1和TANTE-2版本，比较固定步长TANTE-0。采用AdamW优化器，训练10万轮，批量大小4-32。评估指标包括相对L2误差和推理时间，进行消融实验验证高阶导数和收敛半径的重要性。模型在不同尺度和复杂性下均展现优越性能，误差降低明显，推理速度提升，验证了时间自适应机制的有效性。
结果分析
TANTE在四个基准中平均相对L2误差比固定步长模型低60-80%，推理速度提升30-40%。在误差累积方面，TANTE表现出更稳定的误差曲线，尤其在长时间预测中优势明显。消融实验显示，高阶导数学习和收敛半径估计共同提升模型性能。与FNO、UNO等相比，TANTE在复杂非线性场景中表现出更强的适应性和鲁棒性，验证了其在多尺度、多复杂系统中的优越性。
应用场景
TANTE适用于天气预报、流体动力学模拟、材料科学、地球物理等领域，尤其在需要高精度长时间预测的场景中。模型可结合物理约束，提升预测的物理一致性，适应非均匀时间演化的复杂系统。未来，结合多物理场信息，拓展到实际工程和科研中，将极大推动科学计算的效率和精度。
局限与展望
模型依赖高质量训练数据，复杂系统中高阶导数的学习可能受噪声影响，导致预测不稳定。极端非线性或突变场景中，局部收敛半径估计不足，限制模型的适应性。计算成本较高，特别在高维问题中仍需优化结构和训练策略。未来需解决这些局限，提升模型鲁棒性和实用性。
通俗解读 非专业人士也能看懂
想象你在厨房做菜，食材和火候都需要掌握得恰到好处。传统做法就像用定时器，每次设好时间，菜就一锅端，效率低且不灵活。而TANTE就像一个聪明的厨师，能根据菜的状态实时调整火候和时间，确保每一步都刚刚好。它通过学习菜的变化规律，能在不同阶段灵活调节烹饪时间，既快又准。这样，无论菜快熟还是慢炖，它都能自动调节，避免过熟或未熟，节省时间又保证质量。这个“厨师”用神经网络学习菜的变化趋势，结合泰勒展开的原理，预测未来的菜肴状态，实现了真正的时间自适应。这就像你不用一刀切，而是根据实际情况灵活调整，做出更美味的菜肴。
简单解释 像给14岁少年讲一样
想象你在学校的科学实验室里做实验，老师让你预测下一步的结果。以前你只能按照固定的步骤走，不能根据实验的变化灵活调整。现在，TANTE就像一个聪明的助手，它能观察到实验中的微妙变化，然后自己学习这些变化的规律，提前告诉你下一步可能会发生什么。它不仅能预测，还能根据情况调整自己的预测速度和细节，就像你在游戏中根据敌人的动作调整策略一样。这意味着你可以用它做更复杂、更真实的模拟，不仅快，还更准。它用一种叫神经泰勒展开的数学技巧，把未来的变化拆解成很多小部分，然后逐个预测，组合起来得到整体的结果。这样，你就可以在不同的时间点都知道未来会发生什么，而不用每次都重新开始。它就像一个超级聪明的预言家，能帮你更好地理解和预测复杂的自然现象。
原文摘要
Operator learning for time-dependent partial differential equations (PDEs) has seen rapid progress in recent years, enabling efficient approximation of complex spatiotemporal dynamics. However, most existing methods rely on fixed time step sizes during rollout, which limits their ability to adapt to varying temporal complexity and often leads to error accumulation. Here, we propose the Time-Adaptive Transformer with Neural Taylor Expansion (TANTE), a novel operator-learning framework that produces continuous-time predictions with adaptive step sizes. TANTE predicts future states by performing a Taylor expansion at the current state, where neural networks learn both the higher-order temporal derivatives and the local radius of convergence. This allows the model to dynamically adjust its rollout based on the local behavior of the solution, thereby reducing cumulative error and improving computational efficiency. We demonstrate the effectiveness of TANTE across a wide range of PDE benchmarks, achieving superior accuracy and adaptability compared to fixed-step baselines, delivering accuracy gains of 60-80 % and speed-ups of 30-40 % at inference time. The code is publicly available at https://github.com/zwu88/TANTE for transparency and reproducibility.