核心发现
方法论
本文从第一性原理出发，将序列预测问题转化为部分观察系统的最优控制问题。采用两类模型：非线性离散值过程（受Transformer启发）和线性高斯过程（可解析基线）。通过求解对应的最优控制问题，推导出与Transformer层类似的推理算法——对偶滤波器。非线性模型利用贝叶斯滤波，线性模型借助卡尔曼滤波，二者都通过Pontryagin最大原理得到层操作公式。数值实验对比了最优控制权重与训练Transformer的注意力权重，揭示Transformer在嵌入维度不足时，隐式利用非马尔可夫结构。
关键结果
- 提出的最优控制架构在两类模型中均能获得与Transformer类似的层操作结构，且在高维嵌入下表现优异。线性高斯模型的推导提供了闭式解，复杂度从Kalman滤波的O(T^3d^2)降低到O(T^2d^2)。数值实验显示，当嵌入维度不足时，Transformer通过注意力机制隐式捕获非马尔可夫信息，超越传统滤波器性能。
- 在二周期隐藏马尔可夫模型中，训练的nanoGPT注意力权重与最优控制权重高度一致，特别是在关键的“1”符号出现位置。不同模型阶数下，Transformer表现出对非马尔可夫结构的鲁棒性，优于线性滤波器。
- 通过引入非线性贝叶斯滤波和最优控制的结合，本文为Transformer的数学基础提供了新视角，为未来非马尔可夫和非线性模型的推理架构奠定基础。
研究意义
该研究突破了Transformer层结构的数学理解边界，将其归结为最优控制问题的解，揭示了深度学习模型在序列预测中的内在机制。这不仅丰富了贝叶斯推断与控制理论的交叉研究，也为设计更高效、更具解释性的推理架构提供了理论基础。尤其在模型维度不足时，Transformer能隐式利用非马尔可夫信息，展示其在复杂序列建模中的优势。该框架为未来非线性和非马尔可夫序列的推断提供了系统性解决方案，有望推动自然语言处理、时间序列分析等领域的技术革新。
技术贡献
本文首次将Transformer的推理过程从架构设计转化为最优控制问题，推导出对应的层操作公式。在线性高斯模型中，利用Pontryagin最大原理获得闭式解，显著降低推理复杂度。对于非线性模型，建立贝叶斯滤波的最优控制框架，提出了基于贝叶斯滤波的对偶滤波器，揭示了Transformer层的数学本质。该方法实现了从第一性原理到具体算法的无缝连接，为深度学习模型提供了理论支撑。
新颖性
本研究首次系统性地将Transformer的层结构由经验设计转化为最优控制问题的解，特别是在非线性离散和非马尔可夫模型中实现了推理架构的理论推导。与以往关注注意力机制的解释不同，本文从贝叶斯推断和控制角度出发，揭示了Transformer隐式利用非马尔可夫信息的机制。这是该领域首次用严格数学框架解释Transformer的层操作，具有开创性意义。
局限性
- 当前模型主要在隐藏马尔可夫模型（HMM）假设下推导，非马尔可夫扩展仍待验证，实际应用中模型参数估计复杂。
- 数值实验多在理想条件下进行，实际场景中的噪声、模型偏差可能影响性能。
- 高维嵌入和复杂序列可能带来计算瓶颈，需进一步优化算法效率。
未来方向
未来将扩展非马尔可夫模型的理论框架，研究多阶非马尔可夫序列的推理架构。结合深度学习优化技术，提升算法的实用性和鲁棒性。同时探索非线性模型的闭式解和近似算法，推动其在自然语言处理、时间序列预测等实际场景中的应用。
AI 总览摘要
本研究从基础原理出发，提出了一种基于最优控制的Transformer推理架构。传统Transformer通过堆叠多层自注意力机制实现序列预测，但其数学基础尚不清晰。本文将预测问题转化为部分观察系统的最优控制问题，利用贝叶斯滤波和Pontryagin最大原理，推导出与Transformer层类似的操作结构。在线性高斯模型中，获得了闭式解，显著降低了推理复杂度，验证了其有效性。对于非线性离散模型，建立了贝叶斯滤波的最优控制框架，提出了对偶滤波器，揭示了Transformer在捕获非马尔可夫信息中的作用。数值实验显示，训练的Transformer注意力权重与最优控制权重高度一致，特别在嵌入维度不足时，Transformer能隐式利用非马尔可夫结构，超越传统滤波器。这一发现为Transformer的数学理解提供了新视角，也为未来非线性和非马尔可夫模型的推理架构奠定了理论基础。该框架不仅丰富了深度学习与控制理论的交叉研究，也为提升序列模型的解释性和性能开辟了新路径。尽管如此，模型在复杂场景和大规模数据中的应用仍面临挑战，未来将致力于扩展非马尔可夫模型的理论和算法优化。整体而言，本文为理解和设计下一代序列推理模型提供了坚实的数学基础，具有重要的学术和应用价值。
深度解读
原文摘要
Decoder-only transformers compute the conditional probability of the next token from a sequence of past observations. This paper derives, from first principles, inference architectures that solve the same prediction problem - and in doing so, recovers transformer-like layer operations as a consequence of optimal control theory. The framework is developed for two model classes: a nonlinear model of discrete-valued processes, directly motivated by the transformer, and a linear Gaussian model as a tractable baseline. For both model classes, the prediction objective is reformulated as an optimal control problem whose solution yields an explicit inference algorithm, the dual filter, with a layer structure that mirrors the layer structure of a decoder-only transformer. Numerical experiments provide a comparison of the optimal control to attention weights from a trained transformer. These experiments reveal that when the embedding dimension is insufficient, the transformer implicitly exploits non-Markovian structure.