核心发现
方法论
本文提出一种保守漂移方法，用于一步生成模型。该方法以核密度估计（KDE）梯度速度替代传统基于位移的漂移速度，具体为核平滑数据得分与模型得分之差，形成梯度场，解决了传统漂移速度非保守的问题。通过联合熵恒等式，建立了在欧氏空间上的连续时间有限粒子收敛界，涵盖经验Stein漂移、KDE平滑Fisher差异及中心速度平方。主要有限粒子修正项为倒数KDE自交互项，论文给出确定性及高概率的局部占据条件以控制该项。明确追踪了象限积分常数及其带宽依赖，证明在h-均匀象限规则条件下，残差速度根速率为N^{-1/(d+4)}，更一般增长条件下可达优化根速率N^{-(2-β)/(2(d+4-β))}，其中0≤β<2。此外，分析了基于拉普拉斯核的非保守漂移方法，利用锐伴核分解速度，揭示了不可避免的残差项及对应有限粒子收敛率。最后，阐述了连续时间残差速度界如何通过显式漂移步长η转化为一步生成保证。
关键结果
- 通过联合熵恒等式，证明保守漂移方法的经验Stein漂移在时间平均意义下以HN(0)/(NT)+ahΛT/N为界，明确了有限粒子系统的收敛速率。
- 在带宽h的象限规则条件下，残差速度的根速率达到N^{-1/(d+4)}，更一般条件下优化为N^{-(2-β)/(2(d+4-β))}，其中β反映KDE得分场的正则性。
- 非保守漂移方法（拉普拉斯核）中，速度可分解为正标量预调的锐得分差异与拉普拉斯尺度不匹配残差，导致有限粒子收敛率中存在不可避免的残差项，体现了该方法的固有限制。
研究意义
本研究针对一步生成模型中的漂移速度非保守性问题提出了理论严谨的保守漂移方法，填补了传统基于位移漂移速度缺乏梯度场结构的空白。通过精细的有限粒子分析，明确了核密度估计梯度漂移的收敛速率及其带宽依赖，提升了理论理解深度。该方法不仅解决了漂移速度非保守导致的稳定性和收敛性问题，也为一步生成模型的训练与推断提供了更坚实的数学基础，推动了生成模型领域向高效、稳定一步采样方向发展。
技术贡献
本文的技术贡献包括：1）提出基于KDE梯度的保守漂移速度，恢复了漂移速度的梯度场结构，解决了传统位移漂移速度非保守的问题；2）建立了连续时间有限粒子联合熵恒等式，导出了经验Stein漂移、平滑Fisher差异及中心速度的收敛界；3）引入倒数KDE自交互修正项及其局部占据条件，保证有限粒子系统的稳定性；4）明确追踪象限积分常数及带宽依赖，给出带宽优化策略及收敛速率；5）对非保守拉普拉斯漂移方法进行了伴核分解，揭示了不可避免的残差项及其对收敛率的影响，丰富了漂移模型的理论框架。
新颖性
本论文首次系统地从有限粒子联合熵视角，严格分析了基于核密度估计梯度的保守漂移方法的收敛速率，突破了以往漂移模型非保守漂移速度的理论瓶颈。相比于Deng等人2026年提出的非保守位移漂移速度，本文不仅恢复了漂移速度的梯度场结构，还首次引入了倒数KDE自交互修正项及其局部占据条件，提供了更细致的有限粒子误差控制和带宽依赖分析，显著提升了理论深度和适用范围。
局限性
- 保守漂移方法依赖于核函数的高阶平滑性，排除了非光滑核如拉普拉斯核的直接应用，限制了方法的通用性。
- 倒数KDE自交互项的控制依赖于局部占据条件和带宽选择，实际应用中对数据分布和带宽调节有较高要求，可能影响稳定性。
- 非保守漂移方法中存在不可避免的尺度不匹配残差，导致收敛率受限，尚无有效方法完全消除该残差。
未来方向
未来工作可聚焦于扩展保守漂移方法对非光滑核函数的适用性，如引入平滑正则化的拉普拉斯核；进一步研究倒数KDE自交互项的动态控制机制，提升算法稳定性和鲁棒性；探索多步漂移策略与保守漂移结合，优化一步生成的精度与效率；以及将理论分析推广至复杂数据分布和高维场景，推动理论与实践的深度融合。
AI 总览摘要
生成模型是现代机器学习的重要方向，尤其是一步生成模型因其高效推断而备受关注。然而，现有基于位移的漂移速度存在非保守性问题，导致训练和生成过程中的稳定性和收敛性受限。本文针对这一核心瓶颈，提出了一种基于核密度估计梯度的保守漂移方法，替代传统的位移漂移速度，恢复了漂移速度的梯度场结构，从根本上解决了非保守漂移速度带来的理论和实践难题。
该方法通过计算核平滑后的数据得分与模型得分之差，构造出一个保守的漂移速度场，确保粒子系统的动力学具有良好的数学性质。作者基于联合熵恒等式，建立了连续时间下有限粒子系统的收敛界，涵盖经验Stein漂移、平滑Fisher差异及中心速度的平方，并引入倒数KDE自交互修正项以精细控制有限粒子误差。通过明确追踪象限积分常数及其带宽依赖，论文给出了收敛速率的精确表达，证明在合理带宽选择下，残差速度的根速率可达到N^{-1/(d+4)}，更一般条件下优化为N^{-(2-β)/(2(d+4-β))}。
此外，论文还对非保守漂移方法进行了深入分析，特别是基于拉普拉斯核的位移漂移速度。通过引入锐伴核分解漂移速度，揭示了该方法中不可避免的尺度不匹配残差及其对有限粒子收敛率的影响，进一步凸显了保守漂移方法的优势和必要性。最后，作者阐述了如何利用连续时间残差速度界，通过显式漂移步长η转化为一步生成的理论保证，连接理论分析与实际生成过程。
本研究不仅填补了漂移模型非保守漂移速度的理论空白，也为一步生成模型的设计与优化提供了坚实的数学基础。其提出的保守漂移方法及有限粒子收敛率分析，为生成模型领域提供了新的视角和工具，有望推动高效、稳定一步生成技术的发展。
未来，研究可进一步拓展保守漂移方法对非光滑核的适用性，优化倒数KDE自交互项的控制策略，并结合多步漂移技术提升生成质量。此外，将理论推广至高维复杂数据分布，将促进理论与实际应用的深度融合，助力生成模型在更多实际场景中的广泛应用。
深度分析
研究背景
生成模型近年来成为机器学习领域的研究热点，尤其是基于扩散和得分匹配的模型在图像、语音等多模态数据生成中取得了显著进展。传统生成方法多依赖于多步采样过程，推断时间长且计算资源消耗大。为此，Deng等人于2026年提出漂移模型，通过训练时直接移动模型分布，实现一步生成，极大提升了推断效率。漂移模型的核心是设计漂移速度场，使得粒子分布逐渐逼近目标数据分布。然而，传统基于位移的漂移速度通常非保守，缺乏梯度场结构，导致理论分析困难且训练稳定性差。为解决这一问题，近年来学者开始关注漂移速度的保守性及其对生成性能的影响，尝试通过核密度估计等方法恢复漂移速度的梯度结构，提升模型的理论严谨性和实用性。
核心问题
核心问题在于传统漂移模型所采用的基于位移的漂移速度一般不是保守场，即其速度场无法表示为某个势函数的梯度，导致动力学系统缺乏良好的数学性质，难以保证有限粒子系统的稳定性和收敛性。此外，非保守漂移速度中存在位置依赖的归一化因子，进一步破坏了梯度场结构。该问题不仅限制了漂移模型的理论分析，也影响了实际训练过程中的稳定性和生成质量。如何设计既保守又能有效逼近目标分布的漂移速度，成为一步生成模型领域亟待解决的难题。
核心创新
本文的核心创新包括：
- �� 提出基于核密度估计梯度的保守漂移速度，替代传统的位移漂移速度，恢复漂移速度的梯度场结构，解决非保守性问题。
- �� 利用联合熵恒等式建立连续时间有限粒子系统的收敛界，涵盖经验Stein漂移、KDE平滑Fisher差异及中心速度平方，首次引入倒数KDE自交互修正项及其局部占据条件，精细控制有限粒子误差。
- �� 明确追踪象限积分常数及带宽依赖，提出带宽优化策略，实现残差速度根速率的理论最优。
- �� 对非保守漂移方法（拉普拉斯核）进行伴核分解，揭示尺度不匹配残差及其对收敛率的影响，丰富漂移模型理论框架。
这些创新不仅解决了漂移速度非保守的根本问题，也为有限粒子系统的理论分析提供了新工具。
方法详解
- �� 设计保守漂移速度：利用核密度估计（KDE）计算数据分布和模型分布的平滑得分，构造漂移速度为两者得分差，形成梯度场。
- �� 粒子动力学建模：定义有限粒子系统的中心评估动力学，粒子速度依赖于整个粒子配置，通过ODE描述粒子演化。
- �� 联合熵恒等式推导：引入联合相对熵作为分析工具，推导出漂移速度与联合熵变化的关系，揭示经验Stein漂移与倒数KDE自交互项的作用。
- �� 倒数KDE自交互项控制：提出局部占据条件和高概率控制策略，保证该项不会导致数值不稳定。
- �� 象限积分常数及带宽依赖分析：追踪高阶导数对误差的影响，建立带宽与误差之间的权衡关系，提出最优带宽选择方案。
- �� 非保守漂移方法分析：针对拉普拉斯核漂移速度，利用锐伴核分解速度为得分差预调与尺度残差，推导有限粒子收敛率并揭示残差不可避免性。
- �� 一步生成保证：通过显式漂移步长η，将连续时间残差速度界转化为一步生成误差保证，连接理论与实践。
实验设计
论文主要基于理论分析和数学推导，未涉及具体数据集的实证实验。理论框架适用于任意维度欧氏空间，分析涵盖了带宽h的不同选择及其对收敛速率的影响。通过对比高斯核和拉普拉斯核的漂移速度，展示了保守漂移方法在理论收敛性和误差控制上的优势。文中还提出了局部占据条件和象限积分常数的具体假设，为实际算法设计提供指导。虽然缺乏实证数据验证，但理论结果为后续算法实现和实验提供了坚实基础。
结果分析
本文证明了保守漂移方法在有限粒子系统中具有明确的连续时间收敛界，联合熵恒等式揭示经验Stein漂移和倒数KDE自交互项的作用，残差速度的根速率在合理带宽选择下达到N^{-1/(d+4)}，更一般条件下优化为N^{-(2-β)/(2(d+4-β))}。此外，非保守拉普拉斯漂移速度存在不可避免的尺度不匹配残差，限制了收敛率。理论分析表明，合理控制倒数KDE自交互项和带宽选择是实现稳定生成的关键。最后，明确漂移步长η与残差速度界的关系，为一步生成提供了理论保证。
应用场景
保守漂移方法适用于高效一步生成模型的设计，特别是在需要快速采样且对生成质量有较高要求的场景，如图像生成、语音合成和强化学习中的策略生成。该方法通过恢复漂移速度的梯度场结构，提高了训练稳定性和理论可解释性，适合嵌入现有生成框架中以提升性能。此外，理论分析为带宽调节和粒子数选择提供指导，有助于实际算法的参数优化和鲁棒性提升。
局限与展望
保守漂移方法依赖于核函数的高阶平滑性，限制了对非光滑核如拉普拉斯核的直接应用，影响方法的通用性。倒数KDE自交互项的控制依赖于局部占据条件和带宽选择，实际应用中对数据分布和带宽调节要求较高，可能导致数值不稳定。非保守漂移方法中存在不可避免的尺度不匹配残差，尚无有效方法完全消除，限制了其收敛性能和生成质量。
原文摘要
We propose and analyze a conservative drifting method for one-step generative modeling. The method replaces the original displacement-based drifting velocity by a kernel density estimator (KDE)-gradient velocity, namely the difference of the kernel-smoothed data score and the kernel-smoothed model score. This velocity is a gradient field, addressing the non-conservatism issue identified for general displacement-based drifting fields. We prove continuous-time finite-particle convergence bounds for the conservative method on $\R^d$: a joint-entropy identity yields bounds for the empirical Stein drift, the smoothed Fisher discrepancy of the KDE, and the squared center velocity. The main finite-particle correction is a reciprocal-KDE self-interaction term, and we give deterministic and high-probability local-occupancy conditions under which this term is controlled. We keep the quadrature constants explicit and track their possible bandwidth dependence: the root residual-velocity rate $N^{-1/(d+4)}$ holds under an additional $h$-uniform quadrature regularity condition, while a more general growth condition yields the optimized root rate $N^{-(2-β)/(2(d+4-β))}$, where $0\le β<2$. We also analyze the non-conservative drifting method with Laplace kernel, corresponding to the original displacement-based velocity proposed in~\cite{deng2026drifting}. For this method, a sharp companion kernel decomposes the velocity into a positive scalar preconditioning of a sharp-score mismatch plus a Laplace scale-mismatch residual, producing an analogous finite-particle rate with an unavoidable residual term. Finally, we explain how the continuous-time residual-velocity bounds translate into one-step generation guarantees through the explicit drift size $η$.