核心发现
方法论
本文提出TQS，通过将模型的前向传播视为离散时间动力系统，分析量化误差在预测轨迹中的传播与放大。具体方法包括：定义模型映射Fθ，量化引入扰动Q(θ)，并计算在预测时间Tmax内轨迹差异的增长率。采用Lyapunov思想，提出γ指标衡量扰动放大程度，且引入高斯噪声代理γgauss实现敏感度预估，解耦量化参数选择。基于此，设计TQS-PTQ混合精度调度算法，无需校准数据或二阶近似，支持黑盒模型。
关键结果
- 在Aurora-small、TimesFM-2.5和Pangu-Weather三大天气预测模型上，TQS-PTQ显著优于传统方法，实现最高达32倍压缩比，误差仅增加1%左右。实验显示，TQS能有效识别关键敏感层，优化量化策略，提升模型压缩效率。
- TQS在不同架构中表现出层敏感性集中在输入输出模块，偏离传统关注全连接层的趋势。其敏感性排序在多模型中高度一致，支持跨模型迁移。
- 无需校准数据，单次敏感性扫描即可支持多目标压缩，显著降低调优成本，提升部署速度。
研究意义
该研究将时间序列模型的量化问题转化为动力系统稳定性分析，提供了全新的理论框架。突破了传统敏感度分析依赖梯度或二阶信息的限制，为高效低精度部署提供了科学依据。特别适用于天气预报等对实时性和物理一致性要求极高的场景，有助于推动模型在资源受限环境中的应用普及。该方法的无校准特性极大简化了工业部署流程，具有广泛的应用潜力。
技术贡献
本文提出的TQS指标创新性地将模型扰动的传播行为用Lyapunov指数量化，解耦了量化策略与敏感性评估。引入高斯噪声代理实现敏感度预估，避免了二阶近似的计算成本。基于此，设计了无需校准数据的混合精度调度算法TQS-PTQ，支持多目标压缩，提升了模型压缩的灵活性和效率。这一框架为时间序列模型的低精度部署提供了理论基础和工程实践路径。
新颖性
首次将时间序列模型的量化敏感性分析系统性地引入动力系统稳定性视角，提出Lyapunov指数作为敏感性指标。不同于传统基于梯度或Hessian的敏感度评估方法，TQS通过轨迹差异的指数增长率实现无偏、无需校准的敏感性排序，为模型压缩提供了全新思路。该方法在天气预报模型中表现出优越的迁移性和实用性，填补了该领域的研究空白。
局限性
- 当前TQS主要适用于离散时间模型，对于连续时间系统的扩展尚未实现，可能影响某些连续时间物理模型的应用效果。
- 在极端非线性或高维状态空间中，Lyapunov指数的估计可能存在偏差，影响敏感性排序的准确性。
- 虽然无需校准数据，但在某些复杂模型中，敏感性排序可能受模型结构和参数初始化影响，需进一步验证鲁棒性。
未来方向
未来将探索TQS在连续时间系统中的扩展，结合非线性Lyapunov方法提升估计精度。同时，计划结合自适应扰动策略，动态调整量化参数，进一步优化模型性能。此外，将研究多模态、多任务场景下的敏感性迁移和泛化能力，推动该方法在更广泛应用中的落地。
AI 总览摘要
本研究提出了一种基于动力系统稳定性分析的轨迹敏感度评分（TQS），用于评估时间序列模型的量化风险。传统的后训练量化（PTQ）方法多依赖梯度或二阶信息，难以捕捉长时间预测中误差的累积与放大。本文创新性地将模型的前向传播视为离散时间动力系统，利用Lyapunov指数衡量扰动在预测轨迹中的增长率，从而实现对模型敏感层的系统识别。TQS通过引入高斯噪声代理，解耦了敏感性估计与具体量化参数，支持无校准数据的快速评估。基于此，设计了TQS-PTQ混合精度调度算法，支持多目标压缩，显著提升了天气预报模型的压缩比与准确性。实验证明，该方法在Aurora-small、TimesFM-2.5和Pangu-Weather三大模型上，达到了最高32倍压缩比，误差仅增加1%左右，优于现有主流方法。该技术的核心优势在于其理论基础的普适性和工程实现的高效性，为时间序列模型的低精度部署提供了全新的解决方案。未来，将结合连续系统分析和动态扰动调节，进一步拓展其应用范围，推动模型在资源有限环境中的广泛应用。整体而言，TQS为模型压缩与部署提供了科学、稳健的理论支撑，具有重要的学术价值和实际意义。
深度分析
研究背景
随着深度学习在时间序列预测中的广泛应用，模型的复杂度不断提升，导致部署成本增加。传统的模型压缩技术如剪枝、量化等虽取得一定成果，但在长时间预测中误差累积问题尚未有效解决。近年来，模型敏感度分析成为研究热点，诸如梯度和Hessian基方法已被应用于敏感层识别，但多依赖梯度信息，难以应对黑盒模型和大规模数据。天气预报模型如Aurora、Pangu-Weather等对模型压缩提出了更高要求，既要保证物理一致性，又要实现高压缩比。现有技术在应对长时间、多变量、多尺度的时间序列中表现不足，亟需一种稳健、无校准、可迁移的敏感性评估方法。
核心问题
核心问题在于如何在不依赖梯度信息的情况下，准确评估时间序列模型在量化过程中的敏感层。传统敏感度分析多关注单一层或局部梯度，难以反映长时间预测中误差的累积与放大。而在天气预报等应用中，模型的物理一致性和稳定性尤为重要，误差的放大可能导致物理不合理的结果。现有方法缺乏对模型整体动态行为的理解，无法有效指导混合精度调度，限制了模型在资源受限环境中的应用。
核心创新
本研究的创新点在于：1）提出轨迹敏感度评分（TQS），将模型的前向传播视为离散动力系统，利用Lyapunov指数度量扰动在预测轨迹中的指数增长，从而系统识别敏感层；2）引入高斯噪声代理γgauss，实现敏感性预估的无偏、无校准，解耦量化参数选择；3）设计无需校准数据的TQS-PTQ混合精度调度算法，支持多目标压缩，提升模型部署效率。这些创新突破了传统敏感度分析的局限，为时间序列模型的低精度部署提供了理论基础和工程路径。
方法详解
- �� 定义模型映射Fθ，描述完整精度模型的前向传播过程。• 量化引入扰动Q(θ)，形成扰动模型˜xt+1=F˜θ(˜xt)，其中˜θ=Q(θ)。• 计算在预测时间Tmax内，轨迹差异的增长率γ，作为扰动放大的指标。• 利用Lyapunov指数思想，定义γ衡量扰动在轨迹中的指数增长或衰减。• 引入γgauss，用高斯噪声模拟量化扰动，估算敏感性排序，解耦量化参数。• 设计TQS-PTQ算法，通过单次敏感性扫描支持多目标压缩，避免多次校准。• 层敏感性排序后，采用多目标优化调度不同精度层，实现压缩与精度的平衡。
实验设计
- �� 采用Aurora-small、TimesFM-2.5和Pangu-Weather三大天气模型，评估TQS-PTQ的性能。• 比较基线包括均匀量化、GPTQ、GPTAQ和QEP等，指标为MAE、RMSE和相对误差。• 通过不同压缩比（最高达32倍）测试模型精度变化，验证TQS的敏感性排序效果。• 进行层敏感性迁移和鲁棒性验证，确保在不同模型和任务中的适用性。• 采用单次敏感性扫描，支持多目标调度，显著降低调优成本。
结果分析
- �� TQS-PTQ在Aurora-small、TimesFM-2.5和Pangu-Weather模型上，压缩比最高达32倍，误差仅增加1%，优于传统方法。• 在不同模型中，敏感层主要集中在输入输出模块，偏离以往关注全连接层的趋势。• 单次敏感性扫描支持多目标压缩，调优效率提升3-5倍，显著降低部署成本。• 实验还显示，敏感性排序在不同架构中高度一致，支持迁移学习。
应用场景
- �� 适用于天气预报、气候模拟等对模型物理一致性要求高的场景，能在保证精度的同时大幅压缩模型。• 支持黑盒模型和无校准数据环境，简化工业部署流程。• 未来可结合动态扰动调节，实时优化模型性能，推动模型在边缘设备和资源有限环境中的应用。
局限与展望
- �� 当前方法主要适用于离散时间模型，连续时间系统的扩展仍待研究。• 在极端非线性或高维状态空间中，Lyapunov指数估计可能偏差，影响敏感性排序的准确性。• 模型结构复杂或参数初始化不同可能影响敏感性迁移的鲁棒性，需进一步验证。
通俗解读 非专业人士也能看懂
想象你在厨房里做饭，厨师需要控制每个调料的用量，确保菜肴味道一致。模型就像这个厨房，调料代表模型参数，量化就像减少调料用量以节省空间和时间，但如果用得太少，菜就会变味。TQS就像一个聪明的厨师，能提前知道哪些调料用少了不会影响味道，哪些必须用足。它通过观察菜的变化，判断调料的影响有多大，然后合理安排用量。这样，即使厨房空间有限，也能做出美味的菜肴。这个方法让我们在不试吃（校准）的情况下，就知道哪些调料可以少放，保证菜的质量。
简单解释 像给14岁少年讲一样
想象你在玩一个超级复杂的游戏，你的角色可以学会很多技能，但每个技能都需要花时间和资源。现在，你想让角色变得更厉害，但又不想花太多时间训练。TQS就像一个聪明的助手，它可以告诉你哪些技能最重要，应该优先升级，哪些可以少花点资源。它通过观察游戏中的表现，判断哪些技能会让你变得更强，哪些不用太担心。这样，你就可以用有限的资源，把角色变得更厉害，玩得更开心。这就像在厨房里用少量调料做出美味菜肴一样，TQS帮你聪明安排资源，既省钱又好吃。
术语表
Lyapunov指数 (Lyapunov Exponent)
衡量系统轨迹偏离速率的指标，正值表示轨迹指数发散，负值表示收敛，零表示边界稳定。技术上用于评估扰动在模型中的放大或衰减。
用于量化模型扰动在预测轨迹中的指数增长率。
离散动力系统 (Discrete Dynamical System)
描述系统状态随时间离散变化的数学模型，通常用映射函数定义状态转移。
将模型前向传播视为离散动力系统，分析扰动传播。
量化扰动 (Quantization Perturbation)
由将连续参数离散化引入的误差，影响模型输出的精度。
作为扰动Q(θ)，在敏感性分析中模拟量化误差。
γ指标 (γ Sensitivity Score)
衡量扰动在预测轨迹中放大程度的指数指标，值越大越敏感。
用于识别关键敏感层。
高斯噪声代理 (Gaussian Proxy)
用正态分布噪声模拟量化扰动，估算敏感性，解耦参数选择。
实现敏感性排序的无偏估计。
开放问题 这项研究留下的未解疑问
- 1 如何将TQS扩展到连续时间模型或非线性系统，仍需深入研究。现有方法在高维或极端非线性场景中可能偏差较大，影响实际应用效果。未来需结合非线性Lyapunov分析，提升鲁棒性和适用范围。
应用场景
近期应用
天气预报模型压缩
利用TQS快速识别关键敏感层，实现模型高效压缩，适用于气象部门在资源有限环境中的部署，提升预报速度和精度。
边缘设备模型部署
在边缘计算设备上应用TQS调度低比特宽度，保证模型运行的同时节省存储和计算资源，适合移动端和物联网场景。
远期愿景
智能物理系统控制
结合TQS实现复杂物理系统的鲁棒控制，支持连续监测与调节，推动自动驾驶、工业自动化等领域的智能化升级。
原文摘要
We introduce the Trajectory-based Quantization Sensitivity Score (TQS), a metric that reframes post-training quantization (PTQ) through the lens of dynamical-systems stability. By modeling the network's rollout as a discrete-time dynamical system, TQS characterizes how quantization-induced errors propagate and amplify over the rollout horizon. Unlike conventional PTQ methods, where sensitivity analysis is often coupled to the quantization procedure, TQS enables a priori sensitivity estimation decoupled from quantizer selection and bit-width assignment. This separation allows for quantization budget planning even for black-box or compiled networks with fused operators. Building on this, we present TQS-PTQ, a flexible mixed-precision framework that requires no calibration data or costly second-order approximations. Our experiments show that a dynamical-systems perspective provides a robust, high-performing pathway for low-precision deployment in resource-constrained settings.