排序: 最新 热门 引用
cs.LG 2608.03447

Approximate Speculative Decoding

提出近似投机解码(ASD),无需训练,通过预算最长前缀选择提升解码吞吐量达15.26%。

Yuannuo Feng, Zegang Peng, Yuxin Xie 等

2026-08-04 37
cs.LG 2608.02870

Maglev: Sliding Recurrent Memory

Maglev结合滑动窗口注意力与固定记忆,通过偏预测器生成目标记忆,提升长序列建模性能。

Bo Liu, Qiang Liu

2026-08-04 45