Mitigating Heterogeneous Token Overfitting in LLM Knowledge Editing
OVERTONE方法通过自适应平滑目标分布,缓解LLM知识编辑中的异构词元过拟合。
Tianci Liu, Ruirui Li, Zihan Dong 等
OVERTONE方法通过自适应平滑目标分布,缓解LLM知识编辑中的异构词元过拟合。
Tianci Liu, Ruirui Li, Zihan Dong 等
FastVim以交替空间平均池化将SSM并行步数减半,2048²图像推理提速72.5%。
Saarthak Kapse, Robin Betz, Srinivasan Sivanandan
M+在MemoryLLM基础上引入长远记忆机制,实现160k以上的知识保持,显著提升长文本理解。
Yu Wang, Dmitry Krotov, Yuanzhe Hu 等
OrcaLoca通过优先级调度和上下文修剪提高软件问题定位准确率,功能匹配率达65.33%。
Zhongming Yu, Hejia Zhang, Yujie Zhao 等
STP结合自我对弈与迭代猜想,训练中证明率达28.5%,超越以往方法。
Kefan Dong, Tengyu Ma
通过Planalyst工具实现计划空间的定量推理,支持多种复杂推理模式。
David Speck, Markus Hecher, Daniel Gnad 等
提出无忧多重检验方法,基于e-process确保FDR控制,适应依赖性环境。
Yury Tavyrikov, Jelle J. Goeman, Rianne de Heide
提出Reward-Guided Speculative Decoding(RSD),结合轻量模型与奖励机制提升LLM推理效率,最高节省4.4倍FLOPs。
Baohao Liao, Yuhui Xu, Hanze Dong 等
提出多模态GO数据集,融合六种传感器,支持复杂野外环境自主机器人研究。
Peng Jiang, Kasi Viswanath, Akhil Nagariya 等
提出EgoMe数据集,结合多模态信息,促进机器人模仿学习,涵盖7902对视频,含眼动和IMU数据。
Heqian Qiu, Zhaofeng Shi, Lanxiao Wang 等
提出基于动态模型识别的dVRK-Si患者侧机械臂重力补偿方法,构建全运动学模型。
Haoying Zhou, Hao Yang, Anton Deguet 等
OmniPhysGS利用可学习的构成高斯模型实现多材料3D动力学生成,提升物理真实性。
Yuchen Lin, Chenguo Lin, Jianjin Xu 等
本研究系统分析了数据污染对1B和8B规模机器翻译模型的BLEU分数膨胀影响,发现污染显著高估性能。
Muhammed Yusuf Kocyigit, Eleftheria Briakou, Daniel Deutsch 等
SAM2Act结合大规模视觉基础模型与多视角变换器,成功实现86.8%的任务成功率,增强空间记忆能力。
Haoquan Fang, Markus Grotz, Wilbert Pumacay 等
本研究分析Transformer中前馈层在非线性上下文学习中的关键作用,提出结合GLU的模型实现多项式函数学习。
Haoyuan Sun, Ali Jadbabaie, Navid Azizan
Janus-Pro通过优化训练策略、扩展数据和模型规模,在多模态理解与生成方面实现显著提升,模型规模达7B参数。
Xiaokang Chen, Zhiyu Wu, Xingchao Liu 等
提出改进的非凸与凸优化二阶方法,复杂度分别达O(¯d+¯d^{1/3}ε^{-3/2})与O((¯d+¯d^{13/21}ε^{-2/7})ln¯d)。
Lesi Chen, Chengchang Liu, Luo Luo 等
本研究比较SFT与RL在基础模型中的泛化与记忆表现,RL在规则推理中更优。
Tianzhe Chu, Yuexiang Zhai, Jihan Yang 等
提出LLM-AutoDiff,基于文本梯度的自动提示优化框架,支持多组件和循环结构,显著提升复杂LLM流程的准确性与效率。
Li Yin, Zhangyang Wang
iRe-VLA冻结VLM做在线RL、再用成功轨迹SFT;MetaWorld未见任务成功率达0.80。
Yanjiang Guo, Jianke Zhang, Xiaoyu Chen 等