Left-Branching Transformers Excel at Right-Branching Languages: Data Shapes Word Order Preferences in Language Models
本研究通过192个人工语言和多样自然语言,比较解码器模型的词序偏好,发现人工语言偏左,自然语言偏右,数据驱动偏差明显。
Varvara Arzt, Allan Hanbury, Terra Blevins
本研究通过192个人工语言和多样自然语言,比较解码器模型的词序偏好,发现人工语言偏左,自然语言偏右,数据驱动偏差明显。
Varvara Arzt, Allan Hanbury, Terra Blevins
本研究通过控制性评估不同记忆底层结构(如密集索引、结构存储等)在多模型、多任务中的性能差异,提出多样化记忆路由策略。
Wei-Chieh Huang, Weizhi Zhang, Yuchen Wu 等
本论文系统综述了大规模语言与视觉-语言模型的解码方法,强调其在提升生成质量、效率和控制能力方面的创新。
Haoran Wang, Xiongxiao Xu, Philip S. Yu 等
SimpleOPD实现跨分词器长短上下文推理迁移,提升数学推理性能。
Haonan He, Haodi Lei, Yun Luo 等
RippleMem采用事件中心的记忆图和关联回忆,提升长时记忆检索准确率达11.87%,成本降低30倍。
Jingbo Ji, Lingyi Li, Xilong Cheng 等
提出解耦对比解码(DCD),利用专家对齐的轻量级提议器提升速度,验证仅在验证阶段使用 amateurs,显著加速生成。
Zhixuan Liu, Zhichen Dong, Yuanfu Wang 等
ReFind是一种无需结构化索引的对话搜索方法,达成58.2%平均准确率。
Ruizhe Li, Licheng Zhang, Benfeng Xu 等
本文分析了AI基础设施中的四大结构性障碍(网页存在差距、训练标记不足、分词惩罚、连接排除),以推动低资源语言的公平发展。
Avijit Roy, Proma Roy
本研究揭示多智能体强化学习中模拟器崩溃问题,提出Verbalized Sampling和Co-Training两种解决方案,显著提升泛化能力。
Simon Yu, Nicholas Tomlin, Marwa Abdulhai 等
提出DARC,通过任务失败诊断限制修复措施,提升代理自我修正效率。
Pan Wang, Yihao Hu, Hang Wang 等
提出混合策略自我编辑(HPSE)提升无结构知识编辑的可组合性,实验证明在四大模型和两类编辑器上均有显著改善。
Tianci Liu, Zihan Dong, Tianchun Li 等
提出程序化技能学习方法SpeedRunner,显著降低智能体成本并提升性能。
Zixi Huang, Xiheng Wang, Andrew Wang 等
本文提出跨语言策略保持率的量化方法,通过修正偏差,发现8个模型在多语言任务中保持71-73%的策略一致性。
Sourabrata Mukherjee, Kalika Bali, Sunayana Sitaram
提出LingT2I基准,分析多语T2I模型的跨语言性能差异与文化影响。
Sicheng Zhang, Zhonghao Yan, Binzhu Xie 等
采用蒙特卡洛Dropout评估BERT变体问答模型的稳定性,发现RoBERTa表现更可靠。
Pooja Yadav, Priyanka Harjule, Basant Agarwal 等
Simplax通过引入简单值变量提升离散扩散模型的生成性能。
Jinya Sakurai, Patrick Pynadath, Satoshi Hayakawa 等
AlignXada通过语言强化学习实现大语言模型个性化,提升3.82分,减少77.2%冗余。
Yuting Liu, Wei Wu, Jianzhe Zhao 等
提出ReMEMBER,基于缺失证据的记忆框架,提升长对话流中的记忆召回和信息补全。
Hyangsuk Min, Hwanjun Song
提出Tied Trit-Planes,将PTQTP限制为九级均匀量化器,实现持久折叠存储,提升大模型流式服务效率。
Matteo Grella
采用Top-K稀疏自编码器分析大模型推理机制,发现Thinking模式依赖稀疏高强度激活,NoThinking偏向符号操作。
Bo Cheng, Qiaolin Lu, Yi Chang 等