Linearity of Relation Decoding in Transformer Language Models
研究发现Transformer语言模型中的关系解码可通过线性变换近似。
Evan Hernandez, Arnab Sen Sharma, Tal Haklay 等
研究发现Transformer语言模型中的关系解码可通过线性变换近似。
Evan Hernandez, Arnab Sen Sharma, Tal Haklay 等
研究大语言模型在持续微调中的灾难性遗忘,发现BLOOMZ比mT0遗忘更少。
Yun Luo, Zhen Yang, Fandong Meng 等
RAVEN模型结合检索增强的掩码和前缀语言建模,提升上下文学习能力。
Jie Huang, Wei Ping, Peng Xu 等
提出AutoMQM,利用大规模语言模型(如PaLM-2)进行细粒度机器翻译错误识别与分类,显著提升错误解释能力。
Patrick Fernandes, Daniel Deutsch, Mara Finkelstein 等
提出InstructGLM,将自然语言描述图结构,通过指令微调超越GNN在节点分类任务中的表现。
Ruosong Ye, Caiqi Zhang, Runhui Wang 等
提出GTE模型,采用多阶段对比学习,参数110M,在文本和代码检索中超越多倍大模型。
Zehan Li, Xin Zhang, Yanzhao Zhang 等
本研究提出Dynalang,通过多模态世界模型预测未来文本和图像,实现多样化语言理解与行动,显著优于传统方法。
Jessy Lin, Yuqing Du, Olivia Watkins 等
研究评估指令跟随模型在问答任务中的正确性和忠实性,提出新评估指标。
Vaibhav Adlakha, Parishad BehnamGhader, Xing Han Lu 等
提出RRTF框架提升PanGu-Coder2,达62.20% pass@1,超越所有公开模型。
Bo Shen, Jiaxin Zhang, Taihong Chen 等
提出Skill-it技能框架,通过技能顺序优化语言模型训练,提升数据效率。
Mayee F. Chen, Nicholas Roberts, Kush Bhatia 等
提出LLM-Rec,利用四种提示策略增强文本推荐,显著提升性能。
Hanjia Lyu, Song Jiang, Hanqing Zeng 等
提出RippleEdits基准,评估知识编辑的涟漪效应,发现现有方法未能保持一致性。
Roi Cohen, Eden Biran, Ori Yoran 等
Jina Embeddings模型通过对比训练在MTEB上表现优异。
Michael Günther, Louis Milliken, Jonathan Geuter 等
提出FLASK,基于技能集的细粒度LLM评估方法,显著提升解释性和可靠性。
Seonghyeon Ye, Doyoung Kim, Sungdong Kim 等
本研究构建了NLP研究领域的分类体系,分析了80,000篇论文的趋势,发现语言模型和责任伦理为未来重点。
Tim Schopf, Karim Arabi, Florian Matthes
DecompEval利用指令式问答和句子分解,基于指令调优的预训练模型实现无监督文本评价。
Pei Ke, Fei Huang, Fei Mi 等
本文综述了大语言模型(LLM)的最新进展,涵盖架构创新和多模态应用。
Humza Naveed, Asad Ullah Khan, Shi Qiu 等
预测流水线解码(PPD)通过并行化减少LLM解码延迟,保持输出一致。
Seongjun Yang, Gibbeum Lee, Jaewoong Cho 等
提出BeaverTails数据集,通过区分有用性与无害性提升大模型安全对齐,包含33万QA对和36万偏好标注。
Jiaming Ji, Mickel Liu, Juntao Dai 等
提出基于半环加权的高效Earley解析算法,优化复杂度至O(N³|G|),支持大规模语法。
Andreas Opedal, Ran Zmigrod, Tim Vieira 等