MixKD结合mixup数据增强，用于大规模语言模型知识蒸馏，显著提升泛化能力。
Kevin J Liang, Weituo Hao, Dinghan Shen 等
提出HyperGAT模型，利用超图注意力机制提升文本分类表现，达成80%以上准确率。
Kaize Ding, Jianling Wang, Jundong Li 等
本文提出基于词表过滤与半监督Transformer模型的多语种Web文本识别技术，将低资源语言的识别准确率从5.5%提升至71.2%。
Isaac Caswell, Theresa Breiner, Daan van Esch 等
提出TRACIE数据集与SYMTIME模型，利用远程监督实现隐含事件的时间推理，提升准确率。
Ben Zhou, Kyle Richardson, Qiang Ning 等
AQuaMuSe方法自动生成5,519个基于查询的多文档摘要数据集。
Sayali Kulkarni, Sheide Chammas, Wan Zhu 等
TweetEval统一基准测试框架，提升推文分类准确性。
Francesco Barbieri, Jose Camacho-Collados, Leonardo Neves 等
提出基于正则化马氏距离的差分隐私文本扰动机制，有效平衡隐私与实用性。
Zekun Xu, Abhinav Aggarwal, Oluwaseyi Feyisetan 等
提出XOR QA，利用多语种资源实现跨语问答，基于7种非英语语言的40K问题数据集。
Akari Asai, Jungo Kasai, Jonathan H. Clark 等
提出SapBERT，通过自我对齐机制利用UMLS实现生物医学实体表示的优化，提升实体链接性能。
Fangyu Liu, Ehsan Shareghi, Zaiqiao Meng 等
提出SAU-Solver，基于UET统一解决多类型数学文字题，准确率提升至44.83%。
Jinghui Qin, Lihui Lin, Xiaodan Liang 等
提出Tatoeba挑战，构建涵盖500+语言、千余语对的低资源和多语种机器翻译基准，提供数据和预训练模型。
Jörg Tiedemann
ReviewRobot基于知识图谱比较，自动生成论文评审评分和详细评论，准确率达71.4%。
Qingyun Wang, Qi Zeng, Lifu Huang 等
将无监督风格迁移转化为语义保持的句子重述，利用预训练模型微调实现显著优于现有方法。
Kalpesh Krishna, John Wieting, Mohit Iyyer
提出TG-ReDial数据集，结合SASRec和BERT提升对话推荐系统性能。
Kun Zhou, Yuanhang Zhou, Wayne Xin Zhao 等
ALFWorld结合文本与视觉环境，通过抽象策略提升机器人任务泛化能力。
Mohit Shridhar, Xingdi Yuan, Marc-Alexandre Côté 等
Span-Fact模型通过跨度选择纠正摘要中的事实错误，显著提高一致性。
Yue Dong, Shuohang Wang, Zhe Gan 等
提出模仿隐含场景的对话正则化方法，显著提升多样性和相关性。
Shaoxiong Feng, Xuancheng Ren, Hongshen Chen 等
用68项探针任务分析BERT；微调后语言知识下降，但可读知识越多，NLI越准。
Alessio Miaschi, Dominique Brunato, Felice Dell'Orletta 等
提出kNN-MT，通过最近邻搜索提升翻译性能，德英翻译提升1.5 BLEU。
Urvashi Khandelwal, Angela Fan, Dan Jurafsky 等
提出QAEval基于问答的摘要内容评估指标，在多个基准数据集上优于现有自动指标。
Daniel Deutsch, Tania Bedrax-Weiss, Dan Roth