Prefix-Tuning: Optimizing Continuous Prompts for Generation
提出前缀调优,通过优化连续向量在生成任务中实现参数高效微调,参数仅占0.1%。
Xiang Lisa Li, Percy Liang
提出前缀调优,通过优化连续向量在生成任务中实现参数高效微调,参数仅占0.1%。
Xiang Lisa Li, Percy Liang
EarlyBERT利用早期结构性彩票子网,减少35-45%训练时间,保持性能。
Xiaohan Chen, Yu Cheng, Shuohang Wang 等
SETR用纯Transformer做分割,ADE20K达50.28%mIoU。
Sixiao Zheng, Jiachen Lu, Hengshuang Zhao 等
本研究系统比较多语模型与单语模型的性能差异,发现专用单语分词器显著提升表现。
Phillip Rust, Jonas Pfeiffer, Ivan Vulić 等
HateCheck提供29个功能测试,揭示仇恨言论检测模型的关键弱点。
Paul Röttger, Bertram Vidgen, Dong Nguyen 等
提出对抗框架估计Riesz表示器,适用于神经网络、随机森林和核方法,保证非线性场景下的推断有效性。
Victor Chernozhukov, Whitney Newey, Rahul Singh 等
提出联合重排序和验证模型,在TabFact数据集上表现出色。
Michael Schlichtkrull, Vladimir Karpukhin, Barlas Oğuz 等
提出一种语法增强的预训练模型,结合依存树结构,提升六个数据集上的性能。
Zenan Xu, Daya Guo, Duyu Tang 等
使用GAIL实现6-DOF机器人6μm精度的插销任务。
Sagar Gubbi, Shishir Kolathaya, Bharadwaj Amrutur
提出非参数条件期望算子的核方法逼近,利用再生核希尔伯特空间实现算子逼近。
Mattes Mollenhauer, Péter Koltai
STaR通过自监督学习,利用神经辐射场模型实现动态场景中刚体物体的追踪与重建,无需人工标注。
Wentao Yuan, Zhaoyang Lv, Tanner Schmidt 等
提出混合自适应批次大小的随机优化算法HAMABS,有效提升离散选择模型估计效率。
Gael Lederrey, Virginie Lurkin, Tim Hillel 等
通过分析模型的内在维度,揭示微调效果优异的原因,实验证明低内在维度可用少量参数实现高性能。
Armen Aghajanyan, Luke Zettlemoyer, Sonal Gupta
本文综述了自我动机目标条件强化学习中的自足代理,提出了一种基于目标条件RL的计算框架。
Cédric Colas, Tristan Karch, Olivier Sigaud 等
提出图Transformer,将邻域连接、拉普拉斯特征编码引入,显著优于传统GNN。
Vijay Prakash Dwivedi, Xavier Bresson
MiniROCKET利用固定核集实现时间序列分类,速度提升75倍,保持高精度。
Angus Dempster, Daniel F. Schmidt, Geoffrey I. Webb
提出基于用户点击和不确定性估计的无Trimap深度图像抠图框架,显著提升性能。
Tianyi Wei, Dongdong Chen, Wenbo Zhou 等
本研究分析对比损失的硬样本敏感性与温度τ对特征分布的影响,揭示其统一性-容忍性困境。
Feng Wang, Huaping Liu
提出图结构双线性多臂赌博机的最优臂识别算法,利用图结构特性实现高效探索。
Geovani Rizk, Albert Thomas, Igor Colin 等
提出WILDS基准,涵盖10个真实场景下的分布偏移,强调模型在实际应用中的鲁棒性。
Pang Wei Koh, Shiori Sagawa, Henrik Marklund 等