提出随机块近端分布式算法，解决高维非光滑凸优化，保证收敛与速度。
Francesco Farina, Giuseppe Notarstefano
提出DeepGLO，结合全局矩阵分解与局部时间卷积，解决高维时间序列预测中的尺度差异与全局依赖问题。
Rajat Sen, Hsiang-Fu Yu, Inderjit Dhillon
提出了一种名为“损失预测模块”的主动学习方法，在CIFAR-10上提高了0.42%的准确率。
Donggeun Yoo, In So Kweon
S4L结合自监督与半监督学习，在ILSVRC-2012上仅用10%标签达到新SOTA。
Xiaohua Zhai, Avital Oliver, Alexander Kolesnikov 等
提出自适应分位数回归的符合预测（CQR），确保有限样本下的分布无关覆盖率，缩短预测区间。
Yaniv Romano, Evan Patterson, Emmanuel J. Candès
提出jackknife+方法，提供非参数预测区间，保证覆盖率达1−2α。
Rina Foygel Barber, Emmanuel J. Candes, Aaditya Ramdas 等
提出弱监督注意力机制，提升GNN在复杂图上的泛化能力，分类任务性能提升超60%。
Boris Knyazev, Graham W. Taylor, Mohamed R. Amer
FANTrack利用深度学习进行3D多目标关联，显著提升追踪性能。
Erkan Baser, Venkateshwaran Balasubramanian, Prarthana Bhattacharyya 等
通过扩展Jigsaw和Colorization方法到1亿图像，研究自监督学习的可扩展性，部分任务超越监督学习。
Priya Goyal, Dhruv Mahajan, Abhinav Gupta 等
DRIT++通过解耦表示实现多样化的图像到图像翻译，使用Fréchet距离和感知距离评估。
Hsin-Ying Lee, Hung-Yu Tseng, Qi Mao 等
提出了一个基于教师/学生范式的亿级半监督学习方法，ResNet-50在ImageNet上达81.2%准确率。
I. Zeki Yalniz, Hervé Jégou, Kan Chen 等
SuperGLUE通过引入更难任务和多样化格式，提升自然语言理解基准的挑战性。
Alex Wang, Yada Pruksachatkun, Nikita Nangia 等
提出CKA指标衡量神经网络表示相似性，克服CCA在高维数据中的局限性。
Simon Kornblith, Mohammad Norouzi, Honglak Lee 等
研究探讨了批量强化学习中的信息论假设，提供了理论结果和样本复杂性下界。
Jinglin Chen, Nan Jiang
本文提出基于LU和LDL^H分解的高效DPP采样算法，显著提升大规模非Hermitian和Hermitian核的采样性能。
Jack Poulson
提出EigenPooling方法，提升图分类性能，在6个基准数据集上验证有效。
Yao Ma, Suhang Wang, Charu C. Aggarwal 等
提出HAWQ，基于Hessian谱的混合精度量化方法，实现ResNet20在Cifar-10上8倍激活压缩比，准确率提升0.15%。
Zhen Dong, Zhewei Yao, Amir Gholami 等
提出卷积神经网络的精确核计算算法（CNTK），实现对CIFAR-10的10%性能提升。
Sanjeev Arora, Simon S. Du, Wei Hu 等
提出一种贝叶斯生成主动深度学习方法，在MNIST等数据集上提升分类效率。
Toan Tran, Thanh-Toan Do, Ian Reid 等
提出稀疏Transformer，通过分解注意力矩阵实现O(n√n)扩展，模型可处理数万长度序列。
Rewon Child, Scott Gray, Alec Radford 等