Post-Training Quantization for Vision Transformer
提出了一种用于视觉Transformer的后训练量化算法,在ImageNet上使用DeiT-B模型实现了81.29%的Top-1准确率。
Zhenhua Liu, Yunhe Wang, Kai Han 等
提出了一种用于视觉Transformer的后训练量化算法,在ImageNet上使用DeiT-B模型实现了81.29%的Top-1准确率。
Zhenhua Liu, Yunhe Wang, Kai Han 等
提出EVLP任务分类,分析算法、数据集与挑战,强调模型泛化与实际应用。
Jonathan Francis, Nariaki Kitamura, Felix Labelle 等
提出Adapt-and-Distill方法,通过词表扩展和知识蒸馏,打造小巧高效的领域预训练模型,性能优于BERT BASE。
Yunzhi Yao, Shaohan Huang, Wenhui Wang 等
提出Video Swin Transformer,利用局部注意力机制,实现视频识别准确率84.9%(Kinetics-400),模型参数仅28.2M。
Ze Liu, Jia Ning, Yue Cao 等
提出结合空核法与直接消元的高效大规模线性最小二乘解法,满足线性约束残差小。
Jennifer Scott, Miroslav Tuma
提出CW网络,通过正则细胞复形提升GNN表达能力,超越WL测试。
Cristian Bodnar, Fabrizio Frasca, Nina Otter 等
提出C2F-ARM算法,通过粗到细的Q-attention实现高效视觉机器人操控,仅需3次演示即可训练。
Stephen James, Kentaro Wada, Tristan Laidlow 等
提出自适应嵌入的核与神经带宽算法,样本复杂度仅依赖有效维度。
Yinglun Zhu, Dongruo Zhou, Ruoxi Jiang 等
提出KaggleDBQA,结合真实数据库和文档,显著提升Text-to-SQL模型性能。
Chia-Hsuan Lee, Oleksandr Polozov, Matthew Richardson
本综述分析了基于激光雷达和图像的3D目标检测算法,涵盖数据集、性能指标及未来方向。
Rui Qian, Xin Lai, Xirong Li
NeuS通过引入偏差无关的体积渲染和神经符号距离场实现高精度多视角场景重建,超越SOTA。
Peng Wang, Lingjie Liu, Yuan Liu 等
提出PALMS,通过少量手工数据调节大模型价值导向行为,显著改善偏见和有害输出。
Irene Solaiman, Christy Dennison
提出LoRA,通过低秩分解冻结预训练模型参数,有效减少参数量,提升训练效率,性能与微调相当。
Edward J. Hu, Yelong Shen, Phillip Wallis 等
提出基于现实场景的网络入侵检测系统对抗攻击模型,分析攻击能力与限制。
Giovanni Apruzzese, Mauro Andreolini, Luca Ferretti 等
本文提出了优化统计协作框架和算法VHCT,实现高效黑箱优化。
Wenjie Li, Chi-Hua Wang, Guang Cheng 等
本文系统综述深度学习模型压缩、加速与优化技术,涵盖模型压缩、架构设计、硬件支持等核心内容。
Gaurav Menghani
提出处理不确定反馈图的在线学习算法,保证子线性遗憾,适用于实际反馈不完美场景。
Pouya M Ghari, Yanning Shen
提出基于序列级目标的非自回归神经机器翻译训练方法,结合强化学习和Bag-of-Ngrams优化,显著提升BLEU等指标。
Chenze Shao, Yang Feng, Jinchao Zhang 等
本文系统回顾预训练模型(PTMs)发展史,重点分析BERT、GPT等架构,强调其在AI中的核心作用。
Xu Han, Zhengyan Zhang, Ning Ding 等
提出基于图神经网络的多变量时间序列异常检测方法(GDN),在两个水处理数据集上显著优于基线,提升准确率。
Ailin Deng, Bryan Hooi