Deep Fried Convnets
提出深度炸鸡卷(Deep Fried ConvNets),用Fastfood层替代全连接层,参数减少90%,性能不变。
Zichao Yang, Marcin Moczulski, Misha Denil 等
提出深度炸鸡卷(Deep Fried ConvNets),用Fastfood层替代全连接层,参数减少90%,性能不变。
Zichao Yang, Marcin Moczulski, Misha Denil 等
Adam算法结合一阶梯度估计与自适应学习率,提升大规模随机优化效率。
Diederik P. Kingma, Jimmy Ba
提出Elastic Averaging SGD(EASGD)算法,通过弹性力机制在深度学习分布式训练中实现高效通信与探索,显著提升训练速度和模型性能。
Sixin Zhang, Anna Choromanska, Yann LeCun
MatConvNet为MATLAB实现的CNN工具箱,支持快速原型设计与GPU加速。
Andrea Vedaldi, Karel Lenc
本文提出了一种高层次的CCD和CMOS图像传感器噪声模拟模型,验证了其有效性。
Mikhail Konnik, James Welsh
用球面自旋玻璃理论解释SGD在大网络中趋向低能量、高质量局部极小值。
Anna Choromanska, Mikael Henaff, Michael Mathieu 等
Falling Rule Lists是一种分类模型,使用有序的if-then规则列表,成功概率单调递减。
Fulton Wang, Cynthia Rudin
提出超列(Hypercolumns)用于像素级目标检测,提升分割准确率,SDS从49.7提升至60.0。
Bharath Hariharan, Pablo Arbeláez, Ross Girshick 等
提出基于深度循环网络的图像描述模型,BLEU-4达27.7,显著优于以往方法。
Oriol Vinyals, Alexander Toshev, Samy Bengio 等
提出长短期循环卷积网络(LRCN),结合CNN与LSTM实现视频识别与描述,显著优于单一模型。
Jeff Donahue, Lisa Anne Hendricks, Marcus Rohrbach 等
提出全卷积网络(FCN)用于像素级语义分割,超越SOTA,精度62.2% mIU。
Jonathan Long, Evan Shelhamer, Trevor Darrell
采用字典学习与`1-范数优化实现图像稀疏编码,提升视觉识别效果。
Julien Mairal, Francis Bach, Jean Ponce
提出A*采样算法,基于Gumbel过程实现连续空间的精确采样,显著优于自适应拒绝采样。
Chris J. Maddison, Daniel Tarlow, Tom Minka
Graph-Sparse LDA利用本体图压缩主题,在ASD数据中将119个诊断词概括为6个概念且预测性能不降。
Finale Doshi-Velez, Byron Wallace, Ryan Adams
记忆网络结合推理与长期记忆,提升问答任务表现。
Jason Weston, Sumit Chopra, Antoine Bordes
本研究分析神经网络训练的计算复杂性,提出超规格网络易训练的正面结果及深度多项式网络的高效算法。
Roi Livni, Shai Shalev-Shwartz, Ohad Shamir
提出基于梯度反转层的无监督域适应方法,提升图像分类中的跨域性能。
Yaroslav Ganin, Victor Lempitsky
提出Inception架构,通过多尺度卷积模块提升深度网络性能,参数仅为Krizhevsky的12%,在ILSVRC 2014获最佳分类检测。
Christian Szegedy, Wei Liu, Yangqing Jia 等
提出基于多层LSTM的端到端序列到序列学习方法,在英法翻译中BLEU达34.8,优于传统统计模型。
Ilya Sutskever, Oriol Vinyals, Quoc V. Le
利用光子-原子频率梳协议在20米铒离子掺杂光纤中实现1532 nm光子存储,保持高保真度和纠缠。
Erhan Saglamyurek, Jeongwan Jin, Varun B. Verma 等