Equilibrium Propagation: Bridging the Gap Between Energy-Based Models and Backpropagation
引入平衡传播框架,结合能量模型与误差反向传播,利用局部扰动实现梯度计算。
Benjamin Scellier, Yoshua Bengio
引入平衡传播框架,结合能量模型与误差反向传播,利用局部扰动实现梯度计算。
Benjamin Scellier, Yoshua Bengio
LIME算法通过局部可解释模型解释任何分类器的预测,提升模型信任度。
Marco Tulio Ribeiro, Sameer Singh, Carlos Guestrin
提出异步深度强化学习框架,A3C在Atari和连续控制任务中表现优异,训练时间仅为GPU的半数。
Volodymyr Mnih, Adrià Puigdomènech Badia, Mehdi Mirza 等
基于RNN的会话推荐模型,显著优于传统方法,提升Recall@20至60%以上。
Balázs Hidasi, Alexandros Karatzoglou, Linas Baltrunas 等
提出神经程序解释器(NPI),通过学习程序组合实现多任务泛化。
Scott Reed, Nando de Freitas
Gated Graph Sequence Neural Networks结合门控循环单元和现代优化技术,提升图结构数据的序列输出能力。
Yujia Li, Daniel Tarlow, Marc Brockschmidt 等
研究深度神经网络初始化区域的几何特性,发现过度参数化网络更易找到全局最优路径。
Itay Safran, Ohad Shamir
深度核学习结合深度学习结构与核方法的非参数灵活性,提升可表达性和可扩展性。
Andrew Gordon Wilson, Zhiting Hu, Ruslan Salakhutdinov 等
提出扩散卷积神经网络(DCNN),利用图的扩散特性实现节点分类,显著优于传统模型。
James Atwood, Don Towsley
BinaryConnect在训练中将深度神经网络的权重限制为±1,通过在前向和反向传播中使用二值权重实现减小计算复杂度,达到接近最优的分类性能。
Matthieu Courbariaux, Yoshua Bengio, Jean-Pierre David
提出一种在图上运行的卷积神经网络,提升分子指纹预测性能。
David Duvenaud, Dougal Maclaurin, Jorge Aguilera-Iparraguirre 等
利用深度空间自编码器自动提取环境特征点,结合轨迹优化实现机器人视觉运动技能学习。
Chelsea Finn, Xin Yu Tan, Yan Duan 等
基于确定性策略梯度的深度强化学习算法(DDPG)解决连续动作空间的控制任务。
Timothy P. Lillicrap, Jonathan J. Hunt, Alexander Pritzel 等
随机梯度下降法在少量迭代下稳定性好,泛化误差几乎消失。
Moritz Hardt, Benjamin Recht, Yoram Singer
提出基于Wasserstein距离的多标签学习损失函数,利用正则化近似高效优化,提升语义平滑性。
Charlie Frogner, Chiyuan Zhang, Hossein Mobahi 等
提出基于图谱估计的谱卷积网络,有效处理非欧几里得数据,匹配或优于Dropout网络。
Mikael Henaff, Joan Bruna, Yann LeCun
置换搜索可行,但PP-Index/MI-file仍慢于更优过滤
Bilegsaikhan Naidan, Leonid Boytsov, Eric Nyberg
Path-SGD方法通过路径正则化优化深度神经网络,提升了MNIST等数据集上的性能。
Behnam Neyshabur, Ruslan Salakhutdinov, Nathan Srebro
提出端到端训练深度视觉运动策略,利用指导策略搜索实现92,000参数CNN直接映射图像到机器人扭矩。
Sergey Levine, Chelsea Finn, Trevor Darrell 等
K-FAC通过Kronecker分解近似Fisher矩阵,加速神经网络自然梯度优化。
James Martens, Roger Grosse