本文介绍 自反向传播之后新一代深度学习优化算法-混合凸组合优化问题算法

自反向传播之后新一代深度学习优化算法-混合凸组合优化问题算法

本文由在当地较为英俊的男子金天大神原创,版权所有,欢迎转载,本文首发地址 https://jinfagang.github.io 。但请保留这段版权信息,多谢合作,有任何疑问欢迎通过微信联系我交流:jintianiloveu

这是自反向传播之后,第一次跟新的优化算法。原来论文的名字叫做 Deep Learning as a Mixed Convex-Combinatorial Optimization Problem 这篇论文,提出了一个新的算法来训练神经网络,或者说来解决凸优化问题,对于深度学习来讲是非常意义重大的。下面就是对这篇论文的解读和剖析。

Convex-Combinatorial Optimization Problem

凸组合优化问题是什么问题呢?