点击购买,资源将自动在新窗口打开.
获取独家产品信息,尽享促销优惠!立即订阅,不容错过
* 限···时··优惠
深度学习的现有理论工作通常基于来自其他领域的既定方法,例如数值优化和统计。然而,最近的研究指出,这些分析的假设和结论可能有很大差异,甚至与深度学习的实际实施有很大差异。一个值得注意的例子是经典的优化迭代综合分析,该分析假设目标函数的有界平滑度,并根据平滑度的上限选择学习率。但是,最近观察到的“稳定边缘”现象表明神经网络的平滑度实际上取决于学习率。换句话说,当前理论和实践之间存在很大的差距。这一差距使我们有能力通过理论准确描述实践,从而阻碍了我们对实际应用的理解和指导。
主要关键词