机构名称：
¥ 3.0
2是银比，是条件号。这是教科书中的中间率 - 1983年Nesterov引起的加速率。< / div>非巧妙的凸设置在概念上是相同的，标准的黑盒减少意味着类似的部分加速速率 - log-log-2≈--0。7864。我们猜想并提供部分证据，表明这些速率在所有步骤计划中都是最佳的。白银步骤尺寸时间表以一种完全明确的方式递归构建。它是非单调的，类似分形的，大约是周期的log 2。这导致收敛速率的相变：最初的超指数（加速度），然后是指数（饱和度）。核心算法直觉是在单独的次优策略差异和长期步骤ðsiscecases for the Mestate的情况下是对后者的好案例，反之亦然。正确组合这些步骤尺寸，由于最差案例函数的不对准，会产生更快的收敛性。证明此加速的主要挑战是沿算法的轨迹强制执行远程一致性条件。我们通过开发一种从轨迹不同部分递归胶合限制的技术来做到这一点，从而在以前的优化算法分析中删除了关键绊脚石。更广泛地认为，对冲和多步骤的概念在优化及其他各种情况下都有可能成为强大的算法范式。本文发表并扩展了第一位作者的2018年硕士论文（第二作者的建议）ð，该论文第一次确定，明智地选择步骤尺寸可以在凸优化中加速。在本论文之前，唯一的结果是针对二次优化的特殊情况，这是由于1953年的年轻。
多步骤下降和银步计划
主要关键词
相关文件推荐
