机构名称：
¥ 4.0
摘要在此贡献中，我们介绍了连续随机级别（CSG）方法的完整概述，包括收敛结果，步长规则和算法见解。我们考虑了目标函数需要某种形式集成的优化问题，例如预期值。由于通过固定的正交规则近似近似集成可以将人工局部解决方案引入问题，同时同时提高计算工作，因此在这种情况下，随机优化方案变得越来越流行。但是，已知的随机梯度类型方法通常仅限于预期的风险功能，并且本质上需要许多迭代。后者特别有问题，如果评估成本函数涉及求解多个状态方程，例如，以部分差异方程的形式给出。为了克服这些缺点，最近的一篇文章介绍了CSG方法，该方法通过计算依赖设计的集成权重的旧梯度样本信息重复了旧的梯度样本信息，以获得与完整梯度的更好近似值。在原始的CSG纸张收敛中是为了减小的步长而建立的，但在这里，我们提供了CSG的完整收敛分析，用于恒定步长和Armijo-type线路搜索。此外，提出了获得集成权重的新方法，将CSG的应用范围扩展到涉及较高维积分和分布式数据的问题。
连续的随机梯度方法：第I部分
主要关键词
相关文件推荐
