Loading...
机构名称:
¥ 4.0

We provide a unified analysis of two-timescale gradient descent ascent (TTGDA) for solving structured nonconvex minimax optimization problems in the form of min x max y ∈Y f ( x , y ), where the objective function f ( x , y ) is nonconvex in x and concave in y , and the constraint set Y ⊆ R n is convex and bounded.在凸 - 孔循环设置中,单次梯度下降(GDA)算法被广泛用于应用中,并且已被证明具有强大的收敛保证。在更一般的设置中,它可能无法收敛。我们的贡献是设计ttgda算法,这些算法是有效的,这些算法超出了凸形 - 连接设置,并有效地确定了函数φ(·)的固定点:= maxy∈Yf(·f(·,y)。我们还建立了解决求解平滑和非平滑concove-concave minimax优化问题的复杂性的理论界限。据我们所知,这是对非凸端优化的TTGDA的第一个系统分析,阐明了其在训练生成的对抗网络(GAN)和其他现实世界应用问题中的卓越性能。关键字:结构化的非凸极最小值优化,两次尺度梯度下降,迭代复杂度分析

非Convex Minimax优化的两次梯度梯度下降算法

非Convex Minimax优化的两次梯度梯度下降算法PDF文件第1页

非Convex Minimax优化的两次梯度梯度下降算法PDF文件第2页

非Convex Minimax优化的两次梯度梯度下降算法PDF文件第3页

非Convex Minimax优化的两次梯度梯度下降算法PDF文件第4页

非Convex Minimax优化的两次梯度梯度下降算法PDF文件第5页