本文提出了一种新的带有分割混淆对抗训练(SCAT)和对比学习的图像修复对抗训练框架。SCAT 在修复生成器和分割网络之间进行对抗游戏,提供像素级局部训练信号并能适应具有自由形式孔洞的图像。通过将 SCAT 与标准全局对抗训练相结合,新的对抗训练框架同时展现出以下三个优点:(1)修复图像的全局一致性,(2)修复图像的局部精细纹理细节,以及(3)处理具有自由形式孔洞的图像的灵活性。此外,我们提出了纹理和语义对比学习损失,通过利用鉴别器的特征表示空间来稳定和改进我们的修复模型的训练,其中修复图像被拉近到真实图像但远离损坏图像。所提出的对比损失可以更好地引导修复后的图像从损坏的图像数据点移动到特征表示空间中的真实图像数据点,从而产生更逼真的完整图像。我们在两个基准数据集上进行了广泛的实验,从质量和数量上证明了我们模型的有效性和优越性。
主要关键词