机构名称：
¥ 1.0
I。在短短几年的时间里，引起媒体的产生就取得了巨大的进步。一方面，随着生成对抗网络（GAN）和最近的扩散模型（DM）的出现，光真相得到了迅速改善。另一方面，媒体发电的便捷性和灵活性达到了前所未有的水平。由大型语言模型（LLMS）提供动力，文本到图像合成工具允许用户通过简单的文本说明随意从头开始创建图像（见图1）。生成的AI为从娱乐，医疗保健到资助和制造的许多行业提供了许多机会[1]。但是，它可用于各种非法目的，尤其是为了加强虚假宣传和政治宣传[2]，[3]。现在可以比以往任何时候都更快地实现此类目标，并以最少的人为干预，并且结果极为现实，并且与特定的叙述相符。这对我们的社会构成了严重威胁，并证明了对自动化工具的越来越多的关注，这些工具将合成图像与自然图像区分开来。在这种情况下，可以实现两个略有不同的目标：i）检测提供了一个全球分数，评估正在测试的图像是合成的概率； ii）归因进一步走了一步，旨在追踪用于合成图像的特定生成模型。通过提供有关生成过程的更多具体信息，归因于验证检测输出并提高其解释性。早期生成的AI方法可能会引入某些视觉上不一致，例如阴影和反射图像中的不对称性。然而，最近的可以实现一个未经证实的现实主义水平，这些水平是基于视觉伪像的检测方法，并推动发现无形的痕迹。 一种可能性是依靠生成过程留下的微妙的法医痕迹。 实际上，每个生成模型都会留下一种人工指纹，该指纹取决于模型架构，合成过程的细节，甚至在训练数据集上。可以实现一个未经证实的现实主义水平，这些水平是基于视觉伪像的检测方法，并推动发现无形的痕迹。一种可能性是依靠生成过程留下的微妙的法医痕迹。实际上，每个生成模型都会留下一种人工指纹，该指纹取决于模型架构，合成过程的细节，甚至在训练数据集上。
生成ai
主要关键词
相关文件推荐
