详细内容或原文请订阅后点击阅览
假还是真实？新的研究表明，AI水印很容易被欺骗
随着人工智能（AI）继续生成几乎不可能分开的图像，但已提出数字水印作为识别AI生成的内容的一种方式。这些水印（嵌入图像中的悬挂数字标记）旨在帮助我们分辨出什么是真实的和什么是合成的。一种称为语义水印的特殊类型是[…]伪造还是真实？新的研究表明，AI水印很容易被欺骗，首先出现在Knowridge Science报告中。
来源:Knowridge科学报告随着人工智能 (AI) 不断生成几乎无法与真实照片区分开的图像，人们提出数字水印作为识别 AI 生成内容的一种方式。
这些水印（嵌入图像中的隐藏数字标记）旨在帮助我们辨别哪些是真实的，哪些是合成的。
一种称为语义水印的特殊类型深深嵌入人工智能图像生成过程中，并且被认为几乎不可能删除或伪造。
但德国波鸿鲁尔大学的研究人员现在已经证明，这些所谓的安全水印实际上可以轻松地被操纵。
该团队在纳什维尔举行的 CVPR 2025 会议上展示了他们的发现，揭示了两种简单但强大的技术，允许攻击者删除或伪造语义水印。
他们的研究也可在 arXiv 预印本服务器上获取。
arXiv第一种技术称为“印记攻击”，其工作原理是更改真实照片的底层数字签名（称为潜在表示）。
此过程使图像看起来就像具有与 AI 生成的图像相同的水印。换句话说，有人可以拍一张真实的照片，添加一个假水印，让它看起来像是由人工智能创建的。这可能会被用来误导他人或抹黑真实内容。
这些攻击尤其令人担忧的是，它们适用于不同类型的人工智能系统。无论图像是使用旧模型还是最新技术制作的，这两种类型的攻击仍然会成功。所需要的只是一张已经包含水印的图像。