详细内容或原文请订阅后点击阅览
Meta 的 AI 图像检测器遗漏了 55% 的自身图片
AI 验证了每张原始图像，但在裁剪后遗漏了一半。
来源:ZME科学路透社记者对 Meta 的新型人工智能图像检测器进行了简单的测试。他们使用 Meta 自己的生成模型 Muse Image 生成了 40 张图片，并将其提交给该公司的检测器。
该工具验证了每个原始图像。但路透社将这些照片裁剪为原始尺寸的大约三分之一到二分之一后，未能验证其中 22 张照片的真实性。对于裁剪来说，错过率为 55%。
裁剪并不是网络安全实验室设计的奇异攻击。人们通常会在发布图像、通过消息发送图像或将图像调整到不同的布局之前对其进行裁剪。
Meta 在 7 月份推出了该检测器以及新的生成模型 Muse Image。该模型制作的图像包含一个名为 Content Seal 的隐形水印，旨在表明它们源自 Meta 的人工智能系统。该公司表示，Content Seal 的设计能够承受常见的变化，包括裁剪、调整大小、压缩和屏幕截图。但路透社的调查结果表明，事实并非如此。
为什么人工智能检测如此困难
“人工智能图像检测器”一词可能会给人错误的印象。它表明该软件会检查图片并独立决定它是真实的还是合成的。这不是 Meta 探测器的作用。
相反，它会搜索 Content Seal，这是 Meta 自己的生成器嵌入的信号。因此，找到该水印就可以证明该图像来自 Muse Image。找不到它并不能证明该图片是真实的。
该图像可能是真实的照片。它可能是由另一家公司的发电机生产的。或者它可能来自 Muse Image，然后被更改到足以削弱或破坏水印。
这是基于水印的检测的主要限制。当信号存在时，它可以提供有用的积极证据，但如果没有该信号，我们能得到的信息就很少。
×
谢谢！还有一件事...
请检查您的收件箱并确认您的订阅。