AI生成的图像水印很容易被删除。

战斗的战斗仍在继续。

来源:Malwarebytes Labs 博客

现在AI可以制作出看起来真实的假图像,我们怎么知道什么是合法的,什么不是?主要方法之一是使用防御性水印,这意味着将无形的标记嵌入AI生成的图像中以表明它们是由。现在,研究人员打破了该技术。

生成的AI不仅用于撰写电子邮件或建议食谱。它可以从头开始生成整个图像。虽然大多数人将其用于娱乐(制作狗的动画片)或实用性(想象一个木工项目),但有些人不负责任地使用它。一个例子是创建看起来像真正创作者内容的图像(以“特定艺术家的风格”制作图像)。

另一个是故意或无意地使用它来进行错误信息。根据Google研究人员的说法,这种基于图像的错误信息在AI驱动的世界中呈指数增长。错误的信息可能是嬉戏的或实验性的,例如凯蒂·佩里(Katy Perry)在大都会(Met Gala)的深料出勤率和puffer夹克教皇。但这也可能是有害的,使真实的人处于他们不同意的情况下,为意识形态,财务或其他目的创造了虚假的叙述。

根据Google研究人员 大都会晚会的深料出勤率 Puffer Jacket Pope

在AI形象产生的早期,人们可以识别伪造本身。图片中有错误数量的图片的人是一个赠品,诸如手臂之类的身体部位都不适合在一起,尤其是当人们合影留念时。随着人工智能的生成更好,我们仍然可以依靠程序来检测图像中的小矛盾。但是这些假图像每天都会变得更具说服力。

OpenAi Google

现在,加拿大滑铁卢大学的研究人员已经开发了一种颠覆这种防御性水印的方法。该大学Cheriton计算机科学学院的Andre Kassis和Urs Hengartner创建了一种名为Unmarker的工具。

今天下载恶意软件