详细内容或原文请订阅后点击阅览
人工智能正在扭曲大屠杀（锁与密码S07E10）
本周，我们在 Lock and Code 播客中与 Clara Mansfeld 讨论了人工智能生成的图像如何扭曲大屠杀的历史。
来源:Malwarebytes Labs 博客本周的“锁与密码”播客......
去年 5 月，关于人工智能的警告来自意想不到的地方：奥斯威辛-比克瑙国家博物馆。
该博物馆在社交媒体上公开发布警告称，Facebook 帐户使用生成式人工智能来制作大屠杀中死者的虚假图像。尽管使用人工智能生成虚假图像，但图像中的人有时是真实的。他们有真实的姓名、出生地和被驱逐的故事，奥斯威辛-比克瑙国家博物馆之前也曾分享过。他们在幸存的真实照片中捕捉到了真实的面孔，这些照片很可能被滥用来生成虚假图像。
换句话说，有人或网上的某个团队正在深度伪造大屠杀。
正如奥斯威辛博物馆在网上写道：
“这些不是受害者的真实照片。它们是数字发明，通常经过程式化或净化，有可能将记忆变成虚构的表演。奥斯维辛的历史是一个有据可查的故事。用人工智能图像改变其视觉记录，无论意图如何，都会导致失真。”
几个月后，公众发现了这个意图：金钱。
BBC 的一项调查发现，Facebook 帐户的国际网络发布人工智能生成的图像，以通过这些图像的潜在病毒式传播来赚钱。这是一个有时被称为“AI slop”的问题，但它有一个主要的诱因。当制作此类图像的帐户被邀请加入 Facebook 的内容货币化计划时，他们可以通过发布任何获得点击的内容每月赚取 1,000 美元。
BBC 发现，在 Facebook 上，这意味着有多个帐户会发布人工智能生成的有关大屠杀的图像。据 BBC 报道：
“人工智能垃圾邮件发送者发布了假冒来自[奥斯威辛]内部的图片，例如拉小提琴的囚犯或在栅栏边界相遇的恋人，吸引了数以万计的点赞和分享。”
今天收听完整对话。
显示注释和制作人员：