详细内容或原文请订阅后点击阅览
美国国防部正在投资深度伪造检测
美国国防部在两年内从一家名为 Hive AI 的初创公司投资了 240 万美元用于深度伪造检测技术。这是国防部国防创新部门签订的第一份此类合同，旨在加速美国国防部门采用新技术。Hive AI 的模型能够检测 AI 生成的……
来源:MIT Technology Review _人工智能“这项工作代表着我们在加强信息优势方面迈出了重要一步，因为我们要打击复杂的虚假信息活动和合成媒体威胁，” Bustamante 说道。Hive 从 36 家公司中脱颖而出，与国防部一起测试其深度伪造检测和归因技术。该合同可以使该部门能够大规模检测和应对人工智能欺骗。
Hive AI 首席执行官 Kevin Guo 表示，防御深度伪造是“生死攸关的”。 “这是网络战争的演变。”
Hive 的技术已经接受了大量内容的训练，其中一些是人工智能生成的，有些不是。它可以捕捉到人工智能生成内容中人眼看不见但人工智能模型可以检测到的信号和模式。
“事实证明，如果你知道在哪里寻找它，这些生成器生成的每幅图像都含有这种模式，”Guo 说。Hive 团队不断跟踪新模型并相应地更新其技术。
国防部在一份声明中表示，通过该计划开发的工具和方法有可能得到更广泛的应用，不仅可以解决国防特定的挑战，还可以保护民事机构免受虚假信息、欺诈和欺骗。
布法罗大学计算机科学与工程学教授 Siwei Lyu 表示，Hive 的技术在检测人工智能生成的内容方面提供了最先进的性能。他没有参与 Hive 的工作，但已经测试了它的检测工具。
芝加哥大学教授 Ben Zhao 也对 Hive AI 的深度伪造技术进行了独立评估，他对此表示同意，但指出该技术远非万无一失。
评估“Hive 肯定比大多数商业实体和我们尝试过的一些研究技术要好，但我们也表明，它并不难绕过，”Zhao 说。该团队发现，对手可以以绕过 Hive 检测的方式篡改图像。