详细内容或原文请订阅后点击阅览
五角大楼可能忽略的人工智能虚假信息差距
“五角大楼正在建造一个更好的捕鼠器，而老鼠正在重写房子的蓝图，”这位分析师认为。
来源:美国防务快讯网五角大楼在捕捉深度伪造品方面做得越来越好。DARPA 的语义取证计划、国防创新部门与 Hive 的原型合同以及越来越多的检测工具都指向同样的方向。国防部已确定虚假信息斗争是一个检测问题。
他们错了——不是深度造假是威胁，而是真正的威胁存在于何处。
国防部资助的检测工具是为对手生成虚假图像、虚假视频和虚假音频，然后试图将其冒充为真实的世界而构建的。那个世界是存在的。但这是问题的简单版本。更难的版本是上游版本，即出现在研究中但未出现在预算中的版本。对手正在毒害国防分析师、情报平台和政策制定者所依赖的人工智能模型，以区分真假。
目前尚不清楚国防部是否已在其自己的系统中遇到此问题。但民间研究人员已经多次记录了这一点。大西洋理事会的数字取证研究实验室和英国人工智能安全研究所都发布了嵌入在广泛使用的人工智能模型的训练数据中的对抗性内容的证据。
自一月份以来，我们一直在跟踪以色列的情况，当时伊朗在国内动乱期间关闭了互联网。关闭的目的是为了让抗议者保持沉默，但它也揭示了国家控制的信息流最终如何影响人工智能模型对该地区的了解。多年来，德黑兰一直在利用人工智能生成的内容开展自己的虚假信息活动。这不是猜测。这是有记录的。
这个问题还包括美国在中东以外的对手。
这些系统有多脆弱？ Anthropic、英国人工智能安全研究所和艾伦图灵研究所 10 月份的一项研究发现，只需 250 个恶意文档即可破坏大型模型。一旦该内容被纳入权重中，唯一的解决办法就是完全重新训练。昂贵的。不切实际。通常不做。