详细内容或原文请订阅后点击阅览
当人工智能失控时会发生什么（以及如何阻止它）
随着人工智能越来越接近造成物理伤害和影响现实世界的能力，“它很复杂”不再是一个令人满意的回答
来源:WeLiveSecurity _恶意软件数字安全
当人工智能失控时会发生什么（以及如何阻止它）
随着人工智能越来越接近造成物理伤害和影响现实世界的能力，“它很复杂”不再是一个令人满意的回答
2024 年 5 月 22 日 • ，3 分钟阅读
2024 年 5 月 22 日 • ， 3 分钟阅读我们已经看到人工智能从回答学校家庭作业的简单聊天问题转变为试图在纽约地铁中检测武器，现在被发现参与了对一名罪犯的定罪，该罪犯利用人工智能从真实照片和视频中制作深度伪造的儿童性虐待材料 (CSAM)，震惊了那些（穿着整齐的）原件的人。
在纽约地铁中检测武器 参与定罪罪犯 用它来创造 真实的照片和视频虽然人工智能一直在向前发展，但有些人试图提供更有意义的护栏以防止它出错。
多年来，我们一直在安全环境中使用人工智能，但我们警告说，它并不是灵丹妙药，部分原因是它会在关键问题上出错。 然而，“偶尔”会犯下关键错误安全软件仍然会产生相当大的负面影响，要么产生大量误报，导致安全团队不必要地手忙脚乱，要么错过看起来与人工智能已经知道的恶意软件“足够不同”的恶意攻击。
这就是为什么我们一直将它与许多其他技术结合起来以提供制衡。这样，如果人工智能的答案类似于数字幻觉，我们可以用其他技术将其收回。
语音和图像克隆 超大规模社会工程努力为了阻止这种情况，供应商可以分层多因素身份验证，因此攻击者需要多种（希望是时间敏感的）身份验证方法，而不仅仅是语音或密码。 虽然这项技术现在已被广泛部署，但用户也普遍未充分利用它。 这是用户保护自己的简单方法，无需付出沉重的代价或大笔预算。
语音 发生事故 多少 起诉