详细内容或原文请订阅后点击阅览
人工智能代理还无法实现完全自主的网络攻击 - 但它们已经对犯罪分子非常有帮助
不要放松：这是一个“何时，而不是如果”的场景 根据国际人工智能安全报告，人工智能代理和其他系统尚不能完全独立地进行网络攻击，但它们可以在攻击链的许多阶段为犯罪分子提供帮助。
来源:The Register _恶意软件根据国际人工智能安全报告，人工智能代理和其他系统尚不能完全独立地进行网络攻击，但它们可以在攻击链的许多阶段为犯罪分子提供帮助。
由加拿大计算机科学家 Yoshua Bengio 主持、来自 30 个国家的 100 多名专家撰写的第二份年度报告发现，在过去的一年里，人工智能系统的开发人员大大提高了帮助自动化和实施网络攻击的能力。
也许这一发现的最好、也是最可怕的证据出现在 Anthropic 2025 年 11 月的报告中，该报告称中国网络间谍滥用其 Claude Code AI 工具，对针对约 30 家知名公司和政府组织的大部分攻击进行自动化。这些攻击在“少数情况下”取得了成功。
根据人工智能安全报告，“至少一起现实世界事件涉及使用半自主网络功能，人类仅在关键决策点进行干预”。 “然而，尚未报道完全自主的端到端攻击。”
人工智能对犯罪分子特别有用的两个领域是扫描软件漏洞和编写恶意代码。
DARPA 的人工智能网络挑战赛 (AIxCC) 是一项为期两年的竞赛，参赛团队构建人工智能模型来查找支撑关键基础设施的开源软件中的漏洞。据竞赛组织者称，入围系统自动识别了最后一轮评分中使用的 77% 的合成漏洞。
虽然这是防御者使用 AI 来查找和修复漏洞的示例，而不是攻击者使用 AI 来查找和利用漏洞的示例，但犯罪分子正在以类似的方式使用模型。去年北方夏天，我们在地下论坛上看到攻击者声称使用开源红队工具 HexStrike AI 在供应商披露问题后数小时内针对 Citrix NetScaler 设备中的关键漏洞进行攻击。