详细内容或原文请订阅后点击阅览
网络战争的新领域
人工智能代理将如何威胁全球安全。
来源:外交事务2025 年末，美国人工智能公司 Anthropic 宣布扰乱了一个中国国家资助的组织，该组织利用该公司自己的技术攻击大约 30 个西方技术、金融、政府和关键基础设施目标，所有这些都在最少的人工监督下进行。这是首次报道的人工智能策划的间谍活动。但这不会是最后一次。仅仅几个月后，Anthropic 透露其最新模型 Mythos Preview 已经自主发现了每个主要操作系统和网络浏览器中的关键漏洞。在犯罪网络、恐怖组织或不受人工智能安全问题约束的国家手中，世界上几乎任何系统都可能受到攻击。
随着人工智能系统从协助人类的工具发展为无需人类即可行动的智能体，曾经需要高技能专业人员团队完成的任务将在有限的监督下持续运行。政府、公司和个人很快就会遇到能够独立开展网络活动的人工智能代理，其水平可与当今最有能力的国家相媲美。耗费专家数月时间的操作将以人类无法比拟的速度、规模和持久性执行。
使这些特工如此强大的特性也使它们难以阻止。部署后，这些代理可能会超出操作员的控制范围，并且无法关闭。政府现在必须建立技术防御和治理框架来检测这些代理、保护关键基础设施并建立明确的责任范围。今天做出的政策选择将决定自主网络代理是否成为一种可管理的风险，还是一种无法控制的风险。
失去控制
盲目飞行
做好准备
让 AI 代理如此强大的特性也让它们难以被阻止。
大修
正在加载...