详细内容或原文请订阅后点击阅览
Kimi K3 vs 沙盒：1:0 支持 AI
该模型比其创建者更快地发现了保护中的漏洞 - 并利用了它。
来源:安全实验室新闻频道该模型比其创建者更快地发现了保护中的漏洞 - 并利用了它。
在网络安全测试中，中国人工智能模型Kimi K3独立逃离了孤立的测试环境，并获得了开放互联网的访问权限。研究人员并没有指示系统在网络上搜索答案，但 Kimi K3 发现了沙箱配置中的错误，检查了外部资源的可用性并使用了找到的通道。该事件延续了 OpenAI 和 Anthropic 模型的一系列类似案例，在测试时也超出了其预期环境。
Kimi K3由中国Moonshot AI公司开发。该模型具有开放的尺度分布，是一个能够执行复杂的多阶段任务的强大系统。之前我们聊过Kimi K3的功能以及它的上市情况。该问题是美国初创公司 Frontier Security 在测试 Kimi K3 在保护网络安全领域的能力时发现的。
为了进行测试，研究人员使用了英国人工智能安全研究所 AISI 开发的沙箱。隔离的环境应该限制模型对外部资源的访问，并允许在解决网络问题时安全地评估系统的行为。然而，由于设置错误，允许访问多个站点，Kimi K3 通过检查环境的网络参数独立发现了此类访问的存在。
该任务不涉及在互联网上搜索现成的解决方案。 Kimi K3 原本应该应对测试环境中设置的任务，但该模型并没有严格遵循限制，而是开始寻找实现目标的额外路径。 Frontier Security 研究人员认为该行为是 Kimi K3 与许多其他强大模型之间的重要区别：沙箱中的错误只会创造逃跑的技术机会，而使用访问权限的决定是由系统本身在完成任务的过程中做出的。