详细内容或原文请订阅后点击阅览
神话：人工智能工具过于强大，无法公开发布
Anthropic 正在阻止 Mythos 进入公众手中，由于担心它可能被滥用，某些组织的访问受到限制。
来源:Malwarebytes Labs 博客Anthropic 迄今为止最强大的模型，Claude Mythos Preview（又名 Mythos），被描述为人工智能性能的“阶跃变化”，特别是在网络安全任务方面。
Anthropic 一直试图保守 Mythos 的秘密，直到几周前，一次数据泄露揭示了该公司所称的迄今为止最强大的人工智能的存在。这些模型既被视为强大的防御工具，又可能成为严重的进攻性网络武器。
因此，该公司严格限制访问，并表示目前不打算向市场广泛发布。 据报道，其能够自动发现甚至大规模链接软件漏洞的能力是炒作和危险的核心。
想象一个工具，可以独立地发现软件、系统和平台中的新漏洞，然后将它们转化为漏洞利用，即使这需要将它们与其他漏洞链接起来。
如果落入坏人之手，这可能会对我们的网络安全构成重大威胁。因此，Anthropic 对全球少数组织的访问受到限制，包括大型科技公司和精选的政府或安全机构。据报道，美国国家安全局已经在使用 Mythos Preview，显然是为了对敏感系统进行压力测试和强化敏感系统，尽管五角大楼将 Anthropic 标记为供应链风险。
Mythos 可以比现有工具更快、更可靠地发现大型代码库中的漏洞，并且可以查找一个系统中的多个缺陷，并将它们组合成多步漏洞利用链以完成妥协（例如，从简单的 Web 错误到完整的域接管）。漏洞赏金猎人需要花费几个月的时间才能找到另一个漏洞，更不用说与已经发现的漏洞进行链接了。在第一个任务之前完成这一任务的可能性极小。
实际上，这可能意味着更快的攻击、更复杂的违规行为以及公司在漏洞被利用之前修复漏洞的时间更少。