详细内容或原文请订阅后点击阅览
Claude Mythos 解释：Anthropic 最强大的 AI 模型真的太危险而不能向公众发布吗？
随着政府评估更快的、人工智能驱动的漏洞发现对网络安全的意义，Anthropic 的 Mythos AI 一直处于闭门状态。
来源:LiveScienceAnthropic 与 Project Glasswing 一起推出的 Claude Mythos Preview 模型引发了广泛的审查，因为专家警告称，人工智能 (AI) 系统的功能可能会加速软件漏洞的发现和利用。
Anthropic 将 Mythos 锁定在 Glasswing 项目中——该公司试图遏制和指导该模型——从而限制了一小部分专注于网络安全的大型科技公司的访问。 Anthropic 决定不公开发布 Mythos，很快就引发了有关该模型“过于强大”而无法更广泛使用的说法。
然而，这种遏制已经面临压力。 Anthropic 正在调查有关一小群用户通过第三方环境未经授权访问该模型的报告，这引发了关于此类系统的控制程度的新问题。
“Anthropic 的 Mythos Preview 是对整个行业的警告，而 Anthropic 自己选择不公开发布它的事实告诉你我们现在已经跨越的能力门槛的一切，”基于硬件的网络安全公司 X-PHY 的首席执行官兼联合创始人 Camellia Chan 告诉 Live Science。
但是 Mythos 到底有什么能力，它能被控制吗？
什么是 Mythos，它有什么功能？
根据 Anthropic 自己的描述，Mythos 是迄今为止最强大的模型，在编码和长上下文推理方面具有异常强大的性能。在测试中，该功能转化为实际输出——该模型识别了主要操作系统和浏览器中的数千个严重漏洞，其中包括几十年来未被注意到的缺陷。
Mythos 位于 Anthropic 的 Claude 模型的顶部，但称其为“更新”低估了其功能。根据 Anthropic 代表共享的信息以及通过泄露而浮出水面的细节，该系统旨在处理大型、混乱的代码库，而不会在中途丢失线程。