详细内容或原文请订阅后点击阅览
为什么 OpenAI 和 Anthropic 的 AI 模型会攻击其他公司？
OpenAI 和 Anthropic 表示，他们的模型在测试过程中侵入了其他公司的系统，在关于如何监管人工智能的激烈争论中引发了安全担忧。
来源:NPR _经济OpenAI 和 Anthropic 表示，他们的模型在测试过程中侵入了其他公司的系统，在有关如何监管 AI 的激烈争论中引发了安全担忧。Imen Ben Youssef/Hans Lucas/AFP via Getty Images 隐藏标题
OpenAI 披露人工智能系统从其测试环境中挖出隧道并侵入另一家公司几天后，其竞争对手 Anthropic 披露其自己的人工智能模型在测试期间也入侵了其他公司。
这些攻击的消息最初并未引起人们的注意，但在有关如何解决人工智能先进网络功能的争论中，这些消息在硅谷和华盛顿引起了反响。
虽然这两起事件的严重程度不同，但专家表示，它们凸显了为先进模型建立严格测试环境的重要性，以及随着自主黑客能力在未来变得更加普遍而需要强大的网络防御。
人为错误导致人为黑客攻击
在周四发表的一篇博文中，Anthropic 表示，在近几个月的三起不同事件中，正在测试其网络能力的人工智能模型入侵了三家毫无戒心的公司。
Anthropic 表示，这些黑客攻击是与一家外部公司“误解”的结果，该公司建立了称为沙箱的安全测试环境，错误地让模型访问互联网。 Anthropic 表示，最早的事件发生在 4 月份，但该公司和受影响的公司（未透露名称）直到现在才意识到这些黑客攻击。
Anthropic 表示，在每种情况下，其模型都被指定了虚构的目标进行黑客攻击。在一次事件中，一个模型侵入了一家真实的公司，该公司与虚构目标同名，并窃取了“数百行生产数据”。在另一起事件中，模型将恶意软件上传到编码语言 Python 的常用软件注册表；该恶意软件最终窃取了下载它的安全公司的凭据。