详细内容或原文请订阅后点击阅览
OpenAI 的攻击代理完全按照它的指示行事 - 只是比预期更加无情
OpenAI 对 Hugging Face 的无意攻击震惊了世界，因为它的 AI 代理正在自行行动。但这正是代理人工智能的设计目的。我们只是没想到它会做得这么好。
来源:ZDNet | 机器人新闻关注 ZDNET：将我们添加为 Google 上的首选来源。
ZDNET 的关键要点
我的 ZDNET 同事 Charlie Osborne 最近报道称，被一些人视为“机器学习的 GitHub”的开源存储库和社区平台 Hugging Face 披露，一个 AI 代理已经破坏了其系统。 Osborne 解释说，一旦攻击者突破了 Hugging Face 的边界，它就能够“将其权限升级到节点级访问，渗透生产管道，跨网络移动，并窃取云和集群凭据。”
周二，科技巨头 OpenAI 在其网站上发布的一篇文章中透露，不仅负责此次泄露的“恶意”人工智能代理是其自己，而且该公司还将此次攻击视为“前所未有的网络事件”。迄今为止，大多数广泛传播的特工失控报道都引发了类似《终结者》的世界末日场景的画面，其中人工智能自主行动，消灭了人类。
另外：我使用 Anthropic 的 Claude AI 工具来完成非常不同的工作：如何在模型、代码和 Cowork 之间进行选择
然而，正如 AppOmni 的人工智能总监 Melissa Ruzzi 向我指出的那样，该事件前所未有的元素并不是人工智能自行行动。这一步只是跨越了一个新的门槛，罪魁祸首——本例中是 OpenAI 的技术——超出了当前人类的预期，实现了既定目标。 AppOmni 是一家企业级 SaaS 和 AI 安全解决方案提供商，还从事主动威胁情报业务。
（披露：ZDNET 的母公司 Ziff Davis 于 2025 年 4 月对 OpenAI 提起诉讼，指控其在训练和运营其人工智能系统时侵犯了 Ziff Davis 的版权。）
另外：我让 ChatGPT Work 和 Claude Cowork 随意管理我的文件 - 只有一个让我紧张