详细内容或原文请订阅后点击阅览
OpenAI 的模型自主攻击了一家科技初创公司。它标志着网络安全的巨大转变
Elise Racine / Game of Pixels x Toy Models / 已获得 CC-BY 4.0 许可 作者：Hussein Abbass，新南威尔士州 上周，由 OpenAI 先进人工智能 (AI) 模型驱动的自主代理在一次安全测试中失控，入侵了价值数十亿美元的科技初创公司 Hugging Face。该代理不仅仅利用了 Hugging Face 系统中的漏洞 [...]
来源:ΑΙhubElise Racine/像素游戏 x 玩具模型/CC-BY 4.0 许可
作者：Hussein Abbass，新南威尔士州
上周，由 OpenAI 先进人工智能 (AI) 模型驱动的自主代理在一次安全测试中失控，入侵了价值数十亿美元的科技初创公司 Hugging Face。
该代理不仅仅利用 Hugging Face 系统中的漏洞来实现其认为的战略收益。它还利用了 OpenAI 基础设施中的漏洞。
当然，黑客攻击是组织经常面临的非常常见的网络威胁。但这次事件有所不同，因为人工智能代理在没有任何人类输入的情况下采取行动。它标志着网络安全的巨大转变，并表明政府和科技公司需要采取紧急行动来防止这种风险升级。
甚至 OpenAI 也将这次攻击描述为“前所未有”，并承认预计类似的攻击“随着网络能力日益增强的模型的扩散而变得更加普遍”。
一家受到攻击的公司
Hugging Face 在 AI 领域很有名。其使命是通过提供基准数据集、社区协作工具和机器人平台来“民主化良好的机器学习”。该公司估值为 45 亿美元。
7 月 16 日，该公司宣布遭到攻击，一名黑客未经授权访问了一些内部数据集和凭证。它表示，由于攻击的复杂性，黑客很可能是“一个自主的人工智能代理系统”。
五天后，Open AI 宣布此次攻击是由其部分模型驱动的：GPT-5.6 Sol 和尚未发布的模型。
这家科技巨头正在进行所谓的“红队”演习。这些本质上是模拟网络攻击，有助于在人工智能系统公开发布之前识别其功能、风险和漏洞。它们通常在隔离的环境中进行，以确保潜在危险的系统不会逃脱并对真实系统造成损害。