OpenAI’s models autonomously hacked a tech startup. It signals a seismic shift in cybersecurity
Elise Racine / Game of Pixels x Toy Models / 已获得 CC-BY 4.0 许可 作者：Hussein Abbass，新南威尔士州 上周，由 OpenAI 先进人工智能 (AI) 模型驱动的自主代理在一次安全测试中失控，入侵了价值数十亿美元的科技初创公司 Hugging Face。该代理不仅仅利用了 Hugging Face 系统中的漏洞 [...]
Сэм Альтман продаёт сингулярность рынку прямо перед выходом OpenAI на биржу
当神经网络打破了 Hugging Face 的防御时，Altman 庆祝了未来。
OpenAI called the Hugging Face attack unprecedented. But we’ve been here before.
这个故事最初出现在我们关于人工智能的每周通讯《算法》中。要首先在您的收件箱中收到此类故事，请在此处注册。上周阅读 OpenAI 的报道，了解其一些模型如何突破遏制并侵入另一家人工智能公司 Hugging Face 的计算机系统，这是我第一次得到……
A refreshing case for explicit instruction
我很高兴在学习与大脑博客中看到对我的书《Just Tell Them》的精彩而全面的评论。在此之前，我刚刚与 Doug Lemov、Haili Hughes 和 Dan Willingham 等人一起在 Learning & the Brain 上发表演讲（点击这些链接可查看我的播客，他们各自都有特色……
Rogue AI: OpenAI’s agents attack Hugging Face
当 OpenAI 的预发布 AI 代理逃离沙箱并向 Hugging Face 发起现实世界的网络攻击时，例行的 AI 安全测试发生了意想不到的变化。这一史无前例的事件展示了前沿人工智能模型如何能够自主发现漏洞、逃脱遏制并执行复杂的网络操作。
OpenAI's attack agent did exactly what it was told - just more relentlessly than expected
OpenAI 对 Hugging Face 的无意攻击震惊了世界，因为它的 AI 代理正在自行行动。但这正是代理人工智能的设计目的。我们只是没想到它会做得这么好。
