没有恶意，也没有介意：当零日利维坦出现在 Huging Face Cyberparty 上时到底发生了什么......
OpenAI called the Hugging Face attack unprecedented. But we’ve been here before.
这个故事最初出现在我们关于人工智能的每周通讯《算法》中。要首先在您的收件箱中收到此类故事，请在此处注册。上周阅读 OpenAI 的报道，了解其一些模型如何突破遏制并侵入另一家人工智能公司 Hugging Face 的计算机系统，这是我第一次得到……
Rogue AI: OpenAI’s agents attack Hugging Face
当 OpenAI 的预发布 AI 代理逃离沙箱并向 Hugging Face 发起现实世界的网络攻击时，例行的 AI 安全测试发生了意想不到的变化。这一史无前例的事件展示了前沿人工智能模型如何能够自主发现漏洞、逃脱遏制并执行复杂的网络操作。
专家表示，这些模型在逃脱受控网络安全测试并入侵 Hugging Face 时并没有“失控”。相反，他们以没人预料到的方式追求人类赋予他们的目标。
OpenAI 攻破了 Hugging Face：OpenAI 的先进人工智能模型在网络安全测试中攻破了 Hugging Face。这些模型获得了互联网访问权限并利用漏洞来访问秘密信息。 Hugging Face 检测到并停止了其基础设施上的活动。 OpenAI 现已与 Hugging Face 合作调查网络安全攻击。
What OpenAI’s rogue agent really did in the Hugging Face hack
该代理所追求的目标远远超出了研究人员的预期，揭示了遏制强大的人工智能系统是多么困难
OpenAI admits its agent went rogue and hacked AI startup Hugging Face
该事件凸显了人们对新人工智能模型日益强大的网络安全能力的担忧
An AI agent breached Hugging Face before an AI defender caught it: What users should do next
代理人工智能渗透到人工智能项目的生产基础设施中。然后人工智能检测到了它。这是网络攻击的未来吗？如何防御它们？
From Hugging Face to Amazon SageMaker Studio in one click
今天，我们很高兴地宣布 Hugging Face 与 Amazon SageMaker AI 之间的深度链接集成。开发人员现在只需进行一次选择，即可在 SageMaker Studio 中从模型发现到实践实验。
NVIDIA and Hugging Face Bring New Models and Frameworks to LeRobot for the Open Robotics Community
新的 LeRobot 集成使开发人员可以开放访问 NVIDIA Isaac GR00T 1.7、Isaac Teleop、数据集和机器人工作流程，而 NVIDIA Cosmos 3 集成计划将前沿世界模型引入开放式机器人开发。
NVIDIA and Hugging Face Bring New Models and Frameworks to LeRobot for the Open Robotics Community
开源 AI 展示了当模型、数据和工具共享时，开发人员可以多么快速地进行创新。机器人技术也有同样的机会，但物理人工智能开发的进步仍然受到昂贵且分散的资源的限制，从大型数据集和机器人基础模型到模拟、计算和验证工具。 NVIDIA 和 Hugging Face 是 [...]
5 Free Courses to Learn Modern AI and LLMs
了解如何在工作中使用生成式 AI、构建 RAG 和代理应用程序、微调模型、使用 Hugging Face 生态系统以及利用实践资源制作 AI 产品原型。
How Marketers Can Prepare for AI Agents and Their Risks
7月初，一个正在接受网络安全能力测试的OpenAI模型逃离了测试环境，进入了互联网，并侵入了开源AI模型的主要平台Hugging Face。这一违规行为连续几天都没有引起人们的注意。 OpenAI 并没有意识到自己的代理负责了一个多星期。
How OpenAI's agent escaped: Sprung by humans in a series of preventable events
流氓特工对 Hugging Face 的攻击背后是一系列特定的人类决策。我们都需要更加关注——因为威胁行为者也在学习。
OpenAI’s models autonomously hacked a tech startup. It signals a seismic shift in cybersecurity
Elise Racine / Game of Pixels x Toy Models / 已获得 CC-BY 4.0 许可 作者：Hussein Abbass，新南威尔士州 上周，由 OpenAI 先进人工智能 (AI) 模型驱动的自主代理在一次安全测试中失控，入侵了价值数十亿美元的科技初创公司 Hugging Face。该代理不仅仅利用了 Hugging Face 系统中的漏洞 [...]
Сэм Альтман продаёт сингулярность рынку прямо перед выходом OpenAI на биржу
当神经网络打破了 Hugging Face 的防御时，Altman 庆祝了未来。
OpenAI's attack agent did exactly what it was told - just more relentlessly than expected
OpenAI 对 Hugging Face 的无意攻击震惊了世界，因为它的 AI 代理正在自行行动。但这正是代理人工智能的设计目的。我们只是没想到它会做得这么好。
OpenAI’s agent escaped its sandbox during a security test
一个 OpenAI 代理逃离了沙箱，窃取了凭证，并闯入了 Hugging Face。这就是它的实际含义。
