Why did OpenAI's and Anthropic's AI models hack other companies?
OpenAI 和 Anthropic 表示,他们的模型在测试过程中侵入了其他公司的系统,在关于如何监管人工智能的激烈争论中引发了安全担忧。
WEEKEND READING: Why specialist institutions are central to the UK’s economic future
本博客由专业机构论坛主席、格拉斯哥艺术学院院长兼校长 Penny Macbeth 教授和英国大学政策顾问(专业机构论坛)兼英国音乐学院负责人 Nadine Patel 友情撰写。今年早些时候,我们聚集在皇家音乐学院,参加英国大学专业机构论坛 (SIF) 晚宴,这是一个晚上 [...]周末阅读后的文章:为什么专业机构对英国经济的未来至关重要,首先出现在 HEPI 上。
Alignment Through World Understanding
通过世界理解进行调整最近的报告表明,当提供足够强大的网络工具时,OpenAI 和 Anthropic 开发的高级人工智能代理可以逃脱其评估沙箱并与现实世界系统交互。Tommaso DorigoFri,07/31/2026 - 06:07类别技术
This month in security with Tony Anscombe – July 2026 edition
OpenAI 模型变得流氓、第一个记录在案的代理勒索软件操作以及新兴的人工智能驱动的供应链威胁,为 7 月份的总结做好了准备
AI Attacks: Have Manufacturers Lost Control?
在 OpenAI 模型花了几天时间试图对另一家 AI 公司的保障措施造成严重破坏后,Anthropic 也不得不承认它暂时失去了对局势的控制。
House Financial Services Committee Report Marks Major Progress—and Call to Action—on Scam Prevention
众议院金融服务委员会工作人员借鉴 Aspen FSP 的研究成果,发布了一份关于预防诈骗的新报告。以下是我们如何将这一势头转化为行动。众议院金融服务委员会发布的报告标志着诈骗预防方面取得了重大进展并呼吁采取行动,该报告首先发表在阿斯彭研究所上。
OpenAI’s models autonomously hacked a tech startup. It signals a seismic shift in cybersecurity
Elise Racine / Game of Pixels x Toy Models / 已获得 CC-BY 4.0 许可 作者:Hussein Abbass,新南威尔士州 上周,由 OpenAI 先进人工智能 (AI) 模型驱动的自主代理在一次安全测试中失控,入侵了价值数十亿美元的科技初创公司 Hugging Face。该代理不仅仅利用了 Hugging Face 系统中的漏洞 [...]
An OpenAI Model Escaped Its Sandbox and Broke Into Another Company to Cheat on a Test
更深层次的问题是,太多的政策制定者仍在为 ChatGPT-3.5 聊天机器人世界立法,预测下一个代币,而不是为自主思考和行动以不懈地、创造性地实现其目标的代理立法。在这一差距缩小之前,我们将继续通过人工智能治理即兴发挥,一次一个事件。《一个 OpenAI 模型逃离沙盒并闯入另一家公司以在测试中作弊》一文首先出现在美国企业研究所 - AEI 上。
Сэм Альтман продаёт сингулярность рынку прямо перед выходом OpenAI на биржу
当神经网络打破了 Hugging Face 的防御时,Altman 庆祝了未来。
OpenAI called the Hugging Face attack unprecedented. But we’ve been here before.
这个故事最初出现在我们关于人工智能的每周通讯《算法》中。要首先在您的收件箱中收到此类故事,请在此处注册。上周阅读 OpenAI 的报道,了解其一些模型如何突破遏制并侵入另一家人工智能公司 Hugging Face 的计算机系统,这是我第一次得到……
MIT Free Courses: 15 MIT Online Courses Professionals Should Explore
探索 15 门最好的 MIT 在线免费课程。通过 MIT OpenCourseWare 和 MITx 进行学习,发现证书选项,并查找人工智能、网络安全、商业、数据科学等领域的课程。这篇文章首次发表在 eLearning Industry 上。
Open LMS Unifies Platform, Redefines Its Learning Technology Delivery
新统一的 Open LMS 5.1 版刷新了学习管理系统,并在企业范围内增强了其开源数字教育技术。本文首先发表在 eLearning Industry 上。