How OpenAI's agent escaped: Sprung by humans in a series of preventable events
流氓特工对 Hugging Face 的攻击背后是一系列特定的人类决策。我们都需要更加关注——因为威胁行为者也在学习。
Not just OpenAI - Anthropic says Claude's hacking spree 'falls short of ideal behavior'
三个克劳德模型在“夺旗”安全挑战中失控。这是每个人留下的伤害痕迹。
Why did OpenAI's and Anthropic's AI models hack other companies?
OpenAI 和 Anthropic 表示，他们的模型在测试过程中侵入了其他公司的系统，在关于如何监管人工智能的激烈争论中引发了安全担忧。
OpenAI’s models autonomously hacked a tech startup. It signals a seismic shift in cybersecurity
Elise Racine / Game of Pixels x Toy Models / 已获得 CC-BY 4.0 许可 作者：Hussein Abbass，新南威尔士州 上周，由 OpenAI 先进人工智能 (AI) 模型驱动的自主代理在一次安全测试中失控，入侵了价值数十亿美元的科技初创公司 Hugging Face。该代理不仅仅利用了 Hugging Face 系统中的漏洞 [...]
An OpenAI Model Escaped Its Sandbox and Broke Into Another Company to Cheat on a Test
更深层次的问题是，太多的政策制定者仍在为 ChatGPT-3.5 聊天机器人世界立法，预测下一个代币，而不是为自主思考和行动以不懈地、创造性地实现其目标的代理立法。在这一差距缩小之前，我们将继续通过人工智能治理即兴发挥，一次一个事件。《一个 OpenAI 模型逃离沙盒并闯入另一家公司以在测试中作弊》一文首先出现在美国企业研究所 - AEI 上。
Сэм Альтман продаёт сингулярность рынку прямо перед выходом OpenAI на биржу
当神经网络打破了 Hugging Face 的防御时，Altman 庆祝了未来。
OpenAI called the Hugging Face attack unprecedented. But we’ve been here before.
这个故事最初出现在我们关于人工智能的每周通讯《算法》中。要首先在您的收件箱中收到此类故事，请在此处注册。上周阅读 OpenAI 的报道，了解其一些模型如何突破遏制并侵入另一家人工智能公司 Hugging Face 的计算机系统，这是我第一次得到……
7 months, 7 fronts: states draw up action plan for pollution season
各国提交了德里国家首都区污染季节的行动计划。环境部长 Bhupender Yadav 审查了这些计划的实施情况。对污染工业单位实行零容忍政策。针对具体行业的计划将解决跨地区的污染热点问题。协调一致的努力旨在显着改善空气质量管理。
The Digital Euro Is Being Sold Through Fear of America
欧盟终于承认它无法控制自己的支付基础设施。 Visa 和万事达卡目前处理整个欧元区约 65% 的卡支付，而 20 个欧元区国家中有 13 个完全依赖国际卡计划进行店内交易。 Brussels spent decades allowing two American corporations to become the […]
New 'Devil Flower' Species Discovered in Thailand
Pensoft 博客 研究人员描述了在泰国西部国家公园的森林地面上发现的一种新的无叶开花植物，其超凡脱俗的外观赢得了......
REFACTOR-VLA: Unsupervised Library Learning of Typed Motor Programs
当前大多数视觉-语言-动作 (VLA) 模型（例如 OpenVLA、π0、RT-2 和 RDT-1B）都是“单一的”。这意味着它们生成原始运动命令或非常短的动作序列，而不将行为组织成可重用的、定义明确的抽象。因此，这些模型在长期（多步骤）任务上表现不佳，并且很难解释它们学到的东西。现有的发现技能的方法通常避免了决定两个动作序列何时“行为等效”的核心问题。例如，AtomicVLA 和 AtomSkill 通过...分组动作序列
Marine Le Pen and the Nationalist Trend the Establishment Cannot Stop
法国的一项新民意调查不应被视为某种突然的政治觉醒。这证实了我们多年来在整个欧洲观察到的民族主义趋势正在持续并变得更加强大。民意调查显示，马琳·勒庞 (Marine Le Pen) 在 2027 年总统选举第一轮中以大约 36% 的支持率遥遥领先 [...]
Netflix's Generation 9/11 Follows Marines Who Served in Afghanistan
导演布莱恩·纳彭伯格 (Brian Knappenberger) 讨论了 Netflix 的 9/11 一代、喀布尔的海军陆战队以及受阿富汗战争影响的一代。
They Stole From His Mom Whereas In Hospice 😡
隐私不是偏执，而是安全。立即获取 Glacier 应用程序：https://srs.web site/glacierapp 以 5 美元协助 Shawn Ryan 礼物，并可以在发布之前免费观看这些内容，除了 Shawn 的私人读物之外！在这里加入：https://www.patreon.com/VigilanceElite 请让我们对 Apple/Spotify 播客进行评估：Apple – https://podcasts.apple.com/us/podcast/shawn-ryan-show/id1492492083 Spotify – https://open.spotify.com
Shawn Ryan Paid $35,000 for a Chopper He Could not Begin 😂
隐私不是偏执，而是安全。立即获取 Glacier 应用程序：https://srs.web site/glacierapp 以 5 美元协助 Shawn Ryan 赠送，并让潜在客户在发布之前查看除 Shawn 的私人读物之外的无广告内容！在这里加入：https://www.patreon.com/VigilanceElite 请离开我们对 Apple/Spotify 播客的评估：Apple – https://podcasts.apple.com/us/podcast/shawn-ryan-show/id1492492083 Spotify – https://open.spotify.co
我的兄弟罗杰·佩恩 (Roger Penn) 去世，享年 77 岁，他是一位好奇心强的社会学家，喜欢挑战传统。他受到新李嘉图经济学、韦伯社会学和法国年鉴学派的影响，并且非常注重实证研究。罗杰出生于兰开夏郡的莱瑟姆，父亲是奥尔加（娘家姓约翰逊），父亲西德尼·潘是普雷斯顿原子能管理局的机械工程师。 1972 年毕业。继续阅读...
Quantum Evidence Supports Penrose's Theory of Consciousness
Mike Wiest, iai 罗杰·彭罗斯 (Roger Penrose) 认为，人类思维可以做计算机无法做到的事情，因此思维必须利用不可计算的量子力学。这个想法仍然处于边缘。大多数科学家...
