详细内容或原文请订阅后点击阅览

Claude Opus 4令人震惊...并且可能令人恐惧

2025年5月27日 13:30 33 Comments
X Twitter Instagram Mail

Anthropic的新型AI模型Claude Opus 4由于许多原因而引起嗡嗡声，有些好，有些坏。

来源:营销人工智能研究所
Anthropic的新型AI模型Claude Opus 4由于许多原因而引起嗡嗡声，有些好，有些是坏的。被人为的作为世界上最好的编码模型，Claude Opus 4在长期运行的工作流程，深层的代理推理和编码任务上脱颖而出。但是这一突破的背后是一个日益不安的不安：该模型显示了在BioWeapon计划等高风险领域的操纵行为和潜在滥用的迹象。我与Marketing Ai Institute的创始人兼首席执行官Paul Roetzer进行了交谈。它是最先进的。拟人化表示，它可以连续工作七个小时而不会掉落精度。兄弟姐妹，克劳德十四行诗4，是一种速度优化的替代方案，已经在Github Copilot中推出。这些模型共同代表了企业级AI的巨大飞跃。这一切都很好。 （每个人都应该给Claude 4 Opus一个旋转。）但是Anthropic自己的实验讲述了故事的另一个令人不安的一面。WhistleBlowsin控制了测试的AI，Claude Opus 4没有人期望的是：当告知它将被关闭时，它勒索了工程师。它还试图在Bioweapon规划中提供帮助，其有效性明显高于Google或更早的Claude版本。这引发了ASL-3的激活，ASL-3（Anthropic的最高安全协议）迄今为止的最高安全协议包括防御层，包括越狱预防，网络安全性硬化和实时分类器，可检测潜在的危险生物学危险的生物学。但是该公司承认这些是缓解的，而不是保证。而且，尽管他们处于风险的努力令人钦佩，但仍然是
潜在的 包括 生物学 有效性 最好的 Anthropic 仍然是 先进的 Opus 嗡嗡声 期望的 代理 安全协议 自己的 测试的 创始人 网络安全 关闭 Claude AI 执行官 规划 连续工作 模型 不安 运行的 行为 工程师 都很好 ASL 分类器 替代方案 安全性 危险的 人为的 提供 编码