详细内容或原文请订阅后点击阅览
随着 Claude 扩展到自主代理，Anthropic 的安全第一人工智能与五角大楼发生冲突
随着 Anthropic 发布其迄今为止最自主的代理，与军方日益激烈的冲突揭示了全球扩张和“安全第一”精神之间的不可能选择
来源:科学美国人2月5日，Anthropic发布了其最强大的人工智能模型Claude Opus 4.6。该模型的新功能之一是能够协调自主代理团队——多个人工智能，它们可以划分工作并并行完成工作。 Opus 4.6 发布 12 天后，该公司放弃了 Sonnet 4.6，这是一种更便宜的型号，几乎与 Opus 的编码和计算机技能相匹配。 2024 年末，当 Anthropic 首次推出可以控制计算机的模型时，它们几乎无法操作浏览器。据 Anthropic 称，现在 Sonnet 4.6 可以导航 Web 应用程序并以人类水平的能力填写表格。两种型号的工作内存都足够大，可以容纳一个小型库。
企业客户目前约占 Anthropic 收入的 80%，该公司上周完成了一轮 300 亿美元的融资，估值为 3800 亿美元。无论从哪方面衡量，Anthropic 都是历史上规模扩张最快的科技公司之一。
但在大型产品发布和估值背后，Anthropic 面临着严重的威胁：五角大楼已表示可能将该公司指定为“供应链风险”——这个标签通常与外国对手联系在一起——除非该公司放弃对军事用途的限制。这样的指定可能会有效地迫使五角大楼承包商剥夺克劳德的敏感工作。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过订阅来支持我们屡获殊荣的新闻事业。通过购买订阅，您将有助于确保有关塑造当今世界的发现和想法的影响力故事的未来。
Anthropic 可能试图在任务规划（克劳德可能帮助识别轰炸目标）和处理文档的平凡工作之间划清界限。 “大型语言模型有很多无聊的应用，”普罗巴斯科说。