详细内容或原文请订阅后点击阅览
本周人工智能：《神鬼寓言 5》、克隆浪潮和 Uber 的人工智能现实检验
本周，egghead.io 联合创始人 John Lindquist 与 CS Dojo 创始人兼 Eventual 开发者体验经理 YK Sugi 一起报道最新的人工智能新闻。第一个议程是《克劳德寓言 5》的有争议的发行。他们还研究了重塑科技行业的财务变化，包括与代理相关的成本上升[...]
来源:O'Reilly Media _AI & ML本周，egghead.io 联合创始人 John Lindquist 与 CS Dojo 创始人、Eventual 开发者体验经理 YK Sugi 一起报道最新的 AI 新闻。第一个议程是有争议的《克劳德寓言 5》的发布。他们还研究了重塑技术行业的财务变化，包括与代理编码循环相关的成本上升。然后约翰概述了他在代理时代构建的框架，而无需每次都从头开始。
在这里观看完整剧集：
克劳德寓言5：三天，政府命令，还有很多悬而未决的问题
Claude Fable 5 于 6 月 9 日推出，并于 6 月 12 日从所有客户处撤下，原因是美国政府发布指令，命令 Anthropic 限制美国境内外的外国人访问。据报道，亚马逊研究人员发现了他们所描述的安全漏洞，据报道，在 Anthropic 拒绝修补或重新部署该模型后，该指令被撤销。人类高级工作人员随后前往华盛顿与白宫官员会面。
关于实际发生的事情的争议尚未解决。 Anthropic 的立场是，所报告的问题是先前已发现的小范围越狱，并且普遍存在于公共模型中，而不是严重的安全威胁。一位审阅该报告的独立研究人员将其描述为防御性提示，暴露了已知的漏洞，并称这种反应是过度反应。双方都没有公布该技术或提示，因此无法独立评估该主张。但正如约翰所说，“随着模型的发布，这开创了一个非常奇怪的先例，政府可以介入并控制私营公司可以用他们的模型做什么和不能做什么。”