详细内容或原文请订阅后点击阅览
本周人工智能：重新思考代理工具
周一，我们开始了新的每周系列《This Week in AI》，我们在 30 分钟内讨论了很多内容，包括一个比数十年人类审计更快地发现安全漏洞的 AI 模型、一个犹他州两个曼哈顿大小的数据中心，以及为什么要利用该工具的实际论证 [...]
来源:O'Reilly Media _AI & ML周一，我们启动了新的每周系列《This Week in AI》，我们在 30 分钟内涵盖了很多内容，包括一个比数十年人类审计更快地发现安全漏洞的 AI 模型、一个位于犹他州的两个曼哈顿大小的数据中心，以及一个实际论证，说明为什么现在围绕模型构建的工具比您选择哪个模型更重要。
以下是主持人埃里克·弗里曼 (Eric Freeman) 与嘉宾约翰·贝里曼 (John Berryman) 之间的对话的一些要点。埃里克·弗里曼是 UT 奥斯汀分校的教员，也是 O’Reilly 的老朋友，而嘉宾 John Berryman 是 Arcturus Labs 的创始人、GitHub Copilot 的早期生产工程师，也是 O’Reilly 的《法学硕士即时工程》一书的合著者。观看整集，了解为什么你应该建立自己的代理，以及为什么约翰相信人类最终将没有互联网。
AI’s security problem is now a policy problem
You’ve probably already heard about Mythos. Anthropic 对前沿模型的内部测试发现了主要操作系统、浏览器和金融基础设施中数千个以前未知的安全漏洞，其中包括 OpenBSD 中已有 27 年历史的漏洞。 Anthropic 选择不公开发布该模型，而是启动了 Project Glasswing，这是一个受限制的计划，可以对一小群值得信赖的合作伙伴进行受监控的访问，以进行防御性修补。
这一决定在华盛顿迅速做出。在大约六周的时间里，话题从 3 月份发布的温和的国家人工智能政策转移到了白宫关于模仿 FDA 处理药品方式的行政命令审查流程的讨论。安全研究员 Bruce Schneier 质疑 Mythos 在这方面是否具有独特的能力，或者是否可以通过更便宜的公共模型实现类似的结果，但正如 Freeman 指出的（释义 Schneier），无论哪种方式，这都是一个即将到来的问题。