详细内容或原文请订阅后点击阅览
对于网络安全而言，人工智能的发展速度是否太快？
涉及 OpenAI 和 Anthropic 的单独事件表明，人工智能发现和利用漏洞的速度比公司修补漏洞的速度更快。帖子《人工智能对网络安全来说进展太快了吗？》首先出现在美国企业研究所 - AEI 上。
来源:美国进取研究所信息最近的发展表明，人工智能的发展速度可能快于网络安全的跟上速度。涉及 OpenAI 和 Anthropic 的单独事件表明，人工智能发现和利用漏洞的速度比公司修补漏洞的速度更快。政府的回应进一步引发了人们对开放权重模型的未来以及公司在共享网络威胁信息时是否应保留责任保护的疑问。我们的最新一集探讨了人工智能对于旨在遏制其网络风险的系统来说是否发展得太快。
肖恩 (Shane) 与埃文·斯瓦茨特劳伯 (Evan Swarztrauber) 一起出演了《The Center Edge》的跨界剧集。 Evan 是 CorePoint Strategies 的创始人，也是数字进步研究所的高级研究员。他此前曾在联邦通信委员会担任时任主席阿吉特·派和委员布伦丹·卡尔的政策顾问。
下面是我们讨论的经过轻微编辑和删节的记录。您可以在 AEI.org 上收听“向肖恩解释”的本集和其他剧集，并通过您喜欢的收听平台进行订阅。如果您喜欢本集，请给我们留下评论，并告诉您的朋友和同事收听。
Shane Tews：OpenAI 最近透露，其模型在一次内部测试中突破了沙箱并入侵了 Hugging Face。发生了什么？它告诉我们关于日益代理的人工智能的什么信息？
Evan Swarztrauber：OpenAI 承认了一些前所未有的事情：它自己的模型攻击了另一家公司。它源于一项内部测试，旨在衡量 OpenAI 模型的黑客攻击能力。随着安全围栏被故意放松，模型发现了零日漏洞，突破了沙箱，进入了开放互联网，并侵入了开源人工智能主要中心 Hugging Face 的生产系统。
几个月前，Anthropic 推出了一种名为 Mythos 的强大网络安全模型。 “神话时刻”揭示了什么，华盛顿又如何回应？