详细内容或原文请订阅后点击阅览
新的人工智能模型刚刚改变了网络安全游戏。华盛顿还没有准备好。
本周暴露了一个真正的潜在差距:政府仍然缺乏系统、关系和技术能力来预见前沿能力的到来。在这种情况发生改变之前,每个神话时刻都将是一个惊喜。新的人工智能模型刚刚改变了网络安全游戏。华盛顿还没有准备好。首先出现在美国企业研究所 - AEI 上。
来源:美国进取研究所信息在 48 小时内,白宫提出了针对前沿人工智能模型建立美国食品和药物管理局 (FDA) 式的部署前审查制度的想法,但立即又收回了这一想法。
周二,《POLITICO》报道称,政府正在分发一份长达 16 页的行政命令草案,其中包括网络安全、开放权重模型、联邦合同以及针对最强大人工智能系统的预发布审查系统等条款。周三,国家经济委员会主任凯文·哈塞特 (Kevin Hassett) 预览了这一想法:
我们正在研究一项可能的行政命令,为每个人提供一个清晰的路线图,说明事情将如何发展,以及未来可能会产生漏洞的人工智能应该如何经历一个过程,以便在证明它们是安全的后将它们释放到野外。就像 FDA 的药物一样。
那天晚上,幕僚长苏西·怀尔斯 (Susie Wiles) 收回了这一观点,称政府“不负责挑选赢家和输家”,并将授权给“美国伟大的创新者,而不是官僚机构”。
鞭打并不重要,重要的是它产生的原因:政府因能力跳跃而措手不及,现在正忙于制定应对措施。
神话时刻
催化剂是 Anthropic 的新 Mythos 模型,早期测试表明该模型可以发现并利用软件漏洞。 Anthropic 尚未公开发布;它正在与一小部分技术、金融和安全组织共享,以便防御者可以修补漏洞。为了让您了解这些功能:Mozilla 报告称,Firefox 团队在 4 月份使用 Mythos 修复的安全漏洞比过去 15 个月的总和还要多。
“神话时刻”并不是一种单一模型现象。 OpenAI还发布了GPT-5.5-Cyber的有限预览版,可以发现并修补类似的漏洞。
自我造成的盲点
机构能力的需求
更好的框架
