详细内容或原文请订阅后点击阅览
硅谷警告称，白宫在公开发布之前权衡人工智能检查
唐纳德·特朗普总统的白宫正在考虑是否应该允许美国政府在最强大的人工智能模型向公众开放之前对其进行筛选，这是他之前对人工智能行业采取自由放任态度的重大转变。在最近有关白宫人工智能模型审查的报道中，争论归结为政府是否应该在具有编码或网络功能的前沿系统分发给公众之前进行干预。这并不是一个微妙的变化。这是华盛顿在询问人工智能的军备竞赛是否已经发展到“发布它并看看[...]
来源:AI 2 People唐纳德·特朗普总统的白宫正在考虑是否应该允许美国政府在最强大的人工智能模型向公众开放之前对其进行筛选，这是他之前对人工智能行业采取自由放任态度的重大转变。
在最近有关白宫人工智能模型审查的报道中，争论归结为政府是否应该在具有编码或网络功能的前沿系统分发给公众之前进行干预。这并不是一个微妙的变化。这是华盛顿在问人工智能的军备竞赛是否已经发展到“发布它并看看会发生什么”不再有效的阶段。
正在考虑的提案涉及一项行政命令，该命令可能会成立一个由公务员和技术高管组成的工作组，以研究监管如何运作。
根据有关政府会谈的其他报道，会谈主要集中在可能引发网络攻击或帮助识别软件弱点的复杂模型上。
显然，这有点鞭打。承诺消除人工智能发展障碍的政府现在似乎愿意设置障碍。也许不是一堵墙，也许只是一扇门。
在此之前，人们对 Anthropic 的最新系统 Mythos 感到焦虑，据报道，该系统因其复杂的编码和漏洞检测能力而令网络专家感到不安。媒体还报道称，其中包括考虑在普遍发布之前对具有国家安全影响的模型进行审查的方法。
这种焦虑是相当合乎逻辑的：如果可以使用一个模型来帮助更快地发现错误，它也可能会帮助黑客更快地找到它们。这就是这场争论中令人不安的结。
对于特朗普来说，这是一个重要的方向转变。当他于 2025 年 1 月签署一项减少人工智能主导地位障碍的行政命令时，他废除了政府此前制定的人工智能政策，他称这些政策阻碍了创新。