详细内容或原文请订阅后点击阅览
Anthropic 与政府的最新争执中值得关注的三件事
这个故事最初出现在我们关于人工智能的每周通讯《算法》中。要首先在您的收件箱中收到此类故事，请在此处注册。对于那些正在享受夏天而不知道 Anthropic 与美国政府最近不和的人来说，这里有一个回顾：四月份该公司表示它已经建立了一个名为 Mythos 的人工智能模型......
来源:MIT Technology Review _人工智能人们担心人工智能的灾难性影响（被广泛称为“厄运”）多年来一直表示该技术对人类构成威胁，并就政府应如何干预其发展提出了建议。末日分子刚刚得到了政府的干预——不是针对生物武器或流氓人工智能，而是针对基本上非常擅长编码的人工智能模型。到目前为止的结果看起来不像是一个安全计划，而更像是一种肤浅的反应。
关于那几天发生的导致政府采取如此激烈行动的事情，有很多值得剖析的地方，值得注意的是，亚马逊首席执行官安迪·贾西 (Andy Jassy) 告诉政府官员《神鬼寓言》将是危险的（亚马逊既投资了 Anthropic，又建立了自己的竞争性人工智能模型）。这也有可能是政府的一项短期禁令，无法经受法律审查（例如，尚不清楚 Anthropic 提供的《神鬼寓言》访问权限是否真的算作“出口”）。
但连锁反应已经发生。
首先，这让很多人不想依赖美国人工智能公司。法国政治家布鲁诺·雷特尔洛 (Bruno Retailleau) 将其描述为“警钟”，应激励欧洲建立更多人工智能。但任何将巴黎变成硅谷的愿景——在 Anthropic 的模式关闭后受到许多其他欧洲领导人的吹捧——都因一件大事而变得复杂：中国。
来自中国的开源模型非常强大且非常便宜，并且可以下载它们并在任何人的服务器上运行，没有任何规则或护栏。 （这使得它们对那些不希望根据白宫决定而关闭访问的公司有吸引力，但对网络犯罪分子也同样有吸引力，Anthropic 希望通过在其模型中构建安全护栏来抵御这种类型。）