详细内容或原文请订阅后点击阅览
The AI doomers feel undeterred
对于人工智能的毁灭者来说，这是一个奇怪的时代。这个由研究人员、科学家和政策专家组成的小而有影响力的社区相信，用最简单的话说，人工智能可能变得如此之好，但对人类来说可能会很糟糕——非常非常糟糕。尽管其中许多人更有可能将自己描述为人工智能安全的倡导者……
来源:MIT Technology Review _人工智能有人夸大了通用人工智能就是明天早上的想法，这在商业上是有意义的。但如果您查看各种基准测试，您会发现 GPT-5 正是您所期望的模型在该时间点的位置。顺便说一句，不仅仅是 GPT-5，还有 Claude 和 Google 模型。在一些人工智能系统不太好的领域，比如 Humanity 的期末考试或 FrontierMath，他们现在的成绩比年初好得多。
与此同时，人工智能治理和安全的整体形势并不乐观。有一股强大的力量反对监管。这就像气候变化。我们可以把头埋在沙子里，希望一切都会好起来，但这并不能真正解决问题。
与政策制定者最大的脱节是对人工智能进步趋势持续下去可能发生的变化规模的误解。许多商界人士和政府人士只是认为人工智能只是另一种在经济上非常强大的技术。他们不明白，如果趋势继续下去，并且我们接近人类水平的人工智能，世界可能会发生多大的变化。
和许多人一样，我在某种程度上一直对潜在的风险视而不见。我应该早点看到它的到来。但这是人类。您对自己的工作感到兴奋，并且希望看到它好的一面。这让我们有点偏见，没有真正关注可能发生的坏事。
即使是很小的机会（例如 1% 或 0.1%），造成数十亿人死亡的事故也是不可接受的。
人工智能资深人士相信人工智能正在进步，但速度还不够快，不足以阻止泡沫破裂
Stuart Russell，加州大学伯克利分校计算机科学杰出教授，《Human Compatible》一书的作者
鉴于大多数领先的人工智能研究人员和大多数领先的人工智能首席执行官都认真对待这一问题，我希望谈论存在风险会让你成为“厄运”或“科幻小说”的想法被视为边缘。