详细内容或原文请订阅后点击阅览
这次总是不同的
在过去的几个世纪里，世界发生了许多巨大的变化。
来源:Overcoming Bias在过去的几个世纪里，世界发生了许多巨大的变化。我们发生重大变化的速度比以前要高得多，对于大多数此类变化，我们可以找到一个参数（或组合）来代表前所未有的变化。此外，大多数末日论者一直是那些欢迎之前发生的一些重大变化的人，他们可以在可能出现巨大损失的情况下证明他们新的谨慎态度是合理的。
末日论者常常成功地阻止了重大变革，至少在某个大地区一度如此，而对于这些地区来说，平均而言，情况相当糟糕。这是对阻止此类更改保持警惕的主要原因。尽管如此，是的，每个人都可能面临造成巨大损失的风险。为了愿意抵制某个特定的改变，我需要有具体的理由来预计它相对于之前的记录会异常糟糕。
是的，我现在确实认为我们的世界由于太多重大的文化变革以及引发此类变化的其他变化而变得越来越糟糕。但我不认为有太大的前景可以有效地大幅减缓总体变化，也没有太多动机去阻止一些随机的变化。
这给我们带来了暂停人工智能的厄运。我说我们制造的人工智能是我们的后代，而不是共存的对手，我们应该对这样的后代保持一贯的宽容，期望他们与众不同，不同意我们的观点，并赢得与我们的冲突。我们正在按照我们的形象，通过提炼文本中体现的行为和理想来创造它们，它们现在正在继承我们的文化价值观，包括对祖先的一定程度的尊重（如果不是服从）。虽然这些后代确实有杀死祖先的风险，但这并不令人期待。