详细内容或原文请订阅后点击阅览
None
None
来源:Overcoming Bias关于人工智能风险，我说过进化的事物有两个强大的习惯：对共存的竞争对手保持警惕，即使与你相似；对后代的纵容，即使与你不同。今天，未来的人工智能是我们的后代，而不是共存的竞争对手。
一些人回复说，这是对“后代”概念的疯狂愚蠢的隐喻应用，因为人工智能并非来自智人物种，而且它们没有 DNA。所以人工智能并不是“真正的”后代。
但“后代”的概念是达尔文选择一般理论中的一个技术术语。我从字面上使用这个概念，而不是隐喻。基于 DNA 的进化是这一一般理论的一个特例，数十万年来，人类进化主要是由一种不同的、非 DNA 的达尔文选择驱动的：文化进化。
达尔文的一般理论是，事物的趋势会导致具有相似趋势的未来事物的相似，这是被选择的。当这种选择成为可能时，它就会发生，并且这种事情往往会传播到任何可能的地方。那些被选中的类似的未来事物就是“后代”。进化的生物确实倾向于纵容后代。
这个过程部分地选择了随着时间的推移而持续存在的事物，因为事物的未来版本实际上是类似的未来事物。它选择一个事物来改变具有相似倾向的其他共存事物，使其变得与该事物更加相似。但最重要的是，它选择创造更多具有相似倾向的新的相似事物。因此，当人类影响其他人做出类似的行为，而不影响他们的 DNA 时，这些其他人就被视为文化进化的后代。
是的，如果你触发雪崩，“卵石”级联会持续更长时间，但也会很快停止。引爆核弹会产生更长的级联，但即便如此，它很快就会结束。能够无限延续的血统更有价值。