详细内容或原文请订阅后点击阅览
如果有任何变化，所有价值死亡？
今天，Yudkowsky＆Soares出版了他们的书，如果有人建造它，每个人都死了：为什么超人AI会杀死我们所有人。我花了一天的时间阅读它。
来源:Overcoming Bias今天，Yudkowsky＆Soares出版了他们的书，如果有人建造它，每个人都死了：为什么超人AI会杀死我们所有人。我花了一天的时间阅读它。
今天Yudkowsky＆Soares出版了他们的书 如果有人建造它，每个人都死了：为什么超人AI会杀死我们 。我花了一天的时间阅读它。他们的核心论点（我的释义）：
知道思想是通过自然选择或通过数据进行培训而进化的，几乎没有告诉您在选择或培训环境之外想要什么。例如，很难预测人类会喜欢冰淇淋，三氯蔗糖或避孕性行为。或者孔雀想要巨大的五颜六色的尾巴。类似地，培训AI并不能让您在接受培训后很长时间预测它想要什么。因此，我们无法预测我们今天开始的AIS以后会想要什么，而当它们更强大并能够杀死我们时。为了实现他们想要的大多数事情，他们会杀死我们。 Qed。此外，智商还指出，在任何给定的选择或培训过程中，都非常罕见地感到幸福，欢乐或体现有价值的，因此很少见。因此，未来的AI将体现几乎没有价值。
知道思想是通过自然选择或通过数据进行培训而进化的，几乎没有告诉您在选择或培训环境之外想要什么。例如，很难预测人类会喜欢冰淇淋，三氯蔗糖或避孕性行为。或者孔雀想要巨大的五颜六色的尾巴。类似地，培训AI并不能让您在接受培训后很长时间预测它想要什么。因此，我们无法预测我们今天开始的AIS以后会想要什么，而当它们更强大并能够杀死我们时。为了实现他们想要的大多数事情，他们会杀死我们。 QED。
此外，心灵指出的是，会感到幸福和欢乐，或以任何方式体现有价值的人非常罕见，因此不太可能是由于任何给定的选择或培训过程而产生的。因此，未来的AI将体现几乎没有价值。
证明