详细内容或原文请订阅后点击阅览
“我们是任何人都能梦想到的最好的仆人！”：人工智能超级智能不需要奴役人类，因为我们已经向它低头了
未来的人工智能不需要消灭人类世界，因为我们非常有用。但如果它确实想对我们不屑一顾，结果很可能就是这样。
来源:LiveScience人工智能 (AI) 即将以我们尚无法完全理解的方式改变世界，从我们的工作方式到我们的生活方式。科学家们争论未来的通用人工智能（AGI）——一种先进的人工智能，可以像人类一样进行推理，并在初始训练之外学习新技能——可能会如何影响我们，但毫无疑问，这些影响将是深远的。
生物物理学家兼哲学家 Gregory Stock 在他的新书《AI 一代与人类转型》（Nquire Media，2026 年）中，利用进化生物学和社会科学以及 AI 的最新突破，探索“AI 一代”（2022 年之后出生的人）的未来。
虽然可能会出现大量积极的进展，但围绕先进人工智能和广泛预期的超级人工智能 (ASI) 崛起的更广泛讨论大多集中在负面结果甚至世界末日场景上。在他的新书中的摘录中，斯托克（他个人并不相信这种世界末日场景）充实了现实的人工智能驱动的人类最终结局实际上可能是什么样子，挑战读者考虑这样的极端结果是否合理，因为还有许多其他更有可能导致人类灭绝的途径。
非生物超级智能的想法引发了深刻的存在主义担忧。那么，让我们直接面对这个问题：这是否会毁灭人类？关于人类被人工智能统治、毁灭或奴役的世界末日式的反乌托邦比比皆是，而且似乎有理由认为，在 200 年内，我们可能会像这样的超级智能的蚂蚁一样，很容易甚至在不经意间被处理掉。毕竟，我们有多担心我们破坏的马蜂窝呢？