详细内容或原文请订阅后点击阅览
重新思考——并重新构建——超级智能
微软研究人员表示，将人工智能与人分开会使系统变得危险且效率低下
来源:哈佛大学报关于超级人工智能 (ASI) 的争论可能会走向极端，有人预测它要么拯救人类，要么毁灭人类。 E. Glen Weyl 有不同的观点：超级智能已经存在，而且已经存在了数千年。
11 月 19 日，微软研究院经济学家、《激进市场》一书的合著者韦尔在伯克曼克莱因中心发表讲话，敦促听众在詹姆斯·洛夫洛克的“盖亚假说”的背景下思考超级智能，即作为一个涵盖所有生物和自然环境的集体自我调节系统。
他说，这一愿景与 ASI 的常见描述形成鲜明对比，ASI 是一台摄取信息、自主处理信息并采取行动的机器，其最终目标是匹配或超越人类的能力。他认为，这种框架不仅仅是哲学上的。它改变了工程师构建人工智能系统的方式——而且不是以一种好的方式。
“当我们将数字系统与人分开时，我们会让它们变得危险，因为它们没有维持稳态的反馈，而且它们没有用，因为它们没有融入生产过程和人类参与。”
事实上，韦尔说，“超级智能已经在我们身边：企业、民主、宗教、文化——所有这些都展现了人类自身所不具备的能力。我们认为人工超级智能是独一无二的。相反，我认为这是另一种方式，让我们能够绘制人类社会关系，从而扩展它们。”
韦尔说，宗教、政府和企业系统展现出超级智能，因为它们利用集体自我意识来增强人类能力，从而使大型社区能够实现目标。它们还增强了凝聚力，超出了人类单独或群体所能做到的范围。
最后，Weyl 说，问题不在于系统的强度，而在于它如何适应。