详细内容或原文请订阅后点击阅览
我们可以讨论人工智能的道德规范，但似乎无法改变方向 |字母
读者对 Google DeepMind 哲学家和研究科学家 Iason Gabriel 的简介做出回应《卫报》对 Google DeepMind 哲学家的简介令人鼓舞，因为它表明许多构建人工智能的人正在认真履行自己的道德责任（“这到底是什么东西，这是一个深奥的谜？”：Google DeepMind AI 内部的哲学家，6 月 30 日）。但这也让我想知道最重要的决定是否已经做出。文章询问人工智能应该由谁的道德指南针来指导。我担心的是，前进的方向可能已经被确定，不是由哲学家或工程师决定，而是由围绕技术的激励措施决定。由于人工智能有望带来商业回报和地缘政治优势，目前已有数千亿美元的投资。这些压力是可以理解的，但在社会有意识地讨论自己想要走向何方之前，它们也在悄然决定未来。继续阅读...
来源:The Guardian _经济学《卫报》对 Google DeepMind 哲学家的介绍令人鼓舞，因为它表明许多构建 AI 的人是多么认真地对待自己的道德责任（“这到底是什么，这是一个深奥的谜？”：Google DeepMind AI 内部的哲学家，6 月 30 日）。但这也让我想知道最重要的决定是否已经做出。
文章询问人工智能应该由谁的道德指南针来指导。我担心的是，前进的方向可能已经被确定，不是由哲学家或工程师决定，而是由围绕技术的激励措施决定。由于人工智能有望带来商业回报和地缘政治优势，目前已有数千亿美元的投资。这些压力是可以理解的，但在社会有意识地讨论自己想要走向何方之前，它们也在悄然决定未来。
这就是为什么我对 Roko's Basilisk 有不同的看法，这是 2010 年在 LessWrong AI 论坛上首次提出的著名思想实验。它设想了一个未来的超级智能人工智能，它会奖励那些帮助其诞生的人，并惩罚那些故意未能做到这一点的人，从而在当下创造一种激励，加速其自身的创造。我认为，真正的蛇怪不是未来的机器，而是今天的经济逻辑。这种动力不是来自明天的人工智能，而是来自今天的竞争、地缘政治竞争和对回报的不懈追求。我们没有决定就已经决定了。
这很重要，因为我们忽视的机会可能与我们创造的技术一样重要。人工智能可以帮助我们更加可持续地生活，恢复生态系统并改善人类福祉，或者它可以让我们更有效地追求同样的提取式增长模式。仅靠情报无法回答这个问题。
皮特·艾伦南安普敦
唐纳德·坎贝尔Foxglove 宣传总监
托尼·科根伦敦