详细内容或原文请订阅后点击阅览
a.i. 的 syn/ack-gogue世界末日
由于廉价计算能力的爆炸式增长，人工智能的发展速度比以往任何时候都快。但其中一位大祭司似乎还牢牢停留在过去的千年里……
来源:weird things随着过去四年左右人工智能的大量炒作，自封的人工智能安全专家 Eliezer Yudkowsky 已经落入幕后，被一小群拥有现实世界中实际使用的人工智能模型的首席执行官所掩盖，并有更多有趣的事情要向记者说。即使是与齐齐安家族的不愉快的事情也没有让他重新回到聚光灯下。
但尤德科夫斯基是一个非常喜欢听自己说话的人，所以去年夏天，他和内特·苏亚雷斯（Nate Soares）出版了一本名为《如果有人建造它，每个人都会死》的书。内特·苏亚雷斯是他的一个小型智囊团的主席，也是他 LinkedIn 上偶尔的程序员。微妙从来都不是他的强项，所以这个名字有点合适，并且符合公众对人工智能的情绪，尽管出于不同的原因。
虽然普通人担心聊天机器人会夺走他们的生计，或者至少成为被抛弃而转而使用更便宜的外国劳动力的借口，但尤德科斯基设想了一种类似奥创的怪物，它对人类构成了生存威胁。在过去的二十年里，他一直痴迷于弄清楚它将如何导致大规模灭绝或其他我们甚至害怕生存的灾难。
Yudkowsky 拥有比以往任何时候都更令人印象深刻的模型，并且与我们的技术大佬有着紧密的联系，可以获取他想要的任何信息，Yudkowsky 学到了什么？他如何更新他在 LessWrong 上数百万字的思考来解释该领域的新发现？
好吧，事实证明他什么也没学到。如果你读过一篇 LessWrong 的文章，那么你几乎已经读完了所有这些文章以及这本书。他似乎仍然认为人工智能是一种魔法，有一天，它的智力将超越全人类的总和，将不受我们所能阻止的任何事情的影响，将没有弱点，并操纵人类执行我们无法理解的命令。基本上，人工智能对他来说是恶魔和鬼魂的混搭，如此强大，任何咒语或驱魔都不起作用。
#政治
通过
#tech