详细内容或原文请订阅后点击阅览
Jill Lepore谈硅谷为何误解科幻小说
历史学家Jill Lepore解释了科技领袖在他们最喜欢的故事中所遗漏的内容——以及为何围绕AI数据中心的斗争可能是机器停止的地方。
来源:科学美国人故事总是以同样的方式展开：男孩遇见女孩，男孩解释他从未来而来是为了阻止机器人末日，男孩和女孩坠入爱河并共同对抗机器人霸主。故事结束。但历史学家Jill Lepore感兴趣的是被省略的部分：机器人最初是如何获得如此大的权力的，又是谁赋予它们的？
在她于8月25日出版的新非虚构书籍《人工国家的兴衰》中，Lepore追溯了一种幻想的漫长历史，在这种幻想中，人类判断让位于承诺速度和效率的系统。她认为，在现代形式中，这种幻想帮助将权力转移向由公司及其经营者拥有的机器。
科幻小说想象这种未来的版本已经超过一个世纪了。现在，随着社区为阻止全国各地为支持AI而建造的大型数据中心激增而斗争，这种叙事正与政治发生碰撞。在这种抵抗中，Lepore看到了她所称的“人工国家”衰落的迹象。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过订阅来支持我们屡获殊荣的新闻事业。通过购买订阅，您正在帮助确保关于塑造当今世界的发现和想法的有影响力故事的未来。
《科学美国人》与Lepore就我们如何走到这一步、硅谷对科幻小说的误解以及人工国家的控制是否已经在松动进行了交谈。
[以下是经过编辑的采访记录。]
在书的开头，您将这本书描述为一种对人工国家的考古学。那究竟是什么？
我在书中将人工国家定义为一种后人类世界的幻想，同时也是一种正在构建的东西：自由、民主、宪政的民族国家正被一个人工国家所取代，在这个国家中，人类不是同意被统治，而是由公司拥有的机器统治，由我们未选举的人拥有。
您写道，人工国家“与其说是一个国家，不如说是一个没有国家的梦想”。这实际上是什么样子？
我认为它立刻看起来是反乌托邦的，这是一种你可以在科幻小说中找到的幻想，甚至可以追溯到19世纪60年代。现代政府的技术设备无处不在，对吧？我们从20世纪30年代起就有了社会安全号码。我们从19世纪80年代和90年代起就使用制表机进行人口普查。我们通过大型计算机处理获得退伍军人福利。这就是现代国家和现代政府运作的方式。
因此，我试图区分帮助社会运转的技术改进——这些改进符合速度和效率的利益，使提供福利或跟踪税收更容易——和我们认为我们现在所处的时代。这个时代实际上始于21世纪初，伴随着来自硅谷的自由意志主义。1996年，《网络空间独立宣言》走红，那是一份宣言，声称网络空间中将没有法律。这是一个自由意志主义者的幻想。这种自由意志主义塑造了我们得到的互联网，并被带到了社交媒体，现在进入了AI。通过同意的政府被一种无法无天的、有些无政府主义的自由意志主义所取代，现在正让位于少数公司，其领导人视自己凌驾于民族国家之上。
您写道，科幻小说中的人工国家“几乎总是一场噩梦”。我们现在正生活在这样的噩梦中吗？
我发现一些科幻小说具有惊人的先见之明。我最喜欢的是E. M. Forster于1909年写的一个故事，叫《机器停止运转》，我以前从未读过。（它在他出版《看得见风景的房间》一年后问世），我认为它是没有风景的房间，因为它讲述了一个未来世界，一切由“机器”提供。我们的主角住在一个像牢房一样的房间里，因为她不需要去任何地方……有一天，机器（出故障了）。主角的儿子试图让他的母亲出来，成为自然世界的一部分，但她没有，所有人都死了。
我不知道人们是否会想，“哦，我们正生活在那个反乌托邦中”——尽管那些因AI失去工作的人有这种感觉，那些没有地方住、看着他们的社区建造这些大型数据中心、花费巨额资金为机器建造住房的人有这种感觉。
您说人工国家的建筑师阅读了大量科幻小说，但他们读得不好。他们理解错了什么？
我认为（科幻作家）Ted Chiang说得对。他几年前写了两篇很棒的文章，关于机器人末日故事的核心构思。这个想法是我们建造这些机器并告诉它们做某事——比如（哲学家）Nick Bostrom的思想实验，你让机器人高效、廉价、快速地最大化回形针的制造。机器人最终会杀死所有人类，因为我们挡了路。另外，我们的身体里有矿物可能对制造回形针有用。
然后Chiang说，现在让我想一想：我们社会中有什么东西会一心一意、不折不挠、无情地、毫无悔意、毫无怜悯地追求一个目标，并排除世界上任何其他责任意识？那就是现代公司。它们会破坏湿地、砍伐森林，无论是什么。你征服自然以提取其资源来制造商品。你就是末日小说中的机器人。
所以Chiang的观点是，实际上没有特别的理由认为真正的机器人会这样行动，除非它们被以这种方式运营公司的人编程。
他们应该读哪些作家呢？
我做了一个关于Elon Musk的播客，用了一整集来讲这些人都没读过的科幻小说，比如Octavia Butler、Ursula Le Guin、Ted Chiang。他们想读Robert Heinlein和Isaac Asimov——不是说Heinlein和Asimov之间没有区别——但他们想读20世纪50年代那些写火箭、机器人和飞行汽车的自由意志主义者。
您的书名是《人工国家的兴衰》。我们还在目睹兴起，还是已经开始看到衰落？
我觉得两者都有。去年夏天我写这本书时，感觉我们正处于兴起的痛苦之中。但现在，由于美国数据中心辩论今年春夏在全国初选中产生了如此大的影响，在全国各地，民主党人、共和党人和独立人士都在罢免批准这些数据中心或非常支持数据中心的官员，你几乎能听到刹车声。我们对此正在进行真正的民主审议。
故事中总是发生的是，自然限制意味着机器不能不断变得更大、更强、更快，提取越来越多，因为最终机器会停止运转。我认为我们正处在一个时刻，环境运动有可能复兴，这个运动不那么左倾，而更多关乎我们想要生活和分享的世界。那感觉肯定像是衰落，而不是兴起。