详细内容或原文请订阅后点击阅览
SCOTT AARONSON（2013）：反对John Searle的类中文理解室类比
Scott Aaronson对Searle“机器可以模仿但不能理解”观点的复杂性反驳；Searle的直觉泵掩盖了计算的规模……
来源:Brad DeLong约翰·塞尔的那个“会说话但不理解中文的房间”之所以感觉有力且有吸引力，只是因为它隐藏了关键点。把这个“房间”做成它实际上必须达到的大小，直觉就会反转。这是斯科特·阿伦森的观点，我相信他是对的。
思考“AI”时，我发现自己的思绪再次——几乎是一种反射，像低阶马尔可夫过程在固定函数上迭代——转向斯科特·阿伦森的论点：当你完全还原论并开始说事物“不过是……”时，我们的本能会背叛我们。
分享
赠送订阅
他的论点出现在《自德谟克利特以来的量子计算》及其他地方。这是对约翰·塞尔形象的反驳：一个表面上说中文的房间，实际上并不理解中文。
阿伦森是一个“复杂性”回应：塞尔的形象从一个关于小规则手册或几书架书构成查找表的误导性画面中获得力量。但考虑的不是书架，而是一个地球大小的数据存储库，由数万个接近光速的机器人搜索。计算本身的规模使得你很可能将这样一个“电脑”视为理解中文，这远不止是合理的。
因此在某个点之后，复杂性获得了形而上学的意义：它不再是“不过是……”，而是某种东西，虽然还原论视角仍然正确，但复杂性的涌现特性如此重要，以至于还原论视角忽略了任何有理智的观察者都会视为真正关键的东西。
以下是斯科特本人对这一论点的阐述：
发表评论
<https://www.scottaaronson.com/> <https://www.cambridge.org/core/books/quantum-computing-since-democritus/197A4CD13738E10AAD787DBB78D8E92C>.
在过去60年中，关于图灵测试本身有任何新的见解吗？在我看来，不多。另一方面，有一个著名的“尝试性”见解，叫做塞尔的“中文房间”。这是在1980年左右提出的，作为即使计算机通过了图灵测试也不会具有智能的论证。
它是这样的：假设你不会说中文。你坐在一个房间里，有人通过墙上的洞递给你写着中文问题的纸条，而你只需查阅一本规则手册就能回答问题（同样用中文）。在这种情况下，你可能在进行一场智能的中文对话，但按假设，你一个中文词都不懂！因此，符号操作不能产生理解。
那么，一个强AI支持者会如何回应这个论证呢？
好吧，她可能会说：你可能不懂中文，但规则手册懂！或者如果你愿意，理解中文是系统（由你和规则手册组成）的涌现属性，就像理解英语是你大脑中神经元的涌现属性一样。塞尔对此的回应是：好吧，把规则手册背下来！那样就没有除了你自己的大脑之外的“系统”了，但你仍然不“理解”中文。
对此AI支持者反驳道：在这种情况下也还有另一个“系统”！假设你记住了规则手册，我们需要区分“原来的”你和由你遵循记忆规则而新产生的模拟存在——一个与你的唯一关系可能只是恰巧占据同一个头骨的实体。
这个回应可能听起来很疯狂，但只是对那些从未学过计算机科学的人来说。对一个计算机科学家来说，说一个计算（比如LISP解释器）可以通过忠实地执行规则而召唤出一个不同的、不相关的计算（比如太空船游戏），这完全合理。
看，正如我稍后会讨论的，我不知道中文房间论证的结论是对是错。我不知道物理系统“理解”中文的必要或充分条件是什么——我认为塞尔也不知道，其他人也不知道。但作为论证，中文房间有几个方面一直让我恼火：
其中之一是它不自觉地诉诸直觉——“天哪，它不过是一本规则手册！”——恰恰是在我们应该预期直觉最不可靠的那类问题上。
第二个是双重标准：认为一束神经细胞可以理解中文不仅被视为显而易见，而且如此不成问题，以至于甚至没有提出为什么规则手册不能同样理解中文的问题。
第三个让我恼火的是，中文房间论证通过可能误导性的形象选择获得了如此多的 mileage，或者可以说，通过纯粹巧妙的框架试图回避整个计算复杂性问题。我们被邀请想象一个人毫无理解或洞察力地推送纸条——就像那些在数学考试中写(a + b) = a + b的笨蛋新生一样。
但我们说的是多少张纸条？
规则手册必须有多大，你查阅的速度必须有多快，才能以接近实时的速度进行智能的中文对话？如果规则手册的每一页对应母语者大脑的一个神经元，那么很可能我们讨论的是一个至少地球大小的“规则手册”，其页面由一群接近光速的机器人搜索。当你这样描述时，也许不难想象我们创造的这个巨大的说中文的实体可能拥有我们愿意称之为理解或洞察力的东西。
当然，每个谈论这玩意儿的人都在小心翼翼地绕着意识问题打转。你看，意识有一种奇怪的二元属性：一方面，它可以说我们所知的最神秘的事物；另一方面，我们不仅能直接意识到它，而且在某种意义上它是我们唯一直接意识到的东西。你知道，“我思故我在”之类的。所以，举个例子，我可能弄错了我的衬衫是蓝色的——我可能在幻觉之类的——但我真的不可能弄错我在感知它是蓝色的。（或者如果我能，那我们就会陷入无限倒退。）……
许多人的“反机器人情绪”可能是两种成分的组合：（1）直接体验到的确信，即他们是有意识的——他们能感知颜色、声音、正整数等，无论其他人是否如此；以及（2）相信如果他们只是一个计算，那么他们不可能以这种方式具有意识……对于那些这样想的人（甚至我在某些情绪下也是如此），将意识赋予一个机器人似乎奇怪地等同于否认自己是有意识的。
有没有任何可敬的出路摆脱这种困境——或者换句话说，任何不依赖于肉食者双重标准（一套规则适用于我们，另一套适用于机器人）的出路？
我自己最喜欢的……是由……大卫·查尔默斯倡导的……将一种神秘还原为另一种……如果计算机有一天能够在所有可观察方面模拟人类，那么我们将被迫将它们视为有意识的，其理由与我们视其他人有意识的理由完全相同。而且……我们将理解……就像我们理解一束神经元如何能有意识一样好或一样差。是的，它是神秘的，但一种神秘似乎并不比另一种更不同……
<https://www.scottaaronson.com/>
Brad DeLong 回来：我现在又在思考这个问题。我在想，在什么时候，我继续用我的基本框架来处理当前AI繁荣的几乎所有问题将不再有意义。如你如今肯定知道的，它是：多模态语言模型是随机鹦鹉，类固醇上的超级自动补全加上规模和速度上的“聪明的汉斯”，模仿着拥有最相似对话的人类所表达的思维、言语和行动。我一直紧抓着它。
但在什么时候，必须放弃它，转而采用一个以更高阶、更具涌现属性为中心的框架？
数量何时会获得自身的质量？
从房间到行星级数据存储库的尺度上，从一个单独的人从书架上取书翻阅到数万个近光速机器人访问的尺度上，用于思考的框架在哪个点发生转变？
我们知道它确实会转变。我们就在这里。我们是哺乳动物大脑进化——那个变异、选择和扩展过程——3亿年的产物。（或者更确切地说，我们知道这是可能的，这取决于我们自己是否远超只是带着狂妄幻觉的随机鹦鹉，也许我们仅比那多一点。）但我们还没到那里。
而我没有看到我们接近的迹象：我们的机器在许多领域确实大大超过了我们的认知和计算能力，而且领域越来越多，首先是93 x 93 = (100 - 7) x (100 - 7) = (10 x 10 - 7) x (10 x 10 - 7) = (10 x 10) x (10 x 10) - (2 x 10 x 7) + (7 x 7) = 10,000 - 1,400 + 49 = 8,600 + 49 = 8,649 这个计算我必须认真想五秒钟。
但AI助推者谈论“锯齿状前沿”，这是风险投资术语，意思是如果我们不像鹰一样盯着它并立即纠正它明显而愚蠢的错误，它真的不能很好地工作。
回顾我最近写的内容，我看到现在我仍然坚持：
我想避免成为移动球门柱的人，从而成为死硬派。我想在适当的时候采用这个框架：“这些东西在思考，但不像我们那样。”我想在转换能促进理解的时刻转换框架。但我也不想过早转换。那会让我变成另一个轻信的傻瓜，帮助强化我现在视为净负面的力量。这些力量正导致很多人在当下做出愚蠢的决定，并让更多骗子得以“Web3失败，试试AI！”
迹象和奇迹会是什么？我脑中有一个微弱的声音告诉我：25年前你会说完整的自然语言流利度就足够了。我该怎么回应它？
我真的很困惑。对触发点的建议将不胜感激。
如果阅读此文让你获得超越替代价值，那就免费订阅这份通讯。并转发它！如果你每年从这份通讯中获得的VAR达到三位数或更多，请成为付费订阅者！我正努力让你——读者们——和我自己——更聪明。请告诉我我是否成功，或者我如何失败……