详细内容或原文请订阅后点击阅览
人工智能成瘾者不会成为更好的员工
人工智能聊天机器人的杀手级应用程序是否会因普遍存在的、降低生产力的成瘾性而证明其数万亿美元的投资是合理的？
来源:《Naked Capitalism》伊夫在这里。阿马尔·比德 (Amar Bhide) 是我的长期同事，他将学术生涯的大部分时间用于研究实体经济中的创业和创新，而不是金融服务业的采掘型变体。 他怀疑人工智能是否会兑现其声称的生产力提高的说法，因为对于人工智能聊天机器人来说，制造用户心理依赖而不是做有用的事情会更有利可图。正如阿马尔在电子邮件中所说：
专家神明的令人尊敬的意见，忽略了令人麻木的成瘾的必要性。怀疑论者和推动者都相信人工智能将提高生产力。他们争论的是失业而不是集体昏迷。
但引用另一个马克思的话，《鸭汤》中的奇科而不是《资本论》中的卡尔，“你会相信谁？我还是你自己的眼睛？”
专家或您的所见所闻？
作者：Amar Bhidé，哥伦比亚大学梅尔曼公共卫生学院卫生政策教授，最近着有《不确定性与企业：超越已知的冒险》（牛津大学出版社，2024 年）。最初发布于Project Syndicate
美联储主席凯文·沃什 (Kevin Warsh) 坚信，人工智能将显着提高劳动生产率，而著名经济学家也同意这一点。不要赌它。事实上，更广泛地采用这些模型可能会减少每个工人的产出。
新技术的广泛采用是经济活力的基石。在互联网时代，易于访问的用户界面和可承受性是不可或缺的推动因素。直到 20 世纪 90 年代初，技术奇才还依赖 Gopher 等结构严格、基于文本的工具在互联网上交换文档。然后，更灵活的万维网出现了，催生了浏览器（Mosaic、Netscape Navigator 和 Microsoft 的 Internet Explorer）以及快速、易于使用且便宜的搜索引擎。
Alta Vista 是万维网第一个“全文”可搜索索引，从 1995 年第一天的 30 万次点击量增加到 1997 年的每日超过 8000 万次点击量。但 Alta Vista 用丑陋的横幅玷污了它的搜索结果。因此，当谷歌在 1998 年推出其搜索引擎时，像我这样的用户就爱上了它的设计，而不考虑其结果的质量。谷歌的成功击败了竞争对手的搜索引擎和传统印刷出版商，其工程师奇迹般地保持了计算基础设施的效率，以确保信息搜索仍然快速、简单且廉价。
但成功也削弱了用户体验和生产力。随着谷歌成为垄断者，搜索引擎优化器充斥着无用的链接。传统媒体诉诸点击诱饵。这些废物迫使用户学习新技能：如何选择关键字、使用布尔运算符（如“AND”）以及识别标题诱饵。谷歌通过在页面顶部显示“赞助”结果进一步降低了体验。
人工智能聊天机器人也遵循了类似的道路。 ChatGPT 在 2022 年 11 月推出后的前五天内就吸引了 500 万用户。与 Google 最初干净的搜索页面一样，聊天机器人的界面也很引人注目：用户可以用简单的英语提问，不需要布尔运算符。不幸的是，ChatGPT 原来是一匹说谎的会说话的马。过滤掉其捏造的信息比谷歌的关键字搜索需要更多的时间，从而降低了生产力。巴德——谷歌在其搜索主导地位面临生存威胁时匆忙发布的聊天机器人——同样令人失望。
人工智能推动者正在全力以赴吸引成瘾者。谷歌的AI概述和AI模式就像免费品尝一样。一旦用户上钩，超大规模厂商肯定会收取高价，以收回高昂的开发和运营成本。
现在，三年多后，谷歌关闭了 Bard，取而代之的是传统搜索结果上方的“人工智能概述”和人工智能模式选项——一个敦促用户“问任何问题”的聊天机器人。但根据我的经验，即使对于简单的查询，结果仍然极其不可靠。
与传统统计模型（包括 Google 的开创性算法）相比，大型语言模型似乎具有令人信服的优势。凭借数万亿个参数，法学硕士可以纳入早期模型必须忽略的背景因素。法学硕士不仅提供信息，还提供信息。他们在哲学家路德维希·维特根斯坦所说的“语言游戏”中使用隐喻和幽默来安抚、解释、奉承、断言和哄骗。
然而，与早期的同行一样，法学硕士依赖于统计外推，假设未来会重复过去。这对于蛋白质折叠等自然现象来说很好，但对于不断变化的商品和服务则不然。例如，对笔记本电脑电池布局的微小修改可能会使有关如何更换电池的说明变得毫无用处。尽管如此，用户——就像斯坦利·米尔格拉姆臭名昭著的震惊实验的参与者一样——条件反射地服从了聊天机器人自信的回答。相比之下，传统的搜索链接更能显示信息的过时性和来源的不可靠性。这让用户有更多的自由裁量权来做出判断，从而减少失误和成本。
不加区别地包含数万亿个参数会放大法学硕士的外推问题，因为他们更有可能发现不存在的模式或从详尽的、未经整理的目录中选择不相关或不可靠的答案。传统统计模型的设计者可以限制变量和数据源，以避免出现这种结果，同时控制计算成本。
法学硕士对统计外推法的依赖也使得他们的对话界面成为语言上的嵌合体。因为法学硕士无法复制人类的意义建构，并且对意图没有真正的语境理解，所以他们不使用语言作为“生命形式”，再次借用维特根斯坦的观点。他们所做的假装使得人工智能小贩能够不加区别地推销聊天机器人，特别是因为法学硕士实际上有用的范围较小的应用程序无法证明数万亿美元的投资是合理的。
我们可能希望，即使是最强大的公司也不能欺骗消费者。尽管谷歌的资源看似无限，但其失败的次数至少与成功的次数一样多。 Meta 的名字正是为了纪念一次在虚拟现实领域投入数十亿美元失败的赌注。但营销热潮将垃圾食品成瘾变成了一项蓬勃发展的生意，这提供了一个令人沮丧的反例。
通过利用人类对友善对话的根深蒂固的渴望，超大规模者可以使法学硕士成瘾像生理成瘾一样普遍。随着社会关系的破裂，聊天机器人提供了一种拟像，有可能将严肃的专业人士变成患相思病的青少年。与其他瘾一样，法学硕士已经在侵占其他值得创新所需的资源，包括资本、电力、芯片和创业能源。随着这种情况的继续，技术乐观主义者应该重新思考他们对人工智能生产力承诺的乐观看法。