详细内容或原文请订阅后点击阅览
利用人工智能加强民主的蓝图
每隔几个世纪，信息流动方式的变化就会重塑社会的自我管理方式。印刷机传播了白话文，帮助促成了宗教改革，并最终促成了代议制政府。电报使管理像美国这样的广大国家成为可能，加速了现代官僚国家的发展。广播媒体创造了共享的全国观众，……
来源:MIT Technology Review _人工智能技术始终塑造着公民与信息交互的方式。但一个新问题很快就会以个人人工智能代理的形式出现，它不仅可以改变人们接收信息的方式，还可以改变人们根据信息采取行动的方式。这些系统将代表用户进行研究、起草通讯、强调原因并进行游说。他们将为决策提供信息，例如如何对一项投票措施进行投票、哪些组织值得支持，或者如何回应政府通知。 They will, in a meaningful sense, begin to mediate the relationship between individuals and the institutions that govern them.
我们已经通过社交媒体看到了当算法针对参与度而不是理解度进行优化时会发生什么。平台不需要有明确的政治议程来产生两极分化和激进化。一个了解你的偏好和焦虑的代理人——旨在让你保持参与——也会带来同样的风险。在这种情况下，风险可能更难以检测，因为代理人将自己表现为您的倡导者。它为您说话，代表您行事，并且可以通过这种亲密关系赢得信任。
现在缩小到集体。人工智能代理和人类很快就会参加同一个论坛，在那里可能无法区分它们。即使每个单独的人工智能代理都经过精心设计并符合其用户的兴趣，数百万个代理的交互也可能会产生没有个人想要或选择的结果。例如，研究表明，没有表现出个人偏见的代理仍然可以产生大规模的集体偏见。抛开代理之间的行为不谈，他们会为用户做些什么。每个人都有一个适合其现有观点的个性化代理的公共领域总体而言根本不是一个公共领域。它是一个私人世界的集合，每个世界都有内部一致性，但集体上不适合民主所需要的那种共同审议。