机构名称：
¥ 2.0
随着人工智能技术被推广到医疗保健、学术界、人力资源、法律和众多其他领域，它们成为事实上的真相仲裁者。但真相备受争议，存在许多不同的定义和方法。本文讨论了人工智能系统中对真相的争夺以及迄今为止的普遍反应。然后，它研究了大型语言模型 InstructGPT 中真相的产生，重点介绍了数据收集、模型架构和社会反馈机制如何将对真实性的不同理解交织在一起。它将这种表现概念化为真相的操作化，其中不同的、往往相互冲突的主张被顺利地综合并自信地呈现为真相陈述。我们认为，同样的逻辑和不一致之处在 Instruct 的继任者 ChatGPT 中也存在，重申真相是一个非平凡的问题。我们认为，丰富的社交性和强化“现实”是增强未来语言模型真相评估能力的两个有希望的载体。然而，我们最后退一步考虑将人工智能说真话视为一种社会实践：作为听众，我们想要什么样的“真相”？
在 AI 语言模型中合成真实性
主要关键词
相关文件推荐
