机构名称：
¥ 2.0
摘要 大规模语言技术越来越多地用于不同语境中各种形式的人机交流。这些技术的一个特殊用例是对话代理，它可以输出自然语言文本来响应提示和查询。这种参与模式引发了许多社会和道德问题。例如，如何使对话代理与人类规范或价值观保持一致？它们应该与哪些规范或价值观保持一致？如何实现这一点？在本文中，我们提出了一些有助于回答这些问题的步骤。我们首先对对话代理和人类对话者之间语言交流的构成要素进行哲学分析。然后，我们利用这一分析来确定和制定可以支配人与对话代理之间成功语言交流的理想对话规范。此外，我们还探讨了如何使用这些规范使对话代理在一系列不同的话语领域中与人类价值观保持一致。最后，我们讨论了我们的提案对于符合这些规范和价值观的对话代理的设计的实际意义。
将语言模型与人类价值观结合起来
主要关键词
相关文件推荐
