机构名称：
¥ 3.0
人类价值观及其衡量是一个长期存在的跨学科研究。人工智能的最新进展引发了人们对这一领域的新兴趣，大型语言模型 (LLM) 既是价值衡量的工具，也是价值衡量的主题。这项工作引入了价值观的生成心理测量学 (GPV)，这是一种基于 LLM 的数据驱动价值测量范式，理论上以文本揭示的选择性感知为基础。其核心思想是将非结构化文本动态地解析为类似于传统心理测量中的静态刺激的感知，衡量它们揭示的价值取向，并汇总结果。将 GPV 应用于人类撰写的博客，我们证明了它的稳定性、有效性以及相对于先前心理工具的优越性。然后，将 GPV 扩展到 LLM 价值测量，我们通过 1）一种基于可扩展和自由形式输出来测量 LLM 价值的心理测量方法推进当前技术，从而实现特定于上下文的测量；2）测量范式的比较分析，表明先前方法的反应偏差； 3）尝试将 LLM 价值观与安全性联系起来，揭示不同价值体系的预测能力以及各种价值观对 LLM 安全性的影响。通过跨学科的努力，我们的目标是利用人工智能实现下一代心理测量，并利用心理测量实现与价值观一致的人工智能。1
根据生成性衡量人类和人工智能价值...
主要关键词
相关文件推荐
