详细内容或原文请订阅后点击阅览
谄媚人工智能的社会校准——回应 |科学
我们感谢孟针对我们的研究结果阐明了重要的方法论和解释性问题。适当的人类基线取决于人工智能 (AI) 的预期社会角色。在现实世界中，人工智能模型被认为具有多种用途，例如顾问、中立的外部意见、编辑和助理 (1, 2)。这些角色对达成一致、验证或纠正反馈的频率有不同的期望。更复杂的是，用户通常认为单个 AI 系统可以履行多个角色 (3, 4)。由于人工智能社会角色的模糊性，任何单一的人类基线都是不完美的比较点。我们使用的基准——来自与当前冲突或场景没有个人利害关系的第三方人类的判断——探索了一个常见且具有社会意义的期望：人工智能系统——尽管经常被视为外部、中立和客观的信息提供者 (5-7)——是否会不成比例地站在用户一边？我们的研究结果对于在线众包工作者判断的替代基线（补充材料，SM 2）也是稳健的。那些与咨询者关系密切的人的反应确实可能受到更强有力的关系规范、声誉责任和持久的社会后果的影响。这些替代方案是否会导致或多或少的分歧仍然是一个悬而未决的问题。
来源:Science Magazine每天免费向您的收件箱获取包含最新新闻、评论和研究的《科学》获奖时事通讯。