It used to be our imperfect bodies that made us insecure. With AI, it’s our minds as well
在现代历史的大部分时间里，技术都在试图模仿人类。人类越来越多地寻求模仿技术。近几个月来，我的 Instagram 动态中出现的两张面孔让我停了下来。其中一张属于戛纳电影节的约翰·特拉沃尔塔。另一张是卡拉·布吕尼 (Carla Bruni) 与丈夫、法国前总统尼古拉·萨科齐 (Nicolas Sarkozy) 约会之夜。两人看上去都很相像，但又显得有些陌生。他们的外表引发了人们对整容的猜测，尽管他们从未承认过。布吕尼此前曾否认自己已经完成了工作。无论如何，这种感觉只持续了一秒钟：一丝不安，仿佛我正在看着那些已经与自己相似的人。约瑟夫·德韦克是德国对外关系委员会的副研究员，为苏黎世和巴黎的欧洲卫报
Social calibration of sycophantic AI—Response | Science
我们感谢孟针对我们的研究结果阐明了重要的方法论和解释性问题。适当的人类基线取决于人工智能 (AI) 的预期社会角色。在现实世界中，人工智能模型被认为具有多种用途，例如顾问、中立的外部意见、编辑和助理 (1, 2)。这些角色对达成一致、验证或纠正反馈的频率有不同的期望。更复杂的是，用户通常认为单个 AI 系统可以履行多个角色 (3, 4)。由于人工智能社会角色的模糊性，任何单一的人类基线都是不完美的比较点。我们使用的基准——来自与当前冲突或场景没有个人利害关系的第三方人类的判断——探索了一个常见且具有社会意义的期望：人工智能系统——尽管经常被视为外部、中立和客观的信息提供者 (5-7)——是否会
