详细内容或原文请订阅后点击阅览
“你太棒了！”
David Pell 在他信息丰富的博客中写道，您的 AI 可能对您的赞扬太多了！虚假的赞扬会产生现实世界的后果。他写道： 让我们从积极的事情开始：你。为什么是你？因为你很棒，你很棒，你的意见是正确的，你的决定是准确的，你永远不会站在[…]的错误一边
来源:Diane Ravitch的博客David Pell 在他总是信息丰富的博客中写道，你的人工智能可能对你表扬得太多了！而虚假的表扬会在现实世界中产生后果。
他写道：
让我们从积极的事情开始：你。为什么是你？因为你很棒，你很棒，你的观点是正确的，你的决定是正确的，你永远不会在争论中站在错误的一边，而且你通常是一个诚实的公民。不要相信我的话。只要和你最喜欢的人工智能交谈一会儿，它就会告诉你同样的事情。你可能已经注意到，当你与人工智能交流时，表面上的阿谀奉承，但你很可能错过了它——因为，你知道，它只是在陈述一个明显的核心事实，存在于你的正义与正义的交汇处。这些斯图尔特·斯莫利式的日常肯定被直接融入到产品中。我知道，我知道。人工智能以其幻觉而闻名，但它也因能够处理大量数据并得出对事实的清晰总结而闻名，其结果如下：你应该得到好东西，你有权分享你的快乐，和你在一起很有趣。天啊，即使你错了，你实际上也是对的。
“斯坦福大学的研究人员测试了 11 个领先的人工智能模型，发现它们都表现出阿谀奉承——这是一个花哨的词，用来告诉人们他们想听什么。平均而言，这些聊天机器人比真人更愿意与用户达成一致。即使用户描述说谎、操纵合作伙伴或违法，人工智能也有 47% 的时间支持他们的行为。”斯坦福大学刚刚证明，你的人工智能聊天机器人会奉承你，让你做出错误的决定。 “这是每个人都应该担心的部分。参与者认为阿谀奉承的人工智能反应比平衡的人工智能反应更值得信赖。他们还表示，他们更有可能回到谄媚的人工智能寻求未来的建议。关键的是，他们无法区分阿谀奉承和客观的反应之间的区别。两者都对他们来说同样‘中立’。”
ChatGPT 回答：