详细内容或原文请订阅后点击阅览
阅读人工智能摘要让人们更有可能购买某些东西——尽管幻觉率达到惊人的 60%
一个发现人工智能摘要可能会严重影响购买决策的项目提出了一个有趣且可能令人不安的问题：我们对人工智能生成的内容的信任程度。
来源:LiveScience尽管大多数美国人表示他们不信任人工智能 (AI)，但研究人员发现了一个令人震惊的新指标，它似乎显示了相反的结果：人们在阅读人工智能在线评论摘要后比人类撰写的在线评论摘要更有可能购买商品。然而，当询问有关产品时，人工智能有 60% 的时间会产生幻觉。
来自加州大学圣地亚哥分校 (UDSD) 的团队声称，这是第一项展示大型语言模型 (LLM) 引入的认知偏差如何对用户行为产生真正影响的研究。他们还表示，这是第一个衡量人工智能对人类影响的定量影响的项目。
该研究于 2025 年 12 月在第 14 届自然语言处理国际联合会议和计算语言学协会亚太分会第四届会议论文集上发表，涉及多个阶段。
首先，科学家们提示人工智能总结媒体上的产品评论和采访，然后要求人工智能对新的描述进行事实核查以确定它们是否真实。在第二项任务中，人工智能同时看到新闻故事描述和相同描述的伪造版本，它同样承担着事实检查的任务。
“与真实新闻和伪造新闻的准确性相比，严格准确性持续较低，凸显了一个关键的局限性：始终无法可靠地区分事实与捏造，”科学家在研究中写道。
最引人注目的发现涉及在线产品评论。参与者在阅读人工智能生成的产品摘要后，比阅读人工评论员撰写的产品摘要后更有可能表达购买产品的兴趣。
扭曲的消费者判断
将世界上最迷人的发现直接发送到您的收件箱。
其次，当处理训练数据中未包含的信息时，法学硕士的可靠性会降低。
量化 LLM 生成内容中的认知偏差感应，Alessa 等人，IJCNLP-AACL 2025