人工智能本应让你更有效率，但它却让你变得更笨、更自信
生成式人工智能应该让生活更轻松。它可以起草电子邮件、总结文档，甚至生成创意内容，帮助您减轻一些可怕的认知负担。但根据卡内基梅隆大学和微软研究院的一项新研究，它也可能让你在这个过程中变得更笨。这项研究基于 […]
来源:ZME科学生成式人工智能本应让生活变得更轻松。它可以起草电子邮件、总结文档，甚至生成创意内容，帮助您减轻一些可怕的认知负担。但根据卡内基梅隆大学和微软研究院的一项新研究，它也可能让您在此过程中变得更笨。
这项基于对 319 名知识工作者的调查的研究发现，人工智能正在大大降低人们的批判能力。更糟糕的是，尽管投入的认知努力较少，但它让他们对自己的决策更有信心。长期结果将是过度依赖人工智能、推理能力减弱以及越来越无法发现错误。
认知努力生成式人工智能已经可以生成各种内容。但它并不精确。它可以“幻化”事实、产生误导性信息或强化偏见。然而，许多用户将人工智能生成的答案视为值得信赖的——即使他们不应该这样做。
产生幻觉 产生误导性信息该研究分析了近 1,000 个现实世界中专业人士在日常工作中使用人工智能的例子。数据是自我报告的。
“在我们的调查中，参与者被要求分享他们在工作中使用 GenAI 工具的三个真实例子。为了增加收集到的例子的多样性，参与者被要求想出三个不同的例子，每个任务类型一个：创作、信息和建议。然后，参与者被要求详细分享每种任务类型的一个例子，”研究人员在研究中解释道。
“在我们的调查中，参与者被要求分享他们在工作中使用 GenAI 工具的三个真实例子。为了增加收集到的例子的多样性，参与者被要求想出三个不同的例子，每个任务类型一个：创作、信息和建议。然后，参与者被要求详细分享每种任务类型的一个例子，”研究人员在研究中解释道。