评论 虚假信息重装上阵?对生成式人工智能对虚假信息影响的担忧被夸大了 当前生成式人工智能爆炸式增长的许多观察者担心其对我们的信息环境的影响,并对虚假信息的数量、质量和个性化增加表示担忧。我们通过传播学、认知科学和政治学的证据来评估这些论点。我们认为,目前对生成式人工智能对虚假信息格局的影响的担忧被夸大了。 作者:Felix M. Simon (1)、Sacha Altay (2)、Hugo Mercier (3) 所属机构:(1) 英国牛津大学牛津互联网研究所,(2) 瑞士苏黎世大学政治学系,(3) 法国 Jean Nicod 研究所、认知研究中心、ENS、EHESS、PSL 大学、CNRS 引用方式:Simon, FM, Altay, S., & Mercier, H. (2023). 虚假信息重装上阵?人们对生成式人工智能对虚假信息的影响的担忧被夸大了。哈佛肯尼迪学院 (HKS) 虚假信息评论,4 (5)。收到日期:2023 年 5 月 24 日。接受日期:2023 年 9 月 25 日。出版日期:2023 年 10 月 18 日。简介 生成式人工智能的最新进展引发了人们的担忧,即它将“引发下一个虚假信息噩梦”(Gold & Fisher,2023 年),人们“将无法再知道什么是真实的”(Metz,2023 年),并且我们正面临“技术支持的世界末日”(Scott,2023 年)。
引言近年来,金融业遇到了一种普遍存在的挑战,即漂绿行为。漂绿行为是一种夸大或歪曲公司对环境影响的做法,以给人留下公司比实际更注重环保的印象 (Huang & Chen, 2015)。当环境、社会和治理 (ESG) 报告等正式公共信息加剧信息不对称并增加市场混乱的风险时,就会发生这种情况 (Liu et al., 2024)。夸大其词是漂绿行为的一种常见形式,事实证明,它通过扭曲可持续发展目标的实现和评估来阻碍可持续发展目标的实现 (Cojoianu et al., 2020)。这通常表现为使用过于积极的语言来描述公司的环境、社会或治理绩效,而没有提供足够的支持数据或证据。因此,检测和解决 ESG 报告中的夸大其词至关重要。人工智能 (AI) 正在塑造世界,尤其是像 ChatGPT 这样的生成式人工智能 (GenAI) 的快速发展。金融领域的一些研究已经开始利用人工智能来解决 ESG 报告中的问题。例如,一些研究比较了传统和人工智能驱动的 ESG 评级 (Hughes 等人,2021)。一些研究调查了人工智能对漂绿和可持续发展报告的影响 (Moodaley & Telukdarie, 2023)。Yang 等人 (2021) 发现 ESG 披露降低了公司债券信用利差,降低了风险并增强了投资者信心,而 Biju 等人 (2023) 使用 MAXQDA 软件将 ESG 的情绪得分与漂绿的看法联系起来。这些研究表明了在分析 ESG 报告中应用人工智能的可能性和潜力。因此,本研究受到启发,充分利用人工智能,尤其是 GenAI,来评估 ESG 报告中的夸大行为 (Jain 等人,2023)。尽管先前的研究已经研究了审查和评估 ESG 报告的各种技术,但识别夸大断言的难度仍然没有得到充分研究,尤其是在使用最先进的人工智能技术时。此外,即使公司可能在其 ESG 报告中使用“极端”、“完整”或“最高”等形容词,但这并不总是意味着他们夸大了他们的成就;事实上,一些公司可能在这方面表现出色。因此,仅依靠 ESG 报告中的术语无法彻底确定公司是否夸大了他们的主张。GenAI 的优势在于能够通过分析上下文细节来辨别是否有合理的理由怀疑夸大。本研究旨在通过利用 GenAI 来检测 ESG 报告中的夸大描述,从而弥补这一差距,从而更准确、更稳健地评估企业可持续发展绩效。我们采用三种不同的即时工程策略,即零样本、少量样本和思路链 (COT) 来分析一组 ESG 报告。此外,我们还将该方法与传统文本分析技术和人类智能进行交叉验证。这
2024 年 1 月 21 日——Drax 是英国领先的可再生能源供应商之一,一直致力于……我无法夸大这个平台的访问量有多大……
根据法庭文件和法庭陈述,萨科是马萨诸塞州一家机械承包商的项目经理。2014 年 6 月至 2017 年 12 月,萨科合谋通过夸大项目变更单来欺诈其雇主和他管理的某些项目的所有者。作为该阴谋的一部分,拥有一家绝缘公司的同谋分包商向萨科支付了 20 多万美元,也为萨科提供了好处,包括支付萨科孩子的大学学费、毕业派对费用、Mac 笔记本电脑、机票、酒店费用和萨科的房租。萨科和同谋向萨科的前雇主提交了夸大的变更单,以抵消同谋向萨科支付的部分费用。
在美国心理学会 (APA) 期刊《美国心理学家》3 月刊的一篇文章中,卡辛博士指出,使用武力获取供词的做法已经让位于更多以心理学为导向的技巧,例如“假装同情和友谊、诉诸上帝和宗教、使用告密者、提供虚假证据和其他形式的欺骗和欺诈”。卡辛博士说,最常用的审讯技巧分为两大类:最大化和最小化。最大化的目的是通过“夸大罪行的严重性和指控的严重性,甚至对证据做出虚假或夸大的陈述”来恐吓对方,迫使对方认罪。最小化的目的是通过“提供同情、宽容、挽回面子的借口和道德辩护;通过指责受害者或同谋;以及通过淡化指控的严重性或规模”来使嫌疑人陷入虚假的安全感。
注:作者使用 CDC、消费者支出调查 (CEX) 和当前人口调查 (CPS) 的数据进行计算。对于不平等衡量指标,我们使用非耐用品消费,以避免因耐用品支出不均而导致的夸大。阴影区域表示来自 1000 个引导样本的每个系列的 95% 置信区间。
图 1:本研究中使用的工作流程。从石墨浆料的模拟(左上)到耦合电化学和力学模拟(右下)。左下角显示了每个粒子的颜色和大小。为了提高可见度,Si 粒子的大小被夸大了。石墨 (Si) 相的电荷状态图分别以灰度(红蓝)表示。应力场表示 CBD 网络的应力。
胡塞武装也不闲着,他们提醒世界,他们是存在的,是一股不可忽视的力量。然而,他们与伊朗的联系似乎没有德黑兰所希望的那么紧密。到目前为止,胡塞武装的武装,加上拜登政府在将其从恐怖组织黑名单中除名时所表现出的宽容,人为地夸大了该组织的自信心。让他们恢复到自然的比例至关重要。