在本文中,我强调了一个问题,该问题在机器学习方法的科学应用中已变得无处不在,并且可能导致对所研究现象的严重扭曲的推论。我称其为预测解释谬误。当研究人员使用预测优化模型来解释目的而无需考虑解释和预测之间的权衡时,就会发生谬误。这是一个问题,至少有两个原因。首先,为了防止过度拟合,预测优化的模型通常是故意偏见和不现实的,因此无法准确解释感兴趣的现象。在其他情况下,它们具有极其复杂的结构,难以解释,这极大地限制了它们的解释价值。第二,在相同或相似数据上训练的不同预测模型可能会以不同的方式偏差,因此多个模型可以很好地预测,但暗示了对基本现象的矛盾解释。在这里,我以非技术方式介绍了预测和解释之间的权衡,从神经科学中提出了一些说明性的例子,最后讨论了一些可缓解的因素和方法,这些因素和方法可用于限制或解决问题。
3个任务集的基于成人决策能力电池。4沉没成本谬误:尽管人们最好减少损失并继续前进是最好的,但人们继续根据以前的投资做出决定时,就会发生沉没的成本谬误。
自 20 世纪 50 年代诞生以来,人工智能领域经历了数次循环:乐观预测和大规模投资时期(“人工智能春天”),以及失望、失去信心和资金减少时期(“人工智能冬天”)。即使在今天人工智能突破的速度似乎很快的情况下,开发自动驾驶汽车、家政机器人和对话伴侣等长期备受期待的技术却比很多人预期的要困难得多。这些重复循环的原因之一是我们对智能本身的性质和复杂性的理解有限。在本文中,我描述了人工智能研究人员常见假设中的四个谬误,这些谬误可能导致对该领域的过度自信预测。最后,我将讨论这些谬误所引发的悬而未决的问题,包括让机器具有类似人类的常识这一古老的挑战。
自 20 世纪 50 年代诞生以来,人工智能领域经历了数次循环:乐观预测和大规模投资时期(“人工智能春天”),以及失望、失去信心和资金减少时期(“人工智能冬天”)。即使在今天人工智能突破的速度似乎很快的情况下,开发自动驾驶汽车、家政机器人和对话伴侣等长期备受期待的技术却比很多人预期的要困难得多。这些重复循环的原因之一是我们对智能本身的性质和复杂性的理解有限。在本文中,我描述了人工智能研究人员常见假设中的四个谬误,这些谬误可能导致对该领域的过度自信预测。最后,我将讨论这些谬误所引发的悬而未决的问题,包括让机器具有类似人类的常识这一古老的挑战。
• 宣传“新”的信念比改变现有的信念更容易 • 需要加强数字、健康和科学素养——多方利益相关者方法 • “接种”是一种有前途的做法(展示错误信息传播背后的策略和谬误)。游戏化作为一种教学工具。 • 培养对疫苗错误信息的“抵御能力”:识别它/评估来源和内容的可信度
不确定性是生活的固有部分;大多数事件、事务和问题都是不确定的。行为科学的一个关键问题是大脑如何应对不确定的信息。量子概率论提供了一套推理原则,这些原则与某些情况下心理过程的直觉非常吻合:推理似乎是情境化的,心理状态因先前的判断而改变,或者不同可能性之间存在干扰。我们鼓励在认知及其主要特征中使用量子理论。对于每个特征,我们都会回顾相关的量子认知模型和实证支持。量子认知模型的范围包括决策中的谬误(例如合取谬误或析取效应)、问题顺序效应、概念组合、证据积累、感知、记忆中的过度/欠分配效应等。量子模型通常将以前以启发式术语表达的心理学思想形式化,允许对以前不同的发现进行统一解释,并导致了几个令人惊讶的新预测。我们还以批判的眼光看待量子模型,并考虑它们的一些缺点以及进一步发展的问题。
决策理论中最重要的挑战之一是如何将贝叶斯理论的规范预期与概率推理中常见的明显谬误相协调。最近,贝叶斯模型受到这样的见解的推动,即明显的谬误是由于估计(贝叶斯)概率的抽样误差或偏差造成的。解释明显谬误的另一种方法是调用不同的概率规则,特别是量子理论中的概率规则。可以说,量子认知模型为大量发现提供了更统一的解释,从基线经典视角来看,这些发现是有问题的。这项工作解决了两个主要的相应理论挑战:首先,需要一个结合贝叶斯和量子影响的框架,认识到人类行为中存在两者的证据。其次,有经验证据超越了任何当前的贝叶斯和量子模型。我们开发了一个概率推理模型,无缝集成了贝叶斯和量子推理模型,并通过顺序采样过程进行了增强,将主观概率估计映射到可观察的反应。我们的模型称为量子顺序采样器,它与目前领先的贝叶斯模型贝叶斯采样器 (Zhu、Sanborn 和 Chater,2020) 进行了比较,使用了一项新实验,产生了迄今为止概率推理中最大的数据集之一。量子顺序采样器包含几个新组件,我们认为这些组件为概率推理提供了一种理论上更准确的方法。此外,我们的实证测试揭示了一种新的、令人惊讶的系统性概率高估。
休伯特·德雷福斯:“第一步谬误是声称,自从我们第一次研究计算机智能以来,我们一直在一个连续体上缓慢前进,而人工智能是这个连续体的终点,因此,我们程序中的任何改进,无论多么微不足道,都算作进步……事实上,在假定的稳步渐进的连续体中存在着不连续性。这个意想不到的障碍被称为常识问题。”
亚里士多德 [ 公元前 350 年 ] 列出了人类常见推理错误,其中一条比较微妙的谬误是“合成谬误”,推理者认为,如果一个命题对整体的每个元素都成立,那么它对整体也一定成立。卢卡斯模型提供了一个反例。从任何个体(原子)行为者的角度来看,决定多储蓄一单位确实会带来更多的未来资源,数量为 R t +1 。但从整个社会的角度来看,如果每个人都决定做同样的事情(多储蓄一单位),那么在 t + 1 时期对总资源就不会产生任何影响。换句话说,对任何个体行为者来说,“资本边际产量”似乎都是 R t +1 ,但对整个社会来说,资本边际产量为零。认为整个社会的回报必须与个人可获得的回报相同这一命题是错误的,因为它隐含地假设普遍的储蓄意愿不会产生一般均衡效应(或者更广泛地说,一个人做出的决定与另一个人的决定之间没有相互作用)。卢卡斯模型提供了一个反例,如果每个人的偏好都发生变化(例如,每个人的 ϑ 都下降),未来资产的价格就会受到影响——事实上,它受到的影响足以抵消对未来股息所有权增加的渴望(因为资产的供应量是固定的,需求必须与预先存在的供应量相协调)。亚里士多德是个聪明人!
可悲的是,我们看到了越来越多的圣海伦儿童遭受忽视的儿童。在圣海伦斯(St Helens),我们受到的儿童受到的照料大大,而不是地区和国家平均值。 这不仅是可悲的,而且还很昂贵。 最近的一份报告发现,英格兰各地的地方当局在2021/22年将他们在儿童服务的支出增加了8%。 但是,成本的增加意味着理事会的早期干预服务的资金较少,在过去的12年中,资金下降了46%(国家儿童局,2023年)。 但是,一个谨慎的注意事项 - 重要的是要说种群级别的数据应在单个层面上使用,因为有些孩子不仅克服了他们,而且尽管经历了负面的事情,而且蓬勃发展。 假设可以将人口适用于个人是生态谬误。在圣海伦斯(St Helens),我们受到的儿童受到的照料大大,而不是地区和国家平均值。这不仅是可悲的,而且还很昂贵。最近的一份报告发现,英格兰各地的地方当局在2021/22年将他们在儿童服务的支出增加了8%。但是,成本的增加意味着理事会的早期干预服务的资金较少,在过去的12年中,资金下降了46%(国家儿童局,2023年)。但是,一个谨慎的注意事项 - 重要的是要说种群级别的数据应在单个层面上使用,因为有些孩子不仅克服了他们,而且尽管经历了负面的事情,而且蓬勃发展。假设可以将人口适用于个人是生态谬误。