许多研究表明,人类具有“可预测的非理性”特征:他们不会以完全理性的方式行事,但他们偏离理性行为的行为却相当系统化。我们的目标是看看我们能在多大程度上解释和证明这些偏差是理性但资源有限的代理在考虑到其局限性的情况下尽力而为的结果。我们重点研究了护林员-偷猎者游戏,其中护林员试图保护一些地点免遭偷猎。我们通过将偷猎者和护林员建模为概率有限自动机 (PFA) 来捕捉计算限制。我们表明,有了足够大的内存,PFA 可以学会玩博弈中的纳什均衡 (NE) 策略并获得 NE 效用。然而,如果我们限制记忆,我们就会得到更多“类似人类”的行为,例如概率匹配(即访问与犀牛出现的概率成比例的站点),以及避开结果不好的站点(例如,偷猎者被护林员抓获),我们在 Amazon Mechanical Turk 上进行的实验中也观察到了这些行为。有趣的是,我们发现添加概率匹配和增加重要事件(如被抓获)等类似人类的行为实际上可以提高性能,表明这种看似不合理的行为可能非常合理。
从现在开始,我将集中讨论组织内的战略家——尽管我所说的大部分内容也可以立即转移到个人身上。但是,组织情况更加复杂,因为需要让不同的人就所制定的战略达成一致。人际沟通是组织战略过程的重要组成部分。它可以采取多种不同的形式,其中语言可以说是最具影响力的。组织内的人受组织环境的影响而必须互相表达自己的想法。正是这种用语言(更具体地说是通过对话)表达推理的组织需求,使组织的行为比个体战略家更理性。组织的语言是理性的,即使决策大多源自理性主义算法以外的其他算法。
自柏拉图及其学生亚里士多德以来,人类就被描述为理性动物(Keil and Kreft,2019)。这一假设对于人类自我认知方式至关重要,甚至成为整个法律和经济体系的基础(Blasi and Jost,2006)。18 世纪数学家丹尼尔·伯努利提出的圣彼得堡悖论等决策规范理论规定了决策的最佳方法(Bernoulli,1954)。伯努利的解释主要基于潜在货币收益的客观价值(即预期效用)和主观价值(即预期收益)之间的区别。由于缺乏与人类相关的材料,因此需要进行上述区分,以便充分合理地解释这种悖论。 20 世纪中叶,数学家约翰·冯·诺依曼和经济学家奥斯卡·摩根斯坦建立了预期效用理论(Von Neumann and Morgenstern,1944 年)的基本假设,并断言如果满足某些条件,个人的财务决策可以通过效用函数建模(Peasgood 等,2014 年)。然而,虽然这些理论框架很有价值,但它们在解释人类在假设和现实生活中如何做出决策方面却存在局限性。近两千年后,随着行为科学和认知科学的出现,人类理性的问题开始成为学者们争论的主题。随着前景理论(Kahneman and Tversky,1979 年)的普及,对完全理性行为的前提提出了挑战,通过列举框架、主观参照点、损失规避和孤立效应等人类偏见的例子,对阻碍人类理性行事的机制进行了研究。关于启发式、认知偏差和可能引发非理性行为的情况的实证研究也迅速增加(De Martino 等人,2006 年),科学界对金融决策过程的神经基础的兴趣也随之增加。
摘要:尽管算法决策在组织中的应用有增无减,但越来越多的人认为,许多情况仍将需要人类参与其中。然而,正式的机器和有限的人类理性的混合也放大了所谓的局部理性的风险。因此,设计出全面评估绩效的方法至关重要,尤其是在算法决策所特有的数据丰富的环境中。在本文中,我们提出了一个基于模拟的模型,以解决目前在更广泛的组织背景下量化算法干预的研究不足的问题。我们的方法允许将因果建模和数据科学算法结合起来,以表示涉及机器和人类理性混合的决策设置,以衡量绩效。作为试验台,我们考虑了一个虚构公司试图借助机器学习方法改进其预测过程的案例。这个例子表明,短视的评估掩盖了只有更广泛的框架才能揭示的问题。它强调了系统观的价值,因为人类和算法决策之间的相互作用可能在很大程度上是非直观的。这种基于模拟的方法可以成为一种有效的工具,用于在混合环境中描绘人类和算法的角色。
摘要。人工智能的影响不仅取决于基础研究和技术发展,而且在很大程度上取决于这些系统如何引入社会并在日常情况下使用。尽管人工智能传统上与理性决策有关,但理解和塑造人工智能各方面的社会影响需要关系视角。理性对待人工智能,即计算算法独立于人类干预、洞察力和情感来驱动决策,已证明会导致偏见和排斥,暴露出社会的脆弱性和不安全感。需要一种关注事物关系性质的关系方法来处理人工智能的伦理、法律、社会、文化和环境影响。关系对待人工智能的方法认识到客观和理性的推理并不总是导致“正确”的进行方式,因为什么是“正确”取决于决策情况的动态,并且人工智能的设计和使用重点必须放在提出道德问题上,而不是解决道德问题。在本立场文件中,我首先对当前人工智能的概念进行了一般性讨论,然后概述了现有的治理方法以及负责任地开发和使用人工智能的方法。然后,我反思人工智能的社会范式的基础应该是什么,以及它应该如何融入关系哲学、女权主义哲学和非西方哲学,尤其是 Ubuntu 哲学。