机器学习(ML)模型越来越多地用于各种应用程序,从电子商务的推荐系统到医疗保健的诊断预测。在本文中,我们提出了一个新颖的动态框架,用于思考ML模型在表现性的人类ML协作系统中的部署。在我们的框架中,ML建议的引入更改了人类决策的数据生成过程,这只是代理地面真理,然后将其用于培训模型的未来版本。我们表明,这种动态过程原则上可以收敛到不同的稳定点,即ML模型和人+ML系统具有相同的性能。相对于实际地面真理,这些稳定点中的一些是最佳的。我们对1,408名参与者进行了经验用户研究,以展示此过程。在研究中,人类在机器学习预测的帮助下解决了背包问题的实例。这是一个理想的环境,因为我们可以看到ML模型如何学会模仿人类的决策以及该学习过程如何收敛到稳定点。我们发现,对于许多ML性能,人类可以改善ML预测,以动态达到最大背包值的92%的平衡性能。我们还发现,如果人类合理地遵循ML建议,平衡性能可能会更高。最后,我们测试货币激励措施是否可以提高人类决策的质量,但我们找不到任何积极的影响。我们的结果对在人类决策可能偏离无可争议的基础真理的情况下部署ML模型具有实际意义。
朱迪思·巴特勒(Judith Butler)(加利福尼亚大学伯克利分校),米歇尔·卡隆(CSI - écoledes de paris),罗兰·坎努(Roland canu -Pascal Gond(诺丁汉大学),萨拉·格林(曼彻斯特大学),克莱斯·弗雷德里克·赫尔吉森(诺维格·霍尔姆(Norwegian Holm),诺维格·霍尔姆(Norwegian Fishery Science) - 特罗姆索大学(Norwegian Fishery Science) (CERTOP - 图卢兹大学II),蒂姆·米切尔(Tim Mitchell)(纽约大学),菲利普·斯坦纳(CESS - 巴黎大学IV大学),AurélieTricoire(Certop - cert - Toulouse II / Latts - UniversitéMarne-La-vallée大学),Karel Williams(Karel Williams(Karel Williams)曼彻斯特)。
摘要:人工智能系统设计的一个关键挑战是如何帮助人们理解它们。我们通过将解释定位在日常生活中,置于人与人工智能代理之间的持续关系中来应对这一挑战。通过非人类设计重新定位可解释性,我们呼吁一种新方法,将人和人工智能代理都视为构建理解的积极参与者。为了阐明这种方法,我们首先回顾了解释人工智能前提的假设。然后,我们概念化了从解释到共享理解的转变,我们将其描述为情境化、动态化和表演性。最后,我们提出了两种支持共享理解的设计策略,即纵观人工智能和揭露人工智能的失败。我们认为这些策略可以帮助设计师揭示人工智能隐藏的复杂性(例如,位置性和基础设施),从而支持人们在自己的生活背景下理解代理的能力和局限性。
失败是具有挑战性的体验的常见产物,是互动系统的现实,也是美学和即兴表演的资源。我们介绍了一项研究,研究了三位专业钢琴家如何演奏一首互动钢琴曲,其中包括弹奏音乐中的隐藏代码,以控制他们在乐曲中的路径并触发系统动作。我们揭示了由于各种原因导致的弹奏代码失败,包括弹奏错误、系统限制,以及故意失败以控制系统,以及这些失败如何激发表演者的美学和即兴反应。我们建议应设计创造性和表演性的界面来实现美学失败,并引入一种分类法,将人类对失败的态度与对有能力的系统的态度进行比较,揭示游戏、驯服、驾驭和服务系统的新创意设计策略。
失败是具有挑战性的体验的常见产物,是互动系统的现实,也是审美和即兴表演的资源。我们介绍了一项研究,研究了三位专业钢琴家如何演奏互动钢琴曲,其中包括弹奏音乐中的隐藏代码,以控制他们在乐曲中的路径并触发系统动作。我们揭示了由于各种原因导致的明显无法弹奏代码,包括弹奏错误、系统限制,以及故意失败作为控制系统的方式,以及这些失败如何激发表演者的审美和即兴反应。我们建议应设计创造性和表演性界面以实现审美失败,并引入一种分类法,将人类对失败的方法与对有能力的系统的方法进行比较,揭示游戏、驯服、驾驭和服务系统的新创意设计策略。
除了 HCI 的典型生产场所之外,还有其他实践世界,它们以这种对材料品质的表演性观点为起点。本文描述了这样一个场所及其对使用活体活性材料设计技术的经验教训。具体来说,我们借鉴了华盛顿州汤森港一所木工贸易学校为期 18 个月的木结构小房子民族志研究。木结构是一种手工建筑施工方法,使用大型木材通过细木工连接在一起,将木块塑造和组装成一个结构整体的手工工艺。在研究过程中,我们在建造三栋小房子的同时,学习了如何寻找、准备、建造和维护新旧生长木材的材料特性。借鉴这个案例,我们阐明了设想、设计、建造和维持活材料的过程。通过将这一案例置于生物材料的人机交互发展背景下,我们为制造和长期居住技术的设计提供了新的见解。