我们提出了一种人机交互与人工智能系统 (HAII) 的新方法,以替代主流的二元方法,其中人类和人工智能被视为交互主体。通过两个定量实验和两个定性现场案例研究,我们表明主流 HAII 范式存在潜在的有害设计缺陷,因为它可能引发负面动态,例如自动化偏差和偏见。另一方面,我们的提议以计算机支持的协同工作文献为基础,其中人工智能可以被视为知识工件 (KA) 的一个组成部分。这由一个知识创造工具生态系统组成,其目标是支持 Ba(Nonaka 之后),即一群有能力的决策者。我们强调决策的合作性质以及 KA 应该嵌入的人工智能功能。这些包括旨在促进拨款的可解释人工智能解决方案,也包括能够在协作环境中进行推理的功能。最后,我们讨论了如何将智能和代理从个人转移到人类集体,以帮助减轻二元 HAII 的缺点(例如,技能降低),重新分配关键任务的责任,并重新审视 HAII 研究议程,以使其与日益广泛、异构和复杂的团队的需求保持一致。
本案例研究考察了当前人工智能赋能的共同创造工具的产品前景。具体来说,我回顾了创造力和人机交互研究方面的文献,并研究了这些工具如何支持人类创造过程的不同阶段,以及如何解决人机交互 (HAII) 中的常见挑战。我发现这些人工智能驱动的工具主要支持创意的产生和执行,较少参与共同创造的早期阶段。此外,在其他领域发现的 HAII 挑战在创意领域很少受到关注。基于综合分析,我阐述了未来的工具如何利用人工智能的“非人类”品质,通过更以人为本的协作之旅实现创新。
信任已成为人们与 AI 系统交互的关键因素。然而,人们对信任模型的使用以及用于哪些系统知之甚少:机器人、虚拟角色、智能车辆、决策辅助工具或其他。此外,目前还没有已知的衡量 AI 信任的标准方法。本范围审查从模型、措施和方法的角度概述了人机交互 (HAII) 中的信任状况。研究结果表明,信任是 HAII 背景下的一个重要且多方面的研究主题。然而,大多数工作理论化不足且报告不足,通常不使用已建立的信任模型,并且缺少有关方法的详细信息,尤其是绿野仙踪。我们为系统审查工作提供了几个目标,以及一个研究议程,以结合当前文献的优势并解决其弱点。
你会如何描绘人工智能的肖像?无论你想象的是人脸、机械机器人还是抽象物体,这种想象都会揭示你对人工智能的概念。人类与人工智能介导实体的互动方式深受其感知的影响 [ 21 , 23 , 36 , 39 ]。例如,当人工智能系统采用人形社交线索设计时,用户很容易分散对人工智能系统的可靠性和可信度的注意力 [ 35, 37, 38, 42, 43 ]。在这项探索性研究中,我们要求参与者通过绘画任务将他们对人工智能的看法形象化。虽然用户对人工智能的印象可能因设备、品牌和环境而异,但我们的目标是为人类对人工智能的看法提供初步的“基线”。如果我们发现用户对人工智能的感知主要是与人类相似,这就警告我们,用户可能在与人工智能交互时应用了不准确的启发式方法。如果大多数参与者将人工智能视为工具,这可能会导致我们思考如何将具身化考虑纳入其中,从而帮助建立人机协作中的信任和协同作用。应用认知心理学中的心智感知框架 [ 13 ],我们根据用户对人工智能介导实体的感知形象,讨论用户在人机交互 (HAII) 中的行为和设计含义。