机构名称：
¥ 1.0
双重共情问题（Milton 2012）是一种心理学理论，于 2010 年代初发展起来，旨在准确解释自闭症患者在社交互动和沟通方面所遇到的困难。该理论认为，造成这种困难的核心原因之一是自闭症患者和非自闭症患者的沟通方式和其他社交/认知特征之间的根本差异。当前的人工智能领域的特点是存在大量功能强大的人工智能系统，但由于缺乏可解释性（Gunning 2017）和可控性（Hadfield-Menell 等人 2016），其实用性受到限制。这表明人工智能系统与其用户之间存在双重共情问题。然而，在人工智能系统的背景下，这个问题更加明显，因为用户可能被迫与真正的外星智能一起工作（Kim 2022）。人机感知人工智能 (HAAI) (Sreedharan、Kulkarni 和 Kambhampati 2022) 是一个框架，它试图通过利用实现人机协调的核心机制（即心理建模）来解决这一问题。图 1 展示了 HAAI 中概念化的人机交互可视化。从图中可以看出，在这种情况下造成混乱的核心原因之一可能是人类的期望与系统生成的行为不匹配。然而，弥合这种期望不匹配反过来又需要系统意识到人工智能系统和用户之间三个显著的不对称维度，即 (a) 知识不对称、(b) 推理能力不对称和 (c) 词汇不对称。我们已经使用 HAAI 框架来
人机交互的基础框架
主要关键词
相关文件推荐
