机构名称：
¥ 1.0
机器学习的最新进展导致人们对可解释人工智能（xAI）的兴趣日益浓厚，它使人类能够洞察机器学习模型的决策。尽管最近人们对 xAI 技术产生了浓厚的兴趣，但它在人机协作中的实用性尚未得到体现。重要的是，xAI 有望增强团队态势感知（SA）和共享心理模型开发，这是有效人机团队的关键特征。快速开发这种心理模型对于临时的人机协作尤为重要，因为在这种协作中，代理并不事先了解其他人的决策策略。在本文中，我们提出了两个新颖的以人为主体的实验，量化了在人机协作场景中部署 xAI 技术的好处。首先，我们表明 xAI 技术可以支持 SA（p < 0.05）。其次，我们研究通过协作 AI 策略抽象诱导的不同 SA 级别如何影响临时的人机协作性能。重要的是，我们发现 xAI 的好处并不是普遍的，因为它在很大程度上依赖于人机团队的组成。新手受益于 xAI 提供的更高 SA（p < 0.05），但容易受到认知开销的影响（p < 0.05）。另一方面，随着基于 xAI 的支持的增加，专家的表现会下降（p < 0.05），这表明关注 xAI 的成本超过了通过提供额外信息来增强 SA 所获得的好处。我们的结果表明，研究人员必须通过仔细考虑人机团队组成以及 xAI 方法如何增强 SA，在正确的场景中精心设计和部署正确的 xAI 技术。
可解释人工智能在临时人机协作中的实用性
主要关键词
相关文件推荐
