机构名称：
¥ 1.0
在人工智能辅助决策中，有效的混合（人机）团队合作不仅取决于人工智能的性能，还取决于其对人类决策的影响。虽然前期研究的是模型准确性对人类的影响，但我们在此努力研究在推荐辅助决策任务中，模型的预测性能和偏见如何转移到人类的复杂动态。我们考虑机器学习辅助招聘领域，其中人类——在受限的选择环境中操作——可以选择是否希望利用训练有素的模型的推断来帮助从书面简历中选择候选人。我们利用前期工作中重新创建的真实简历数据集进行了一项大规模用户研究，其中人类在有和没有三种不同的 NLP 分类器（随机、词袋和深度神经网络）的帮助下预测给定候选人的真实职业。我们的结果表明，虽然高性能模型显著提高了人类在混合环境中的表现，但有些模型会减轻混合偏见，而另一些模型则会加剧这种偏见。我们从决策一致性的角度来研究这些发现，并观察到我们的模型架构选择会影响人类与人工智能的一致性和偏见，这激发了在部署之前评估这些复杂动态的明确需求。
调查人机协作在招聘中的表现和偏见
主要关键词
相关文件推荐
