近年来,随着各种局部特征归因方法的提出,后续工作提出了几种评估策略。为了评估不同归因技术的归因质量,图像域中最受欢迎的评估策略是使用像素扰动。然而,最近的进展发现,不同的评估策略会产生相互冲突的归因方法排名,并且计算成本可能过高。在这项工作中,我们对基于像素扰动的评估策略进行了信息论分析。我们的研究结果表明,结果受到通过移除像素的形状而不是实际值泄露的信息的强烈影响。利用我们的理论见解,我们提出了一种称为 Remove and Debias (ROAD) 的新型评估框架,它提供了两个贡献:首先,它减轻了混杂因素的影响,这需要评估策略之间的更高一致性。其次,ROAD 不需要计算成本高昂的再训练步骤,与最先进的技术相比,可节省高达 99% 的计算成本。我们在 https://github.com/tleemann/road_evaluation 发布了我们的源代码。
主要关键词