机构名称：
¥ 1.0
基于概念的解释方法，例如Conept瓶颈模型（CBMS），旨在通过将这些概念准确地归因于Net-Net Work的特征空间的关键假设，旨在通过将其决策与人为理解的概念联系起来，以提高机器学习模型的可解释性。但是，这种基本假设尚未得到严格验证，主要是因为该领域缺乏标准化的群众和基准来评估此类概念的存在和空间对齐。为了解决这个问题，我们提出了三个指标：概念全球重要性指标，概念存在和概念位置指标，包括一种可视化概念激活的技术，即概念激活映射。我们基准了事后CBM，以说明其能力和挑战。通过定性和定量实验，我们证明，在许多情况下，即使是由事后CBMS确定的最重要的概念也不存在于输入图像中。此外，当它们存在时，其显着性图无法通过在整个对象上激活或误导相关概念特异性区域来与预期区域保持一致。我们分析了这些局限性的根本原因，例如概念的自然相关性。我们的发现不需要更仔细地应用基于概念的解释技术，尤其是在空间解释性至关重要的环境中。
基于概念的可解释人工智能：指标和基准
主要关键词
相关文件推荐
