机构名称：
¥ 1.0
摘要 - 研究CNN图像分类器预测和中间层代表的重要研究线，从人类可以理解的概念方面进行了反应。在这项工作中，我们扩展了文献中使用注释的概念数据集提取可解释的特征空间方向的先前作品，并提出了一种无监督的事后方法，以通过寻找特征空间的旋转来解释稀疏的单热阈值pixelivations of PixElivations的特征空间，以提取可解释的基础。我们对现有流行的CNN进行了实验，并证明了我们方法在跨网络架构和培训数据集提取可解释的基础方面的有效性。我们对文献中发现的现有基础可解释性指标进行扩展，并表明，当转化为使用我们的方法提取的基础时，中间层的代表变得更加可解释。最后，使用基本的可解释性指标，我们将提取的方法与我们的方法进行比较，并以监督方法得出的基础，发现在一个方面，提议的无监督方法具有构成受监督的限制并为未来研究的潜在方向构成限制。
无监督的概念可解释的基础提取
主要关键词
相关文件推荐
