理解为什么这样的系统会做出这样的预测和分类。这种局限性在高风险决策环境中尤其令人担忧,例如医疗诊断和刑事司法,其中问责制、价值观一致和广泛的道德考虑是突出的 [Rud19、BC + 22、FS + 21、Hof17]。然而,DL 模型 (DLM) 的不可预测性在科学环境中也引起了认识论的关注,其中解释和理解 [RB22、Sul19] 代表了核心的认识论美德 [Kha17]。当然,在使用深度学习系统模拟易于理解但耗时的任务(例如识别星系或去噪数据)的情况下,纯粹务实的考虑(例如分类准确性或控制程度)通常足以满足给定模型的目的 [Par20]。此外,在许多此类情况下,DL 输出可以独立验证,从而使不透明度在认识论上变得无关紧要 [Due22]。
主要关键词