svc

推荐引用 推荐引用 Grigoryan, Gayane 和 Collins, Andrew J.，“可解释性总是必要的吗？关于可解释人工智能的讨论”（2022 年）。建模、仿真和可视化学生顶点会议。2. DOI：10.25776/2ta8-8058 https://digitalcommons.odu.edu/msvcapstone/2022/scienceengineering/2

模型的可解释性一直是一个争论话题。一些研究指出，可解释性是不必要的，一些“白盒”模型，如回归模型或决策树，本质上是可解释的。本文对具有高度相关特征的多元回归模型进行分析，以说明模型在处理复杂数据时可解释性如何失效。在这种情况下，信任模型解释可能会有问题。Shapley 净效应技术有助于确定特征的边际贡献，可用于提高模型的可解释性并揭示有关预测的更多信息。该研究得出的结论是，在所有情况下，包括简单模型甚至更明显的情况，可解释性都是避免得出有偏见和错误结论的必要条件。