机构名称：
¥ 2.0
我强调了一个在机器学习的科学应用中普遍存在的问题，它可能导致严重扭曲的推论。我称之为预测-解释谬误。当研究人员使用预测优化模型进行解释而不考虑相关权衡时，就会出现这种谬误。这是一个问题，至少有两个原因。首先，预测优化模型通常会故意产生偏差和不切实际，以防止过度拟合。在其他情况下，它们的结构非常复杂，很难或不可能解释。其次，在相同或相似数据上训练的不同预测模型可能会以不同的方式产生偏差，因此它们可能预测得同样好，但给出的解释却相互矛盾。在这里，我以非技术性的方式介绍了预测和解释之间的权衡，并提供了来自神经科学的说明性示例，最后讨论了一些可用于限制问题的缓解因素和方法。
预测-解释谬误：机器学习科学应用中的普遍问题
主要关键词
相关文件推荐
