模型治理(包括模型验证)是一门实践良好的学科。多年来,传统方法在业界发挥了良好的作用。这些方法通常涉及回溯测试、执行方法和文档审查、对模型进行基准测试以及进行定性评估等活动。此治理流程的核心部分是模型可解释性,其中了解确切的变量及其权重被视为关键。在新兴的人工智能 (AI) 和机器学习模型领域,理解模型组件通常非常困难,传统方法可能并不理想。这种被称为黑箱模型的新模型需要我们重新思考如何进行模型治理。本文提出了一个新的模型治理框架,它不依赖于了解模型内部的具体细节。这种方法可以使机构(尤其是受监管的金融机构)能够放心使用黑箱模型。
主要关键词