许多人工智能系统非常复杂,难以理解。尽管人工智能系统具有解决大量问题的潜力,但由于我们无法理解其结果和推理过程,其应用可能会受到限制。解释的定义将有利于多个群体,其中最突出的是任何人工智能系统做出的预测或建议的接收者。其他群体包括研究人员、人工智能开发人员、系统用户等。我们将所有这些群体统称为接收者,接收者可以是该群体中的任何个人。我们回顾了几位作者所涵盖的解释的重要性。在这里,我们重申 Doshi-Velez 和 Kim(2017)、Samek 等人主要提出的原因。( 2017 ) 和 Lipton ( 2018 )。以下原因说明了解释的重要性: