由于过去几十年计算能力的进步和数据可用性的提高,数据驱动方法的使用在许多工业领域受到青睐和扩展。因此,机器学习 (ML) 算法作为人工智能 (AI) 的一个子集正在走向实用前沿。ML 算法通过分析所谓的训练数据并识别模式和相关性来为给定用例编写软件。因此,所创建软件的功能很大程度上取决于训练数据。在德国和欧洲,人们普遍认识到,找到一种系统方法来开发利用新型人工智能和机器学习方法的智能系统非常重要——在工业发展方面(例如,在 VDA 旗舰计划的“AI 家族”项目中)、在标准化方面(例如,在 DIN 和 DKE [1] 的 AI 标准化路线图中),以及欧盟委员会等机构。除了 AI 的巨大潜力之外,欧盟委员会还认为需要制定《欧盟 AI 法案》[5] 中所述的法规。法律基础应保护市场和公共部门以及人民的安全和基本权利。在欧洲创建值得信赖的 AI 应用程序这一目标需要高水平的系统和跨学科方法。经典程序模型假设系统可测试,因此仅与使用 ML 方法有条件兼容。目前,应用 ML 方法的系统只能通过经验方法进行测试,无论 ML 是否内置于最终系统本身,或者 ML 方法是否用于推导最终产品的设计规范。在这两种情况下,基于 ML 的复杂方法的结果都会以关键的方式影响最终产品的功能。因此,有必要能够将这种影响追溯到所使用的基于 ML 的方法的原理和底层数据。