机构名称：
¥ 1.0
摘要 - 人工智能系统（机器学习）在关键领域（航空电子、自主运动等）的开发和使用不可避免地引发了对所用软件可靠性的质疑。可信计算系统已经存在很长一段时间了。其目的是只允许执行某些应用程序，并保证此类应用程序的运行不受干扰。在这种情况下，信任是对分配的应用程序按测试时的方式运行的信心。但对于机器学习来说，这还不够。应用程序可能按预期工作，没有干扰，但由于数据发生了变化，结果不可信任。总的来说，这个问题是所有机器学习系统的一个基本点的结果：测试（操作）阶段的数据可能与系统训练时的数据不同。因此，机器学习系统可能会在没有任何针对性的操作的情况下被破坏，仅仅是因为我们在操作阶段遇到的数据在训练阶段实现的泛化不起作用。还有一些攻击被理解为对机器学习管道元素（训练数据、模型本身、测试数据）产生特殊影响，目的是实现系统的期望行为或阻止其正确运行。如今，这个普遍与机器学习系统稳定性有关的问题，是机器学习在关键应用中使用的主要障碍。
值得信赖的人工智能平台
主要关键词
相关文件推荐
