摘要本章探讨了机器学习中鲁棒性的基础概念(ML)及其在建立人工智能(AI)系统中的信任度中不可或缺的作用。讨论始于对鲁棒性的详细定义,将其描述为ML模型在各种和意外的环境条件下保持稳定性能的能力。ml鲁棒性是通过多种镜头解剖的:它与普遍性的互补性;它的地位是值得信赖的AI的要求;它的对抗性与非对抗性方面;它的定量指标;及其指标,例如可重复性和解释性。本章深入研究了障碍鲁棒性的因素,例如数据偏见,模型复杂性和未育种ML管道的陷阱。它从广泛的角度来调查鲁棒性评估的关键技术,包括对抗性攻击,包括数字和物理领域。它涵盖了深度学习(DL)软件测试方法的非对抗性数据变化和细微差别。从以数据为中心的方法开始,例如以数据为中心的方法,探索巩固鲁棒性的改善策略正在发展。 进一步检查包括各种以模型为中心的方法,例如转移学习,对抗训练和随机平滑。 最后,讨论了训练后方法,包括集合技术,修剪和模型维修,作为成本效果的策略出现,以使模型对不可预测的模型更具弹性。探索巩固鲁棒性的改善策略正在发展。进一步检查包括各种以模型为中心的方法,例如转移学习,对抗训练和随机平滑。最后,讨论了训练后方法,包括集合技术,修剪和模型维修,作为成本效果的策略出现,以使模型对不可预测的模型更具弹性。本章强调了通过现有的估算和实现ML鲁棒性的持续挑战和局限性。它为这一关键概念的未来研究提供了见解和方向,这是值得信赖的AI系统的先决条件。
主要关键词