机构名称：
¥ 1.0
摘要 - 自主驾驶（AD）系统依靠AI组件来做出安全和正确的驾驶决策。不幸的是，今天的AI算法通常是对对抗攻击的脆弱性。但是，要使这样的AI组件级漏洞在系统级别上具有语义影响，它需要解决从系统级攻击输入空间到AI组件级别的非平凡语义差距（1），以及（2）从AI组件级别的攻击影响到系统级别的人。在本文中，我们将研究空间定义为语义AI安全性，而不是通用AI安全性。在过去的5年中，越来越多的研究工作将在广告环境中应对此类语义AI安全挑战，这已经开始显示指数级的增长趋势。但是，据我们所知，到目前为止，这个新兴的研究空间还没有全面的系统化。在本文中，我们对这种不断增长的语义AD AI安全研究领域的知识进行了首次系统化。总共收集和分析了53篇论文，并根据对安全领域至关重要的研究方面进行系统分类，例如攻击/国防目标AI组件，攻击/国防目标，攻击向量，攻击媒介，攻击知识，防御可部署性，防御能力，防御可靠性和评估方法。我们总结了基于现有的AD AI安全性工作的定量比较以及与密切相关域的安全性工作水平进行的6个最重大的科学差距。使用这些，我们不仅可以在设计层面，而且在研究目标，方法论和社区层面上提供见解和潜在的未来方向。为了解决最关键的科学方法论级别的差距，我们采取了主动性为开源，统一和可扩展的系统驱动的评估平台（名为PASS），称为语义AD AD AI AI安全研究社区。我们还使用实现的平台原型来展示使用代表性语义AD AI攻击的平台的功能和好处。
SOK：在自动驾驶中的语义AI安全性
主要关键词
相关文件推荐
