机构名称：
¥ 1.0
神经网络越来越多地用于安全至关重要。这引起了人们对验证或认证神经网络逻辑编码属性的兴趣。先前的工作在很大程度上是在检查存在属性方面的基础，其中目标是检查是否存在任何违反给定属性感兴趣的属性的输入。但是，神经网络训练是一个随机过程，其分析中出现的许多问题需要概率和定量推理，即估计多少个输入sat-Isfy A给定特性。为此，我们的论文提出了一个新颖而有原则的框架，以定量验证神经网络上指定的逻辑证书。我们的框架是第一个提供PAC风格的声音保证的框架，因为其定量估计值在真实计数的可控且有限的误差范围内。我们通过构建一个名为NPAQ 1的原型工具来实例化算法框架，该工具可以通过二进制神经网络检查丰富的属性。我们展示了新兴的安全分析如何在3个应用程序中利用我们的框架：量化对对抗性输入的鲁棒性，特洛伊木马攻击的疗效以及给定神经网络的公平/偏见。
神经网络及其安全应用程序的定量验证
主要关键词
相关文件推荐
