机构名称：
¥ 1.0
最深层的神经网络（DNN）验证研究重点是定性验证，该验证回答了DNN是否具有安全性/鲁棒性属性。本文提出了一种将定性验证转换为神经网络定量验证的方法。由此产生的定量验证方法不仅可以回答是或否问题，而且可以计算违反财产的可能性。为此，我们介绍了概率恒星（或简短概率）的概念，即众所周知的恒星集的新变体，其中谓词变量属于高斯分布，并提出了一种方法来计算高维空间中概率恒星的可能性。与处理约束输入集的现有作品不同，我们的工作将输入集视为截断的多元正常（高斯）分布，即除了输入变量的约束外，输入集还具有满足约束的可能性。输入分布表示为概率恒星集，并通过网络传播，以构建包含多个ProbStars的可触及到的可触发设置，该集合用于验证网络的安全性或鲁棒性属性。在违反财产的情况下，违规概率可以通过精确的验证算法来精确计算，也可以通过过度验证验证算法来计算。所提出的方法是在名为Starv的工具中实现的，并使用著名的ACASXU网络和火箭着陆基准进行评估。
使用Probstars对神经网络进行定量验证
主要关键词
相关文件推荐
