XiaoMi-AI文件搜索系统
World File Search System使用距离
RLTG：多目标定向灰盒模糊测试
定向灰盒模糊测试可以引导模糊器探索特定的目标代码区域，在补丁测试等场景中取得了良好的效果。然而，如果有多个目标代码需要探索，现有的定向灰盒模糊测试器（如AFLGo和Hawkeye）往往会忽略一些目标，因为它们使用距离的调和平均值，倾向于测试可达路径较短的目标。此外，现有的定向灰盒模糊测试器由于程序中存在间接调用，无法计算出准确的距离。此外，现有的定向灰盒模糊测试器无法解决探索和利用问题，种子调度效率低下。针对这些问题，我们提出了一种动态种子距离计算方案，当可达路径遇到间接调用时，动态增加种子距离。此外，种子距离计算可以处理多目标场景下的偏差问题。利用种子距离计算方法，我们提出了一种基于置信上限算法的种子调度算法，以解决定向灰盒模糊测试中的探索和利用问题。我们实现了一个原型 RLTG，并在实际程序上对其进行了评估。原型评估表明，我们的方法优于最先进的定向模糊器 AFLGo。在多目标基准测试 Magma 上，RLTG 以 6.9 倍的速度重现错误，并且比 AFLGo 多发现 66.7% 的错误。
国防与安全盛大挑战：AI安全 - 要求...
2。模型安全理论和实践保证对AI/ML系统的安全性和鲁棒性需要深入了解模型结构，例如神经网络层，激活功能等以及该结构对模型行为的影响。结构的选择 - 通常是为了追求最佳性能而选择的 - 从攻击易感性到数据暴露风险，可能会具有一系列安全含义。2.1表征，评估和保证我们可以针对潜在的安全问题测试模型结构，并且我们可以以保存（非侵入性）方式进行隐私吗？我们将研究某些组成部分和设计模式的存在（或不存在）是否表示攻击的脆弱性；以及此类分析是否可用于AI/ML模型安全保证。2.2训练进化，深度学习理论的最新突破使人们对复杂模型行为，从第一次初始化和整个优化过程中进行了一些了解。我们的问题是这些工具，例如模型函数近似器神经切线内核（NTK）可用于在训练动力学期间对安全性发表声明。例如，梯度流中是否存在更高或更低的安全性区域？我们可以检测到它们，甚至可以针对高安全性的区域吗？2.3模型反转这是从训练有素的模型函数的预图像中获取表示或样本的能力。我们可以在数学上说什么（大约）解决AI/ML的反问题？2.5稳定性和可信度是模型稳定性是一种良好的信任度量吗？我们可以保证反转稳健性，以及哪些结构性特征可以允许这种保证？2.4灵敏度和攻击检测的几何形状可以使用几何工具（特别是热带几何形状）来表征模型对新数据点的敏感性以及存在邪恶数据的存在，例如有毒样本或对抗性示例？不稳定的模型更容易受到对手的影响？例如，可以定义一个稳定性语句，例如Lipschitz（使用距离距离的度量标准，例如Gromov-Hausdorff），可以用来对安全声明？2.6效率的安全性含义是使非常大的模型可进行，我们经常转向降低复杂性的方法，例如稀疏，替代模型，修剪，定量等。这通常会降低任务性能，