XiaoMi-AI文件搜索系统
World File Search SystemLipschitz
国防与安全盛大挑战：AI安全 - 要求...
2。模型安全理论和实践保证对AI/ML系统的安全性和鲁棒性需要深入了解模型结构，例如神经网络层，激活功能等以及该结构对模型行为的影响。结构的选择 - 通常是为了追求最佳性能而选择的 - 从攻击易感性到数据暴露风险，可能会具有一系列安全含义。2.1表征，评估和保证我们可以针对潜在的安全问题测试模型结构，并且我们可以以保存（非侵入性）方式进行隐私吗？我们将研究某些组成部分和设计模式的存在（或不存在）是否表示攻击的脆弱性；以及此类分析是否可用于AI/ML模型安全保证。2.2训练进化，深度学习理论的最新突破使人们对复杂模型行为，从第一次初始化和整个优化过程中进行了一些了解。我们的问题是这些工具，例如模型函数近似器神经切线内核（NTK）可用于在训练动力学期间对安全性发表声明。例如，梯度流中是否存在更高或更低的安全性区域？我们可以检测到它们，甚至可以针对高安全性的区域吗？2.3模型反转这是从训练有素的模型函数的预图像中获取表示或样本的能力。我们可以在数学上说什么（大约）解决AI/ML的反问题？2.5稳定性和可信度是模型稳定性是一种良好的信任度量吗？我们可以保证反转稳健性，以及哪些结构性特征可以允许这种保证？2.4灵敏度和攻击检测的几何形状可以使用几何工具（特别是热带几何形状）来表征模型对新数据点的敏感性以及存在邪恶数据的存在，例如有毒样本或对抗性示例？不稳定的模型更容易受到对手的影响？例如，可以定义一个稳定性语句，例如Lipschitz（使用距离距离的度量标准，例如Gromov-Hausdorff），可以用来对安全声明？2.6效率的安全性含义是使非常大的模型可进行，我们经常转向降低复杂性的方法，例如稀疏，替代模型，修剪，定量等。这通常会降低任务性能，
LIPIcs.ITCS.2023.53.pdf - DROPS
经典复杂性理论中的一个著名成果是 Savitch 定理，该定理指出非确定性多项式空间计算 (NPSPACE) 可以通过确定性多空间计算 (PSPACE) 来模拟。在这项工作中，我们开始研究 NPSPACE 的量子类似物，记为 Streaming-QCMASPACE (SQCMASPACE)，其中指数长的经典证明被流式传输到多空间量子验证器。我们首先证明 Savitch 定理的量子类似物不太可能成立，因为 SQCMASPACE = NEXP 。为了完整起见，我们还引入了具有指数长流式量子证明的伴随类 Streaming-QMASPACE (SQMASPACE)，并证明 SQMASPACE = QMA EXP（NEXP 的量子类似物）。然而，我们的主要重点是研究指数长的流式经典证明，接下来我们将展示以下两个主要结果。第一个结果表明，与经典设置形成鲜明对比的是，当允许指数长度的证明时，量子约束满足问题（即局部哈密顿量）的解空间始终是连通的。为此，我们展示了如何通过一系列局部幺正门模拟单位超球面上的任何 Lipschitz 连续路径，代价是增加电路尺寸。这表明，如果演化速度足够慢，量子纠错码无法检测到一个码字错误地演化为另一个码字，并回答了 [Gharibian, Sikora, ICALP 2015] 关于基态连通性问题的未决问题。我们的第二个主要结果是，任何 SQCMASPACE 计算都可以嵌入到“非纠缠”中，即嵌入到具有非纠缠证明器的量子约束满足问题中。正式地，我们展示了如何将 SQCMASPACE 嵌入到 [Chailloux, Sattath, CCC 2012] 的稀疏可分离汉密尔顿问题（1 / 多承诺差距的 QMA(2) 完全问题）中，代价是随着流式证明大小的扩大而扩大承诺差距。作为推论，我们获得了第一个系统构造，用于在任意多证明者交互式证明系统上获得 QMA (2) 型上限，其中 QMA (2) 承诺差距随着交互式证明中的通信位数呈指数增长。我们的构造使用了一种新技术来利用解缠结来模拟二次布尔函数，这在某种意义上允许历史状态对未来进行编码。