•绘制一小部分数据点•将模型拟合到这些点•检查与此模型“接近”的点数•用此数字为每个拟合模型评分•使用随机采样进行许多试验•选择具有最高分数的模型•使用此模型检测和删除异常值•使用此模型•剩余点是“好”点
联邦学习(FL)完成了协作模型培训,而无需共享本地培训数据。但是,现有的FL聚合方法遭受了效率低下,隐私脆弱性和对中毒攻击的忽视,从而严重影响了模型培训的整体性能和可靠性。为了应对这些挑战,我们提出了Superfl,这是一种有效的两服务汇总计划,既可以保存又可以保护中毒攻击。两个半honest服务器S 0和S 1相互协作,带有Shuffle Server S 0负责隐私聚类,而分析服务器S 1负责稳健性检测,识别和过滤恶意模型更新。我们的计划采用了同质加密和代理重新加密的新型组合,以实现安全的服务器与服务器协作。我们还利用一种新型的稀疏矩阵投影压缩技术来提高通信效率并显着降低开销。为了抵制中毒攻击,我们基于可信赖的根,将降低维度降低和规范计算引入双过滤算法,以识别恶意模型更新。广泛的实验验证了我们方案的效率和鲁棒性。SuperFL达到了令人印象深刻的压缩比,范围从5-40 x,在不同的模型下,同时以基线为基准的可比较模型精度。值得注意的是,我们的解决方案在MNIST和CIFAR-10数据集中分别显示出最大模型的准确性不超过2%和6%,在特定的压缩比和恶意客户的存在下。
摘要:代谢网络可能是最具挑战性和最重要的生物网络之一。他们的研究提供了有关生物学途径的工作方式以及特定生物体对环境或治疗的鲁棒性的见解。在这里,我们提出了一个有针对边缘的顶点重量作为代表代谢网络的新框架的定向超图。这种基于超级图的表示捕获了代谢物和反应之间的高阶相互作用,以及反应和化学计量权重的方向性,从而保留了所有必需信息。在此框架内,我们提出了通信性和搜索信息作为指标,以量化有向超图的鲁棒性和复杂性。我们探讨了网络方向对这些度量的含义,并通过将它们应用于小型大肠杆菌核心模型来说明了一个实践示例。此外,我们比较了30种不同模型的代谢模型的鲁棒性和复杂性,并连接结构和生物学特性。我们的发现表明抗生素耐药性与高结构鲁棒性有关,而复杂性可以区分真核和原核生物。
预训练已在深度学习中被广泛采用,以提高模型性能,特别是当目标任务的训练数据有限时。在我们的工作中,我们试图了解这种训练策略对下游模型泛化特性的影响。更具体地说,我们提出以下问题:预训练分布的属性如何影响微调模型的鲁棒性?我们探索的属性包括预训练分布的标签空间、标签语义、图像多样性、数据域和数据量。我们发现影响下游有效鲁棒性的主要因素 [44] 是数据量,而其他因素的重要性有限。例如,将 ImageNet 预训练类别的数量减少 4 倍,同时将每个类别的图像数量增加 4 倍(即保持总数据量固定)不会影响微调模型的鲁棒性。我们展示了从各种自然和合成数据源中提取的预训练分布的发现,主要使用 iWildCam-WILDS 分布转变作为稳健性测试。
逐渐的域适应性(GDA),其中为学习者提供了辅助中间域,在许多情况下已经在理论上和经验上研究了。尽管在关键安全方案中起着至关重要的作用,但GDA模型的对抗性鲁棒性仍然没有探索。在本文中,我们采用了有效的渐进自我训练方法,并用副本自我训练(AST)替换香草自我训练。AST首先预测未标记的数据上的标签,然后对手在伪标记的分布上训练模型。有趣的是,我们发现逐渐的AST不仅提高了对抗性的准确性,而且可以提高目标域的清洁准确性。我们揭示这是因为当伪标签包含一部分不正确标签时,对抗性训练(AT)的性能要比标准训练更好。因此,我们首先介绍多类分类设置中逐渐AST的概括误差界限。然后,我们使用子集总和问题的最佳值在真实分布和伪标记分布上的对抗误差上桥接标准误差。结果表明,在具有不正确的伪标签的数据上,可能会获得比标准培训更紧密的结合。我们进一步提出了有条件的高斯分布的一个例子,以提供更多的见解,说明为什么逐渐的AST可以提高GDA的清洁精度。
人们普遍认为,通过了解纠缠谱的统计特性可以预测一般电路中纠缠的动态。我们通过对具有相同统计量的状态应用由不同组局部门生成的类似 Metropolis 的纠缠冷却算法来测试这一假设。我们采用一个独特模型的基态,即具有横向场的一维伊辛链,但属于不同的宏观相,如顺磁相、磁序相和拓扑受挫相。令人吃惊的是,我们观察到纠缠动力学不仅强烈依赖于不同的门组,还强烈依赖于相位,这表明不同相可以拥有不同类型的纠缠(我们将其描述为纯局部、类 GHZ 和类 W 态),对冷却过程的恢复程度也不同。此外,在某些情况下,我们观察到算法会产生扰乱效应,该算法会在不遵循纠缠熵体积定律的状态下产生 Wigner-Dyson 纠缠谱统计。我们的工作强调了这样一个事实:仅凭纠缠谱的知识不足以确定其动态,从而证明了其作为表征工具的不完整性。此外,它还显示了局部性和非局部约束之间的微妙相互作用。
摘要 - 脑启发的超维度计算(HDC),也称为矢量符号结构(VSA),是一种急剧的“非von neumann”计算方案,该方案模仿人脑功能以处理信息或使用抽象和高维模式来处理信息或执行学习任务。与深神经网络(DNN)相比,HDC显示出诸如紧凑的模型大小,能量效率和少量学习的优势。尽管有这些优势,但HDC的一个不足的区域是对抗性的鲁棒性。现有的作品表明,HDC容易受到对抗性攻击的攻击,在这种攻击中,攻击者可以在原始输入中添加少量扰动到“傻瓜” HDC模型,从而产生错误的预测。在本文中,我们通过开发一种系统的方法来测试和增强HDC对对抗性攻击的鲁棒性,系统地研究HDC的对抗性鲁棒性,并具有两个主要成分:(1)TestHD,这是一种可以为给定的HDC模型生成高素质高素质的测试工具,该工具可以为给定的HDC模型生成高素质的高素质数据; (2)GuardHD,它利用TestHD生成的对抗数据来增强HDC模型的对抗性鲁棒性。testHD的核心思想建立在模糊测试方法之上。我们通过提出基于相似性的覆盖率度量来定制模糊方法,以指导TestHD连续突变原始输入,以生成可能触发HDC模型不正确行为的新输入。由于使用差异测试,TestHD不需要事先知道样品的标签。为了增强对抗性鲁棒性,我们设计,实施和评估GuardHD以捍卫HDC模型免受对抗数据的影响。GuardHD的核心思想是一种对抗探测器,可以通过测试HDD生成的对抗样本训练。在推断期间,一旦检测到对抗样本,GuardHD将用“无效”信号覆盖词典结果。我们评估了4个数据集和5个对抗性攻击方案的提议方法,具有6种对抗生成策略和2种防御机制,并相应地比较了性能。GuardHD能够区分精度超过90%的良性和对抗性输入,比基于对抗性训练的基线高达55%。据我们所知,本文在系统地测试和增强对这种新兴脑启发的计算模型的对抗数据的鲁棒性方面提出了第一个全面的努力。索引术语 - 远程计算,差异绒毛测试,对抗攻击,强大的计算
基于忆阻器的神经形态计算在高速、高吞吐量信号处理应用(如脑电图 (EEG) 信号处理)中显示出巨大潜力。尽管如此,单晶体管单电阻 (1T1R) 忆阻器阵列的大小受到器件非理想性的限制,这阻碍了大型复杂网络的硬件实现。在本文中,我们提出了深度可分离卷积和双向门循环单元 (DSC-BiGRU) 网络,这是一种基于 1T1R 阵列的轻量级且高度稳健的混合神经网络,通过混合 DSC 和 BiGRU 块,能够在时间、频率和空间域中有效处理 EEG 信号。在确保网络分类准确性的同时,网络规模减小了,网络稳健性提高了。在模拟中,通过统计分析将测得的 1T1R 阵列的非理想性带入网络中。与传统卷积网络相比,在阵列成品率95%、容错率5%的条件下,网络参数减少了95%,网络分类准确率提高了21%。该工作表明,基于忆阻器阵列的轻量级、高鲁棒网络对于依赖低消耗和高效率的应用具有巨大的前景。
该技术说明证明了用于扩展微流蛋白质组学LC-MS分析的Zenotof 7600系统的性能和鲁棒性。该系统是连续运行的28周,而没有仪器清洁或维护,除了例行调整和校准外。鲁棒性,其中使用Zeno Swath DIAS方法分析了人类K562胰蛋白酶消化标准的5 ng和50 ng载荷的复制注射,以评估定量蛋白质组学性能。评估期包括从24-28周进行的加速鲁棒性测试,包括> 1,000个注射(每次注射0.5-1 ng之间的柱载荷)和> 1,020 µg的K562摘要,并注入了系统中,以模拟高通量蛋白瘤研究。在28周内分析了超过1200 µg的蛋白质消化系统。QC结果表明,系统性能在21周的测试期间保持稳定,并且已识别和量化的蛋白质组和前体的数量与变异系数(CVS)<20%一致。这些数据表明Zenotof 7600系统是
目录 _____________________________________________________________________ 3 表格列表 ___________________________________________________________ 6 图片列表 __________________________________________________________ 8 首字母缩略词 _____________________________________________________________ 12 符号 _____________________________________________________________ 15 摘要 ________________________________________________________ 18 概述 ___________________________________________________ 34 第 1 章:适用于快速模型的方法 ______________________________ 38