XiaoMi-AI文件搜索系统
World File Search System鲁棒性
从聚类效应角度解释神经网络的对抗鲁棒性
对抗训练（AT）是提高深度神经网络鲁棒性的最常用机制。最近，一种针对中间层的新型对抗攻击利用了对抗训练网络的额外脆弱性，输出错误的预测。这一结果说明对抗训练中对抗扰动的搜索空间不足。为了阐明中间层攻击有效的原因，我们将前向传播解释为聚类效应，表征神经网络对于与训练集具有相同标签的样本的中间层表示相似，并通过相应的信息瓶颈理论从理论上证明了聚类效应的存在。随后我们观察到中间层攻击违反了 AT 训练模型的聚类效应。受这些重要观察的启发，我们提出了一种正则化方法来扩展训练过程中的扰动搜索空间，称为充分对抗训练（SAT）。我们通过严格的数学证明给出了经过验证的神经网络鲁棒性界限。实验评估表明，SAT 在防御针对输出层和中间层的对抗性攻击方面优于其他最先进的 AT 机制。我们的代码和附录可以在 https://github.com/clustering-effect/SAT 找到。
癌症微生物组信号的鲁棒性在广泛的方法学变化上
在2020年，我们鉴定了癌症基因组图集（TCGA）中的癌症特异性微生物信号[1]。多个同行评审的论文独立验证或扩展了我们的发现[2-12]。鉴于这种影响，我们仔细考虑了Gihawi等人的关注。[13]批处理校正和数据库污染具有人工的宿主序列，从而产生了癌症类型特异性微生物组的外观。（1）我们通过比较了每批次的原始和VOOM-SNM校正数据，测试了批处理校正，发现了预测等效性和显着性相似的功能。我们发现了使用现代微生物组特异性方法（Conqur [14]）的一致结果，并且在限制在独立的，高度污染的队列中发现的分类单元时。（2）使用conterminator [15]，我们发现原始数据库中的人类污染水平较低（基因组的约1％）。我们证明了Gihawi等人对人类读物的发现增加。[13]是由于使用了较新的人类基因组参考。（3）我们开发了详尽的方法，这是清洁repseq的敏感性两倍的方法。我们全面拥有许多人类（PAN）基因组参考的宿主数据。我们对此重复了所有分析和Gihawi等。[13]管道，发现癌症类型的微生物组。这些广泛的重新分析和更新的方法验证了我们最初的结论，即TCGA中存在癌症类型的微生物特异性标志，并表明它们对方法论很强。
点云模型改善了机器人学习者的视觉鲁棒性
摘要 - 视觉控制策略在视觉条件（如照明或摄像机位置）与训练过程中所见的情况有所不同时可能会遇到重大的性能降解 - 通常甚至在较小的差异方面表现出急剧下降的能力。在这项工作中，我们研究了基于RGB-D和基于点云的视觉控制策略的这些类型的视觉变化的鲁棒性。要对基于模型和基于模型的强化学习者进行这些实验，我们引入了一种新颖的Point Cloud World Model（PCWM）和基于点云的控制策略。我们的实验表明，明确编码点云的策略比其RGB-D对应物更强大。此外，我们发现我们提出的PCWM在训练过程中的样本效率方面显着优于先前的工作。在一起，这些结果表明，通过点云进行有关3D场景的推理可以提高性能，减少学习时间并增加机器人学习者的鲁棒性。项目网页：https：//pvskand.github.io/projects/pcwm
论预训练数据多样性与微调鲁棒性之间的联系
预训练已在深度学习中被广泛采用，以提高模型性能，特别是当目标任务的训练数据有限时。在我们的工作中，我们试图了解这种训练策略对下游模型泛化特性的影响。更具体地说，我们提出以下问题：预训练分布的属性如何影响微调模型的鲁棒性？我们探索的属性包括预训练分布的标签空间、标签语义、图像多样性、数据域和数据量。我们发现影响下游有效鲁棒性的主要因素 [44] 是数据量，而其他因素的重要性有限。例如，将 ImageNet 预训练类别的数量减少 4 倍，同时将每个类别的图像数量增加 4 倍（即保持总数据量固定）不会影响微调模型的鲁棒性。我们展示了从各种自然和合成数据源中提取的预训练分布的发现，主要使用 iWildCam-WILDS 分布转变作为稳健性测试。
superfl：具有效率和鲁棒性的联合学习隐私性
联邦学习（FL）完成了协作模型培训，而无需共享本地培训数据。但是，现有的FL聚合方法遭受了效率低下，隐私脆弱性和对中毒攻击的忽视，从而严重影响了模型培训的整体性能和可靠性。为了应对这些挑战，我们提出了Superfl，这是一种有效的两服务汇总计划，既可以保存又可以保护中毒攻击。两个半honest服务器S 0和S 1相互协作，带有Shuffle Server S 0负责隐私聚类，而分析服务器S 1负责稳健性检测，识别和过滤恶意模型更新。我们的计划采用了同质加密和代理重新加密的新型组合，以实现安全的服务器与服务器协作。我们还利用一种新型的稀疏矩阵投影压缩技术来提高通信效率并显着降低开销。为了抵制中毒攻击，我们基于可信赖的根，将降低维度降低和规范计算引入双过滤算法，以识别恶意模型更新。广泛的实验验证了我们方案的效率和鲁棒性。SuperFL达到了令人印象深刻的压缩比，范围从5-40 x，在不同的模型下，同时以基线为基准的可比较模型精度。值得注意的是，我们的解决方案在MNIST和CIFAR-10数据集中分别显示出最大模型的准确性不超过2％和6％，在特定的压缩比和恶意客户的存在下。
通过量子假设测试的量子分类的最佳可证明的鲁棒性
量子机学习模型与其经典同行相比，有可能提供加速和更好的预测精度。然而，这些量子算法与它们的经典算法一样，也已被证明也很容易受到输入扰动的影响，尤其是对于分类问题。这些可能是由于嘈杂的实现而引起的，也可以作为最坏的噪声类型的对抗性攻击。为了开发防御机制并更好地理解这些算法的可靠性，在存在自然噪声源或对抗性操纵的情况下了解其稳健性至关重要。从量子分类算法涉及的测量值是自然概率的，我们发现并形式化了二进制量子假设测试与可证明可证明可靠的量子分类之间的基本联系。此链接导致紧密的鲁棒性条件，该条件对分类器可以忍受的噪声量构成约束，而与噪声源是自然的还是对抗性的。基于此结果，我们开发了实用协议以最佳证明鲁棒性。最后，由于这是针对最坏情况类型的噪声类型的鲁棒条件，因此我们的结果自然扩展到已知噪声源的场景。因此，我们还提供了一个框架来研究量子分类方案的可靠性，超出了对抗性，最坏情况的噪声场景。
学习一个动态隐私的相机鲁棒性反转攻击
摘要。设计了设计隐私相机（PPC）的问题。以前的设计依赖于静态点扩展功能（PSF），以防止检测私人视觉信息，例如可识别的面部特征。但是，可以通过测量对点光源的摄像机响应来轻松恢复PSF，从而使这些相机容易受到PSF反转攻击的影响。提出了一种新的动态隐私（Dypp）摄像头设计，以防止此类攻击。dypp摄像机依赖于动态的光学元素，即这种空间光模拟器来实现随时间变化的PSF，该PSF随着图片的变化而变化。PSF是通过学习的嵌入式嵌入，对手进行的，以同时满足用户指定目标的隐私目标，例如面部识别准确性和任务效用。对多种隐私视力任务的经验评估表明，与以前的PPC相比，Dypp设计对PSF反转功能的强大意义要大得多。此外，该方法的硬件可行性由概念验证摄像头模型验证。
硅碳化物MOSFET中的短路鲁棒性和载体寿命
抽象注意力缺陷多动症（ADHD）是一种神经发育多基因疾病，影响了世界各地5％以上的儿童和青少年。遗传和环境因素在ADHD病因中起着重要作用，这导致了整个人群中广泛的临床结果和生物学表型。与同龄人的对照相比，患者通常发现了4年滞后的大脑成熟延迟。细胞生长率的可能差异可能反映了多动症患者的临床观察结果。但是，仍未阐明细胞机制。为了检验这一假设，我们分析了诱导多能干细胞（IPSC）和神经干细胞（NSC）的增殖，这些细胞（NSC）源自男性儿童和诊断为ADHD的男孩和青少年（使用多基因风险评分评估），以及其相应的对照组。在当前的试点研究中，值得注意的是，ADHD组的NSC繁殖小于对照，而在IPSC发育阶段没有发现差异。我们来自两种不同的增殖方法的结果表明，患者发现的功能和结构延迟可能与这些体外表型差异有关，但从明显的神经发育阶段开始。这些发现是多动症疾病建模领域的第一个发现，对于更好地了解该疾病的病理生理可能至关重要。
对抗性自我训练改善了渐进域适应性的鲁棒性和概括
逐渐的域适应性（GDA），其中为学习者提供了辅助中间域，在许多情况下已经在理论上和经验上研究了。尽管在关键安全方案中起着至关重要的作用，但GDA模型的对抗性鲁棒性仍然没有探索。在本文中，我们采用了有效的渐进自我训练方法，并用副本自我训练（AST）替换香草自我训练。AST首先预测未标记的数据上的标签，然后对手在伪标记的分布上训练模型。有趣的是，我们发现逐渐的AST不仅提高了对抗性的准确性，而且可以提高目标域的清洁准确性。我们揭示这是因为当伪标签包含一部分不正确标签时，对抗性训练（AT）的性能要比标准训练更好。因此，我们首先介绍多类分类设置中逐渐AST的概括误差界限。然后，我们使用子集总和问题的最佳值在真实分布和伪标记分布上的对抗误差上桥接标准误差。结果表明，在具有不正确的伪标签的数据上，可能会获得比标准培训更紧密的结合。我们进一步提出了有条件的高斯分布的一个例子，以提供更多的见解，说明为什么逐渐的AST可以提高GDA的清洁精度。
审查温带农业系统的弹性，脆弱性，鲁棒性和适应能力的定量评估
Manon Dardonville，Christian Bockstaller，Olivier Therond。回顾了温带农业系统的弹性，脆弱性，鲁棒性和适应能力的定量评估。清洁工生产杂志，2021，286，pp.125456。10.1016/j.jclepro.2020.125456。hal-03150196