XiaoMi-AI文件搜索系统
World File Search System对抗训练
机器学习中的对抗训练和鲁棒性...
摘要：在机器学习领域，确保对抗攻击的鲁棒性越来越重要。对抗性训练已成为强化模型免受此类漏洞的重要战略。该项目提供了对抗性训练及其在加强机器学习框架弹性中的关键作用的全面概述。我们深入研究了对抗训练的基本原理，阐明了其基本机制和理论基础。此外，我们调查了在对抗训练中使用的最新方法和技术，包括对抗性示例生成和培训方法。通过对最近的进步和经验发现进行彻底的研究，我们评估了对抗性训练在增强各种领域和应用跨机器学习模型的鲁棒性方面的有效性。此外，我们应对挑战并确定这个新兴领域的开放研究途径，为未来的发展奠定了旨在增强机器学习系统在现实世界情景中的安全性和可靠性的基础。通过阐明对抗性训练的复杂性及其对强大的机器学习的影响，本文有助于促进对维护人工智能不断发展的环境中的对抗性威胁至关重要的理解和应用。关键字：对抗性培训，鲁棒性，SGD，模型增强
具有分割混淆对抗训练和对比学习的生成图像修复
本文提出了一种新的带有分割混淆对抗训练（SCAT）和对比学习的图像修复对抗训练框架。SCAT 在修复生成器和分割网络之间进行对抗游戏，提供像素级局部训练信号并能适应具有自由形式孔洞的图像。通过将 SCAT 与标准全局对抗训练相结合，新的对抗训练框架同时展现出以下三个优点：（1）修复图像的全局一致性，（2）修复图像的局部精细纹理细节，以及（3）处理具有自由形式孔洞的图像的灵活性。此外，我们提出了纹理和语义对比学习损失，通过利用鉴别器的特征表示空间来稳定和改进我们的修复模型的训练，其中修复图像被拉近到真实图像但远离损坏图像。所提出的对比损失可以更好地引导修复后的图像从损坏的图像数据点移动到特征表示空间中的真实图像数据点，从而产生更逼真的完整图像。我们在两个基准数据集上进行了广泛的实验，从质量和数量上证明了我们模型的有效性和优越性。
基于对齐的对抗训练 (ABAT) 可提高基于 EEG 的 BCI 的稳健性和准确性
摘要 — 机器学习在基于脑电图 (EEG) 的脑机接口 (BCI) 中取得了巨大成功。现有的大多数 BCI 研究都侧重于提高解码精度，只有少数研究考虑了对抗安全性。尽管在计算机视觉等其他应用领域已经提出了许多对抗性防御方法，但先前的研究表明，将它们直接扩展到 BCI 会降低良性样本的分类精度。这种现象极大地影响了对抗性防御方法对基于 EEG 的 BCI 的适用性。为了缓解这个问题，我们提出了基于对齐的对抗性训练 (ABAT)，它在对抗性训练之前执行 EEG 数据对齐。数据对齐将来自不同领域的 EEG 试验对齐以减少它们的分布差异，而对抗性训练进一步增强了分类边界的鲁棒性。数据对齐和对抗性训练的结合可以使训练后的 EEG 分类器同时更准确、更鲁棒。在两种不同的 BCI 范式（运动想象分类和事件相关电位识别）的五个 EEG 数据集、三个卷积神经网络分类器（EEGNet、ShallowCNN 和 DeepCNN）和三种不同的实验设置（离线受试者内跨块/会话分类、在线跨会话分类和预训练分类器）上进行的实验证明了其有效性。非常有趣的是，通常用于破坏 BCI 系统的对抗性攻击可以在 ABAT 中使用，以同时提高模型准确性和鲁棒性。
从聚类效应角度解释神经网络的对抗鲁棒性
对抗训练（AT）是提高深度神经网络鲁棒性的最常用机制。最近，一种针对中间层的新型对抗攻击利用了对抗训练网络的额外脆弱性，输出错误的预测。这一结果说明对抗训练中对抗扰动的搜索空间不足。为了阐明中间层攻击有效的原因，我们将前向传播解释为聚类效应，表征神经网络对于与训练集具有相同标签的样本的中间层表示相似，并通过相应的信息瓶颈理论从理论上证明了聚类效应的存在。随后我们观察到中间层攻击违反了 AT 训练模型的聚类效应。受这些重要观察的启发，我们提出了一种正则化方法来扩展训练过程中的扰动搜索空间，称为充分对抗训练（SAT）。我们通过严格的数学证明给出了经过验证的神经网络鲁棒性界限。实验评估表明，SAT 在防御针对输出层和中间层的对抗性攻击方面优于其他最先进的 AT 机制。我们的代码和附录可以在 https://github.com/clustering-effect/SAT 找到。
对硬性实例对过度拟合的影响...
对抗训练是一种鲁棒性模型来防止对抗攻击的流行方法。但是，它表现出比在干净输入的训练要严重得多的。在这项工作中，我们从培训实例的角度（即训练输入目标对）研究了这种现象。基于训练集中实例相对困难的定量度量，我们分析了该模型在不同难度水平的训练实例上的行为。这使我们证明，对抗训练的概括性能衰减是拟合硬对抗实例的结果。我们从理论上验证了线性和一般非线性模型的观察结果，证明了在硬实例上训练的模型的概括性能要比在简单实例上接受培训的模型要差，并且这种概括差距随着对抗性预算的规模而增加。最后，我们调查了在几种情况下减轻对抗性过度插入的解决方案，包括快速的对抗训练和使用其他数据进行预处理的模型。我们的结果表明，使用训练数据可自动提高模型的鲁棒性。
I-MILES 电视
Cubic 的无线车载多路综合激光交战系统 (MILES) 是我们用于模拟训练的无线解决方案的一次革命性进步。新型可仪表化 MILES 战术车辆系统 (I-MILES TVS) 目前正在为美国陆军生产，具有更好的训练保真度、无线通信和直观界面。该系统在对抗训练场景中提供 MILES 战术交战训练所需的实时伤亡评估。
讲座4 - 扩散模型简介
歌曲和Ermon指出，现有模型具有重大局限性：“基于可能性的模型要么需要对模型架构进行强限制，以确保可拖动的归一化常规常量以进行可能性计算，要么必须依靠代孕目标来近似最大的可能性训练。隐性生成模型通常需要对抗训练，众所周知，这是不稳定的，可能导致模式崩溃”。归一化常规，不稳定性和模式崩溃已经是显式密度文献采样多年来所处理的主要计算问题。在这里，我们介绍了另一种表示概率分布的方式
机器学习鲁棒性：底漆
摘要本章探讨了机器学习中鲁棒性的基础概念（ML）及其在建立人工智能（AI）系统中的信任度中不可或缺的作用。讨论始于对鲁棒性的详细定义，将其描述为ML模型在各种和意外的环境条件下保持稳定性能的能力。ml鲁棒性是通过多种镜头解剖的：它与普遍性的互补性；它的地位是值得信赖的AI的要求；它的对抗性与非对抗性方面；它的定量指标；及其指标，例如可重复性和解释性。本章深入研究了障碍鲁棒性的因素，例如数据偏见，模型复杂性和未育种ML管道的陷阱。它从广泛的角度来调查鲁棒性评估的关键技术，包括对抗性攻击，包括数字和物理领域。它涵盖了深度学习（DL）软件测试方法的非对抗性数据变化和细微差别。从以数据为中心的方法开始，例如以数据为中心的方法，探索巩固鲁棒性的改善策略正在发展。 进一步检查包括各种以模型为中心的方法，例如转移学习，对抗训练和随机平滑。 最后，讨论了训练后方法，包括集合技术，修剪和模型维修，作为成本效果的策略出现，以使模型对不可预测的模型更具弹性。探索巩固鲁棒性的改善策略正在发展。进一步检查包括各种以模型为中心的方法，例如转移学习，对抗训练和随机平滑。最后，讨论了训练后方法，包括集合技术，修剪和模型维修，作为成本效果的策略出现，以使模型对不可预测的模型更具弹性。本章强调了通过现有的估算和实现ML鲁棒性的持续挑战和局限性。它为这一关键概念的未来研究提供了见解和方向，这是值得信赖的AI系统的先决条件。
计算机视觉和图像理解-Orbilu
本文提出了一种基于自适应图的多标签图像分类方法。基于图的方法在多标签分类领域已在很大程度上被利用，因为它们的标签相关性模型。 具体来说，它们的有效性不仅在考虑一个域时，而且在考虑多个领域时也得到了证明。 但是，使用的图形的拓扑并不是最佳的，因为它是预先定义的启发式。 此外，连续图卷积网络（GCN）聚集倾向于破坏特征相似性。 为了克服这些问题，引入了用于以端到端方式学习图形连接性的体系结构。 这是通过整合基于注意力的机制和具有相似性的策略来完成的。 然后，使用对抗训练方案将所提出的框架扩展到多个领域。 对众所周知的单域和多域基准进行了许多实验。 结果表明，我们的方法以平均平均精度（MAP）和模型大小与最先进的方法相比，取得了竞争成果。 该代码将公开可用。基于图的方法在多标签分类领域已在很大程度上被利用，因为它们的标签相关性模型。具体来说，它们的有效性不仅在考虑一个域时，而且在考虑多个领域时也得到了证明。但是，使用的图形的拓扑并不是最佳的，因为它是预先定义的启发式。此外，连续图卷积网络（GCN）聚集倾向于破坏特征相似性。为了克服这些问题，引入了用于以端到端方式学习图形连接性的体系结构。这是通过整合基于注意力的机制和具有相似性的策略来完成的。然后，使用对抗训练方案将所提出的框架扩展到多个领域。对众所周知的单域和多域基准进行了许多实验。结果表明，我们的方法以平均平均精度（MAP）和模型大小与最先进的方法相比，取得了竞争成果。该代码将公开可用。
基于GAN的手写数字合成-IJRPR
总而言之，这项研究介绍了一种专门设计的生成对抗网络（GAN），该网络专门为使用Kannada MNIST数据集综合现实手写数字而设计。涉及生成器和歧视器的GAN的对抗训练过程会产生真实的数字。利用密集连接的层和卷积神经网络的结构证明了将随机噪声转换为有意义的数字表示方面的功效。本文强调了GAN在数据增强和机器学习任务的合成数据生成中的潜在应用。在确认提出的基础，通过高参数调整，建筑修改和扩展培训时间的进一步优化时，建议提高数字生成能力。强调采用适当评估指标的重要性，将这项研究定位为该领域未来进步的垫脚石。