XiaoMi-AI文件搜索系统
World File Search SystemAdversarial
关于人工智能中的对抗性示例和隐形攻击......
摘要 — 在本文中，我们提出了一个正式的理论框架，用于评估和分析针对通用人工智能 (AI) 系统的两类恶意行为。我们的结果适用于从输入空间映射到决策空间的通用多类分类器，包括深度学习应用中使用的人工神经网络。考虑两类攻击。第一类涉及对抗性示例，涉及引入导致错误分类的输入数据的小扰动。第二类是首次引入的，称为隐形攻击，涉及对 AI 系统本身的小扰动。在这里，受扰动的系统会在特定的小数据集（甚至可能是单个输入）上产生攻击者想要的任何输出，但在验证集（攻击者不知道）上表现正常。我们表明，在两种情况下，即在基于对抗性示例的攻击和隐形攻击的情况下，人工智能决策空间的维数是人工智能易受攻击的主要原因。对于基于对抗性示例的攻击，第二个关键参数是数据概率分布中不存在局部集中，这一属性称为“弥散绝对连续性”。根据我们的研究结果，对抗性示例的鲁棒性要求 (a) 人工智能特征空间中的数据分布具有集中的概率密度函数，或 (b) 人工智能决策变量的维数足够小。我们还展示了如何构建对高维人工智能系统的隐形攻击，除非验证集呈指数级增长，否则很难发现这些攻击。索引术语 — 对抗性示例、对抗性攻击、随机分离定理、人工智能、机器学习
对抗样本的生物免疫建模
作者：E Kim · 2020 · 被引用 29 次 — 或者，防御可以通过预处理、量化或压缩来处理模型的输入 [47, 11, 17, 19, 28]。我们的工作是独特的，不...
有向链生成对抗网络
现实世界数据可以是多模态分布的，例如描述社区中的意见分歧、神经元的脉冲间隔分布以及振荡器的自然频率的数据。生成多模态分布式现实世界数据已成为现有生成对抗网络 (GAN) 的挑战。例如，我们经常观察到神经 SDE 仅在生成单模态时间序列数据集方面表现出成功的性能。在本文中，我们提出了一种新颖的时间序列生成器，称为有向链 GAN（DC-GAN），它将时间序列数据集（称为有向链的邻域过程或输入）插入到具有分布约束的有向链 SDE 的漂移和扩散系数中。DC-GAN 可以生成与邻域过程相同分布的新时间序列，并且邻域过程将提供学习和生成多模态分布式时间序列的关键步骤。所提出的 DC-GAN 在四个数据集上进行了测试，包括两个来自社会科学和计算神经科学的随机模型，以及两个关于股票价格和能源消耗的真实世界数据集。据我们所知，DC-GAN 是第一个能够生成多模态时间序列数据的作品，并且在分布、数据相似性和预测能力的度量方面始终优于最先进的基准。
在对抗上下文中可解释的人工智能
人工智能（AI）方法是现代世界不可或缺的一部分。如今，每个与智能手机互动的人都与AI接触（Herget，2024）（Wired Insider，2021）。 自从大型语言模型（LLMS）（CF（BSI，2024a）易于获得BSI的评论）以来，公众对AI存在的意识已广泛传播。 但是，自引入LLM之前，AI算法支持或自动执行决策过程。 Propublica的报告，即预测模型用于确定美国犯罪嫌疑人的累犯风险，受到了很大的关注（Angwin等，2016）。 在金融领域，基于AI的预测模型用于支持贷款申请的决定或预测金融市场的发展（Aziz等，2022）。 此外，使用基于AI的决策支持系统进行诊断和治疗患者的治疗，目前已在医学中进行了研究或部分实施（社论，2024年）（皇家放射学院，等，2023）（BSI，2024年）。 这些是高度敏感的领域，在这种领域中，错误的决定可能会对公民造成社会，法律，财务或健康损害。如今，每个与智能手机互动的人都与AI接触（Herget，2024）（Wired Insider，2021）。自从大型语言模型（LLMS）（CF（BSI，2024a）易于获得BSI的评论）以来，公众对AI存在的意识已广泛传播。但是，自引入LLM之前，AI算法支持或自动执行决策过程。Propublica的报告，即预测模型用于确定美国犯罪嫌疑人的累犯风险，受到了很大的关注（Angwin等，2016）。在金融领域，基于AI的预测模型用于支持贷款申请的决定或预测金融市场的发展（Aziz等，2022）。此外，使用基于AI的决策支持系统进行诊断和治疗患者的治疗，目前已在医学中进行了研究或部分实施（社论，2024年）（皇家放射学院，等，2023）（BSI，2024年）。这些是高度敏感的领域，在这种领域中，错误的决定可能会对公民造成社会，法律，财务或健康损害。
医学成像中的对抗神经网络...
摘要 — 人工智能 (AI) 的最新进展促成了医学成像的范式转变，尤其是彻底改变了脑成像领域。本文系统地研究了深度学习（AI 的一个主要分支）与脑图像语义分割的整合。语义分割是描绘离散解剖结构和识别病理标记的必不可少的技术，对于诊断复杂的神经系统疾病至关重要。从历史上看，对放射科医生手动解释的依赖，虽然其准确性值得注意，但却受到固有的主观性和观察者间差异的困扰。随着成像数据的指数级增长，这种限制变得更加明显，传统方法难以有效处理这些数据。为了应对这些挑战，本研究介绍了对抗神经网络的应用，这是一种新颖的 AI 方法，它不仅可以自动化而且可以改进语义分割过程。通过利用这些先进的神经网络，我们的方法提高了诊断输出的精度，减少了人为错误并提高了成像数据分析的吞吐量。论文详细讨论了对抗神经网络如何促进更稳健、更客观、更可扩展的解决方案，从而显著提高神经系统评估的诊断准确性。这一探索凸显了人工智能对医学成像的变革性影响，为神经病学的未来研究和临床实践树立了新的标杆。
生理计算中的对抗攻击和防御
摘要：生理计算将人类生理数据实时用作系统输入。它包括或与脑部计算机界面，有效的计算，自适应自动化，健康信息学和生理学基础生物识别的重叠或重叠。生理计算增加了从用户到计算机的通信带宽，但也受到各种类型的对抗攻击，攻击者故意操纵培训和 /或测试示例，以劫持机器学习算法的输出，从而导致可能的用户混淆，挫败感，受伤，甚至死亡。但是，生理计算系统的脆弱性尚未得到足够的关注，并且对他们的对抗性攻击没有全面的评论。这项研究通过对生理计算的主要研究领域，不同类型的对抗性攻击及其对生理综合的应用以及相应的防御策略提供了系统的综述。我们希望这篇评论将吸引有关生理计算系统脆弱性的更多研究兴趣，更重要的是，防御策略使其更安全。
生成对抗网络的游戏理论模型
摘要生成对抗网络（GAN）最近在AI社区引起了很大的关注，因为它们能够生成与真实数据相似的高质量数据的高质量数据。从根本上讲，GAN是以对抗性方式训练的两个神经网络之间的游戏，以达到零和NASH平衡状况。尽管在过去几年中，甘斯取得了进步，但仍有一些问题要解决。本文回顾了有关GAN的游戏理论方面的文献，并介绍了游戏理论模型如何应对生成模型的特定挑战并改善GAN的性能。我们首先提出一些初步，包括基本的GAN模型和一些游戏理论背景。然后，我们提出了分类法，将最新解决方案列为三个主要类别：修改后的游戏模型，修改后的体系结构和修改后的学习方法。分类是基于对基本GAN模型的修改，通过文献中提出的游戏理论方法。然后，我们探讨每个类别的目标，并讨论每个类别中的最新作品。最后，我们讨论了该领域的剩余挑战，并提出了未来的研究方向。
用于历史数据的生成对抗网络...
ptarun@ieee.org摘要半导体制造业在很大程度上取决于历史数据以进行过程优化，预测性建模和数字双胞胎创建。但是，由于设备升级，过程更改和有限的数据收集等各种因素，获得全面的历史数据集可能具有挑战性。生成的对抗网络（GAN）已通过生成与现实世界分布的合成数据，成为对此问题的有希望的解决方案。这项研究探讨了gan在半导体制造设施中生成历史数据的应用。我们讨论了数据质量的重要性，建模复杂的Fab操作中的挑战以及维护数据隐私的需求。我们还检查了适用于时间序列数据生成的专业gan体系结构，用于处理不同数据类型的多模式gans以及用于捕获设备，过程和范围范围范围指标之间关系的层次结构gan。还讨论了GAN生成数据在FAB模拟，预测性维护和过程优化中的培训方法，评估指标以及潜在的应用。此外，我们解决了有关综合数据，潜在偏见和计算要求的可靠性的担忧。最后，我们重点介绍了未来的研究方向，包括将gan与其他AI技术集成在一起，以及在整个Fab设施中创建数字双胞胎的可能性。虽然仍然存在挑战，但GAN提出了一种有希望的途径，可以通过改进的预测性建模和数字化双胞胎创建来增强半导体制造。关键字：半导体制造，生成对抗网络（GAN），历史数据，合成数据生成，预测性建模，数字双胞胎，层次模型，工厂模拟中，半导体制造行业在很大程度上依赖于历史数据，以优化历史数据，并提高产量，并维持质量控制[1]。这些数据对于开发预测模型，识别趋势并就生产参数做出明智的决策至关重要[2]。但是，获得全面的历史数据可能具有挑战性，因为过去的设备升级，过程更改或有限的数据收集等各种因素。有限或缺失的历史数据为半导体制造商带来了重大障碍。没有足够的数据，很难训练准确的机器学习模型，执行强大的统计分析或建立可靠的基准进行绩效评估。缺乏数据会阻碍过程
生物启发的对抗性鲁棒性的机制
尚未证明卷积神经网络在合理的计算和性能成本下对对抗性扰动非常强大。灵长类动物的视觉腹流似乎对视觉刺激中的小扰动是可靠的，但是引起这种强大感知的基本机制尚不清楚。在这项工作中，我们研究了两个生物学上合理的机制在对抗鲁棒性中的作用。我们证明，灵长类动物视网膜进行的非均匀采样以及在每个偏心率下具有一系列接受型尺寸的多个接受场的存在，可以改善神经网络对小型对抗性扰动的稳健性。我们验证了这两种机制不会遭受梯度混淆，并通过消融研究研究了它们对对抗性鲁棒性的贡献。
季度对抗威胁报告 - Meta
1 本节概述的针对新出现的危害的威胁破坏计划是由 Meta 的一个多学科团队开发和启动的，其中包括领导这项工作的 Artemis Seaford 和 Alberto Fittarelli。