摘要本章探讨了机器学习中鲁棒性的基础概念(ML)及其在建立人工智能(AI)系统中的信任度中不可或缺的作用。讨论始于对鲁棒性的详细定义,将其描述为ML模型在各种和意外的环境条件下保持稳定性能的能力。ml鲁棒性是通过多种镜头解剖的:它与普遍性的互补性;它的地位是值得信赖的AI的要求;它的对抗性与非对抗性方面;它的定量指标;及其指标,例如可重复性和解释性。本章深入研究了障碍鲁棒性的因素,例如数据偏见,模型复杂性和未育种ML管道的陷阱。它从广泛的角度来调查鲁棒性评估的关键技术,包括对抗性攻击,包括数字和物理领域。它涵盖了深度学习(DL)软件测试方法的非对抗性数据变化和细微差别。从以数据为中心的方法开始,例如以数据为中心的方法,探索巩固鲁棒性的改善策略正在发展。 进一步检查包括各种以模型为中心的方法,例如转移学习,对抗训练和随机平滑。 最后,讨论了训练后方法,包括集合技术,修剪和模型维修,作为成本效果的策略出现,以使模型对不可预测的模型更具弹性。探索巩固鲁棒性的改善策略正在发展。进一步检查包括各种以模型为中心的方法,例如转移学习,对抗训练和随机平滑。最后,讨论了训练后方法,包括集合技术,修剪和模型维修,作为成本效果的策略出现,以使模型对不可预测的模型更具弹性。本章强调了通过现有的估算和实现ML鲁棒性的持续挑战和局限性。它为这一关键概念的未来研究提供了见解和方向,这是值得信赖的AI系统的先决条件。
摘要 - 自主驾驶系统(ADS)测试对于ADS开发至关重要,目前的主要重点是安全性。然而,对非安全性能的评估,尤其是广告做出最佳决策并为自动驾驶汽车(AV)提供最佳途径的能力,对于确保智力和降低AV风险的智力也至关重要。当前,几乎没有工作来评估ADSS路径规划决策(PPD)的鲁棒性,即,在环境中无关紧要的变化后,广告是否可以维持最佳的PPD。关键挑战包括缺乏评估PPD最优性的清晰牙齿,以及寻找导致非最佳PPD的场景的困难。为了填补这一空白,在本文中,我们专注于评估ADSS PPD的鲁棒性,并提出了第一种方法,分区者,用于生成非最佳决策方案(NODSS),其中ADS不计划AVS的最佳路径。测试器包括三个主要组成部分:非侵入性突变,一致性检查和反馈。为了克服甲骨文挑战,设计了非侵入性突变以实施保守的修改,从而确保了在突变场景中保存原始的最佳路径。随后,通过比较原始场景和突变的场景中的驱动路径来应用一致性检查以确定非最佳PPD的存在。为了应对大型环境空间的挑战,我们设计了整合AV运动的空间和时间维度的反馈指标。这些指标对于有效地转向发射的产生至关重要。因此,分子可以通过生成新方案,然后在新方案中识别点头来生成点头。我们评估了开源和生产级广告Baidu Apollo上的分员。实验结果验证了分子在检测ADS的非最佳PPD中的有效性。它总共生成63.9个点头,而表现最佳的基线仅检测35.4个点头。
深度研究深度人工神经网络(DANN)的体系结构以提高其预测性能。但是,探索了丹恩的架构与噪声和对抗性攻击之间的稳健性之间的关系。我们调查了丹尼斯的鲁棒性与它们的基础图架构或结构之间的关系。这项研究:(1)首先使用图理论鲁棒性测量探索Danns架构的设计空间; (2)将图形转换为DANN体系结构,以训练/验证/测试各种图像分类任务; (3)探讨了训练有素的丹尼斯针对噪声和对抗性攻击的鲁棒性与通过图理论测量估计的基础体系结构的鲁棒性之间的鲁棒性之间的关系。我们表明,底层图的拓扑熵和olivier-Ricci曲率可以量化DANN的稳健性性能。上述关系对于复杂的任务和大型丹恩来说更牢固。我们的工作将使汽车和神经架构搜索社区能够探索强大而准确的Danns的设计空间。
摘要:在机器学习领域,确保对抗攻击的鲁棒性越来越重要。对抗性训练已成为强化模型免受此类漏洞的重要战略。该项目提供了对抗性训练及其在加强机器学习框架弹性中的关键作用的全面概述。我们深入研究了对抗训练的基本原理,阐明了其基本机制和理论基础。此外,我们调查了在对抗训练中使用的最新方法和技术,包括对抗性示例生成和培训方法。通过对最近的进步和经验发现进行彻底的研究,我们评估了对抗性训练在增强各种领域和应用跨机器学习模型的鲁棒性方面的有效性。此外,我们应对挑战并确定这个新兴领域的开放研究途径,为未来的发展奠定了旨在增强机器学习系统在现实世界情景中的安全性和可靠性的基础。通过阐明对抗性训练的复杂性及其对强大的机器学习的影响,本文有助于促进对维护人工智能不断发展的环境中的对抗性威胁至关重要的理解和应用。关键字:对抗性培训,鲁棒性,SGD,模型增强
●C。-C。 Kao,C. -S。 lu和C. -m。 Yu,“图像取证罢工:针对对抗贴片的防御”,2024 IEEE国际视觉通信与图像处理会议(VCIP),日本东京,日本,2024年,第2024页,pp。1-5,doi:10.1109/vcip63160.2024.10849849。
1 南开大学人工智能学院,天津 300350,中国;2 斯科尔科沃科学技术学院,莫斯科 121205,俄罗斯;3 杭州电子科技大学计算机学院,杭州 310018,中国;4 哥白尼大学信息学系,托伦 87-100,波兰;5 波兰科学院系统研究所,华沙 01-447,波兰;6 南开大学计算机学院,天津 300350,中国;7 阿根廷射电天文学研究所 IAR-CCT 拉普拉塔,CONICET / CIC-PBA / UNLP,Villa Elisa 1894,阿根廷;8 日本理化学研究所信息系统与网络安全总部计算工程应用部,和光市 351-0106,日本; 9 英国剑桥大学精神病学系,剑桥 CB2 8AH;10 西班牙加泰罗尼亚维多利亚中央大学数据与信号处理研究组,加泰罗尼亚 08500
尚未证明卷积神经网络在合理的计算和性能成本下对对抗性扰动非常强大。灵长类动物的视觉腹流似乎对视觉刺激中的小扰动是可靠的,但是引起这种强大感知的基本机制尚不清楚。在这项工作中,我们研究了两个生物学上合理的机制在对抗鲁棒性中的作用。我们证明,灵长类动物视网膜进行的非均匀采样以及在每个偏心率下具有一系列接受型尺寸的多个接受场的存在,可以改善神经网络对小型对抗性扰动的稳健性。我们验证了这两种机制不会遭受梯度混淆,并通过消融研究研究了它们对对抗性鲁棒性的贡献。
摘要 纠缠是量子信息处理的关键资源,因此需要在各种硬件平台上生成高保真度纠缠态的协议。虽然自旋链已被广泛研究以产生纠缠,但图结构也具有这种潜力;然而,只有几类图被用于这项特定任务。在本文中,我们将一种涉及两种不同耦合强度的特殊耦合方案应用于两个互连的 3×3 方图的图,使得它实际上包含三个缺陷。我们展示了这种结构如何生成贝尔态,其保真度取决于所选的耦合比。我们应用分区图论来降低图的维数,并表明,使用简化图或简化链,我们仍然可以模拟具有相同动态的相同协议。最后,我们研究了制造误差如何影响纠缠生成协议以及不同的等效结构如何受到影响,发现对于某些特定的耦合比,它们非常稳健。
为了应对及时的工程挑战,诸如Coop之类的方法通过直接从数据中学习最佳提示来自动化该过程。这减少了对手动调整的依赖,并可以提高模型对不同任务的适应性。在开放式识别挑战中,最近的研究表明,VLMS通过其有限查询集施加了封闭式假设。他们建议,简单地将查询设置扩展到包括更多类别并不能解决问题 - 实际上,由于错误分类和计算开销的增加,它可能会恶化性能(Miller等,2023)。为了减轻这些问题,已经提出了诸如纳入预测不确定性度量和专用的负嵌入等方法。这些方法旨在帮助模型识别输入何时不属于任何已知类别并适当处理此类案例
目录 _____________________________________________________________________ 3 表格列表 ___________________________________________________________ 6 图片列表 __________________________________________________________ 8 首字母缩略词 _____________________________________________________________ 12 符号 _____________________________________________________________ 15 摘要 ________________________________________________________ 18 概述 ___________________________________________________ 34 第 1 章:适用于快速模型的方法 ______________________________ 38