详细内容或原文请订阅后点击阅览
机器学习中的对抗性攻击：它们是什么以及如何防御它们
为什么重要：如何防御机器学习中的对抗性攻击？让我们了解如何规避 ML 中的对抗性攻击。
来源:人工智能+简介
简介机器学习已进入金融、医疗保健、零售、自动驾驶、交通等许多行业。机器学习使计算机能够无需明确编程即可学习。这使计算机能够根据数据中的模式进行准确预测。机器学习过程涉及将数据输入模型（算法）。该模型识别数据模式并做出预测。最初，训练过程涉及向模型输入训练数据，然后模型根据该数据进行预测。然后对模型进行调整，直到我们获得所需的准确度。然后将新数据输入模型以测试所需的准确度。对模型进行重新训练，直到模型给出所需的结果。
对抗性机器学习攻击是一种试图用虚假或欺骗性数据欺骗深度学习模型的技术，目的是使模型做出不准确的预测。对手的目标是使模型发生故障。
机器学习中的对抗性攻击及其防御方法
机器学习中的对抗性攻击及其防御方法机器学习的成功归功于将大数据集输入分类器（模型）进行预测。通过最小化一个函数来训练分类器，该函数测量此数据的误差。通过调整分类器的参数，可以优化此函数，从而最小化对训练数据所做的预测的误差。
对抗性攻击利用相同的底层学习机制，但旨在最大化输入数据的错误概率。由于训练期间使用的数据不准确或歪曲，或者对已训练的模型使用恶意设计的数据，因此它成为可能。
Arxiv.org “神经网络的有趣特性”，展示了对抗性攻击神经网络的本质。 .