摘要:在未来十年内,为了应对高度互联和数字化的世界所产生的大量信息,对自动化、智能数据处理和预处理的需求预计将会增加。在过去的几十年里,现代计算机网络、基础设施和数字设备的复杂性和互联性都在增长。保护这些资产的网络安全人员面临着越来越多的攻击面和不断改进的攻击模式。为了管理这一点,网络防御方法开始依赖于支持人类工作的自动化和(人工智能)。然而,机器学习 (ML) 和人工智能 (AI) 支持的方法不仅已集成到网络监控和端点安全产品中,而且几乎无处不在涉及持续监控、复杂或大量数据的任何应用中。智能 IDS、自动化网络防御、网络监控和监视以及安全软件开发和编排都是依赖 ML 和自动化的资产的例子。由于这些应用对社会的重要性,恶意行为者对这些应用非常感兴趣。此外,ML 和 AI 方法还用于数字助理、自动驾驶汽车、人脸识别应用等所使用的视听系统中。已经报道了针对视听系统 AI 的成功攻击媒介。这些攻击范围从需要很少的技术知识到劫持底层 AI 的复杂攻击。