机构名称：
¥ 6.0
在过去五年中，人工智能变得越来越流行，甚至催生了国家人工智能战略。在如此广泛的使用下，我们了解人工智能安全面临的威胁至关重要。从历史上看，对人工智能系统安全性的研究主要集中在训练算法中的漏洞（例如对抗性机器学习）或训练过程中的漏洞（例如数据中毒攻击）。然而，关于人工智能系统运行平台中的漏洞如何影响分类结果的研究并不多。在本文中，我们研究平台漏洞对人工智能系统的影响。我们将工作分为两个主要部分：一个具体的概念验证攻击，以证明平台攻击的可行性和影响；以及一个更高级别的定性分析，以推断大型漏洞类别对人工智能系统的影响。我们演示了对 Microsoft Cognitive Toolkit 的攻击，该攻击利用第三方库中的内存安全漏洞导致有针对性的错误分类。此外，我们还提供了系统漏洞的一般分类及其对人工智能系统的具体影响。
平台漏洞对人工智能系统的影响
主要关键词
相关文件推荐
