机构名称：
¥ 3.0
人工智能容易受到网络攻击。机器学习系统——现代人工智能的核心——充满了漏洞。利用这些漏洞的攻击代码已经广泛传播，而防御技术有限且难以跟上。机器学习漏洞允许黑客操纵机器学习系统的完整性（导致它们犯错）、机密性（导致它们泄露信息）和可用性（导致它们停止运行）。这些漏洞可能造成新型隐私风险、系统性不公正（如内在偏见）甚至身体伤害。机器学习系统的开发人员（尤其是在国家安全背景下）必须学习如何管理与这些系统相关的不可避免的风险。他们应该预料到对手会善于发现和利用弱点。政策制定者必须决定何时可以安全部署机器学习系统以及何时风险太大。对机器学习系统的攻击不同于传统的黑客攻击，因此需要新的保护和响应。例如，机器学习漏洞通常无法像传统软件那样修补，从而为攻击者留下了持久的漏洞。更糟糕的是，其中一些漏洞几乎不需要或根本不需要访问受害者的系统或网络，这为攻击者提供了更多机会，并降低了防御者检测和保护自己免受攻击的能力。因此，本文提出了四个发现供政策制定者考虑：
黑客攻击人工智能
主要关键词
相关文件推荐
