机构名称：
¥ 1.0
图像分类模型所示的对抗性规避攻击。彻底了解此类攻击对于确保关键 AI 任务的安全性和稳健性至关重要。然而，大多数规避攻击很难针对大多数 AI 系统部署，因为它们只专注于图像域，只有很少的约束。与实践中使用的许多其他 AI 系统输入类型不同，图像由同质、数值、连续和独立的特征组成。此外，某些输入类型包括额外的语义和功能约束，必须遵守这些约束才能生成真实的对抗性输入。在这项工作中，我们提出了一个新框架，使对抗性输入的生成不受输入类型和任务域的限制。给定一个输入和一组预定义的输入转换，我们的框架会发现一系列转换，这些转换会产生语义正确且功能齐全的对抗性输入。我们在具有各种输入表示的几个不同的机器学习任务上展示了我们的方法的通用性。我们还展示了生成对抗性示例的重要性，因为它们可以部署缓解技术。
URET：通用鲁棒性评估工具包（用于规避）
主要关键词
相关文件推荐
