XiaoMi-AI文件搜索系统
World File Search SystemTrojans
内部邪恶：通过休眠硬件Trojans的机器学习后门
摘要 - 后门对机器学习构成了严重威胁，因为它们会损害安全系统的完整性，例如自动驾驶汽车。虽然已经提出了不同的防御来解决这一威胁，但他们都依靠这样的假设：硬件加速器执行学习模型是信任的。本文挑战了这一假设，并研究了完全存在于这样的加速器中的后门攻击。在硬件之外，学习模型和软件都没有被操纵，以使当前的防御能力失败。作为硬件加速器上的内存有限，我们使用的最小后门仅通过几个模型参数偏离原始模型。为了安装后门，我们开发了一个硬件特洛伊木马，该木马会处于休眠状态，直到在现场部署后对其进行编程。可以使用最小的后门来配置特洛伊木马，并仅在处理目标模型时执行参数替换。我们通过将硬件特洛伊木马植入商用机器学习加速器中，并用最小的后门来证明攻击的可行性，以使其对交通符号识别系统进行编程。后门仅影响30个模型参数（0.069％），后门触发器覆盖了输入图像的6.25％，但是一旦输入包含后门触发器，它就可以可靠地操纵识别。我们的攻击仅将加速器的电路大小扩大了0.24％，并且不会增加运行时，几乎不可能进行检测。鉴于分布式硬件制造过程，我们的工作指出了机器学习中的新威胁，该威胁目前避免了安全机制。索引术语 - 硬件木马，机器学习后门。
设计用于逃避基于机器学习的硬件木马检测的人工智能木马
摘要 — 全球化的半导体供应链大大增加了片上系统 (SoC) 设计暴露于恶意植入物（俗称硬件木马）的风险。传统的基于模拟的验证不适合检测具有极其罕见触发条件的精心制作的硬件木马。虽然基于机器学习 (ML) 的木马检测方法因其可扩展性和检测准确性而很有前景，但基于 ML 的方法本身容易受到木马攻击。在本文中，我们提出了一种针对基于 ML 的木马检测算法的强大后门攻击，以证明这一严重漏洞。所提出的框架能够设计一个 AI 木马并将其植入 ML 模型中，该模型可以通过特定输入触发。实验结果表明，所提出的 AI 木马可以绕过最先进的防御算法。此外，我们的方法提供了一种快速且经济高效的解决方案，可实现 100% 的攻击成功率，其性能明显优于基于对抗性攻击的最先进的方法。