HDTest

HDTest：受大脑启发的超维计算的差分模糊测试

摘要 — 受脑启发的超维计算 (HDC) 是一种新兴的计算范式，它模仿大脑认知并利用具有完全分布式全息表示和（伪）随机性的超维向量。与深度神经网络 (DNN) 等其他机器学习 (ML) 方法相比，HDC 具有高能效、低延迟和一次性学习等优势，使其成为广泛应用的有前途的替代候选者。然而，HDC 模型的可靠性和稳健性尚未得到探索。在本文中，我们设计、实现和评估 HDTest 以通过在罕见输入下自动暴露意外或不正确的行为来测试 HDC 模型。HDTest 的核心思想基于引导式差分模糊测试。在 HDC 中查询超向量和参考超向量之间的距离的引导下，HDTest 不断变异原始输入以生成可能触发 HDC 模型不正确行为的新输入。与传统的 ML 测试方法相比，HDTest 不需要手动标记原始输入。以手写数字分类为例，我们表明 HDTest 可以生成数千个对抗性输入，这些输入的干扰可以忽略不计，可以成功欺骗 HDC 模型。平均而言，HDTest 在一台商用计算机上运行一分钟内可以生成大约 400 个对抗性输入。最后，通过使用 HDTest 生成的输入重新训练 HDC 模型，我们可以增强 HDC 模型的稳健性。据我们所知，本文首次尝试系统地测试这种新兴的受大脑启发的计算模型。