摘要 — 受大脑启发的超维 (HD) 计算是一种模拟高维空间中神经元活动的新型计算范式。HD 计算的第一步是将每个数据点映射到高维空间(例如 10,000)。这带来了几个问题。例如,数据量可能会激增,所有后续操作都需要在 D = 10,000 维中并行执行。先前的工作通过模型量化缓解了这个问题。然后可以将 HV 存储在比原始数据更小的空间中,并且可以使用较低位宽的操作来节省能源。然而,先前的工作将所有样本量化为相同的位宽。我们提出了 AdaptBit-HD,一种用于加速 HD 计算的自适应模型位宽架构。当可以使用更少的位来找到正确的类时,AdaptBit-HD 一次一位地对量化模型的位进行操作以节省能源。借助 AdaptBit-HD,我们可以在必要时利用所有位来实现高精度,并在设计对输出有信心时终止较低位的执行,从而实现高能效。我们还为 AdaptBit-HD 设计了一个端到端 FPGA 加速器。与 16 位模型相比,AdaptBit-HD 的能效提高了 14 倍;与二进制模型相比,AdaptBit-HD 的精度提高了 1.1%,与 16 位模型的精度相当。这表明 AdaptBit-HD 能够实现全精度模型的精度,同时具有二进制模型的能效。
主要关键词