在移动设备上处理视觉数据有许多应用,例如应急响应和跟踪。最先进的计算机视觉技术依赖于大型深度神经网络 (DNN),而这些网络通常耗电量太大,无法部署在资源受限的边缘设备上。许多技术通过牺牲准确性来提高 DNN 的效率。然而,这些技术的准确性和效率无法适应具有不同硬件约束和准确性要求的各种边缘应用。本文表明,一种称为分层 DNN 的最新高效树型 DNN 架构可以转换为基于有向无环图 (DAG) 的架构,以提供可调的准确性-效率权衡选项。我们提出了一种系统方法来识别必须添加的连接以将树转换为 DAG 来提高准确性。我们在流行的边缘设备上进行了实验,并表明增加 DAG 的连接性可以将准确性提高到现有高精度技术的 1% 以内。我们的方法比高精度技术所需的内存减少了 93%,能耗减少了 43%,操作减少了 49%,从而提供了更高的精度和效率。
主要关键词