机构名称：
¥ 1.0
网络压缩由于能够减少推理过程中的内存和计算成本而得到了广泛的研究。然而，以前的方法很少处理残差连接、组/深度卷积和特征金字塔网络等复杂结构，其中多层的通道是耦合的，需要同时进行修剪。在本文中，我们提出了一种通用的通道修剪方法，可应用于各种复杂结构。特别地，我们提出了一种层分组算法来自动查找耦合通道。然后，我们基于 Fisher 信息推导出一个统一的度量来评估单个通道和耦合通道的重要性。此外，我们发现 GPU 上的推理加速与内存 2 的减少而不是 FLOPs 的减少更相关，因此我们采用每个通道的内存减少来规范重要性。我们的方法可以用来修剪任何结构，包括具有耦合通道的结构。我们对各种骨干网络进行了广泛的实验，包括经典的 ResNet 和 ResNeXt、适合移动设备的 MobileNetV2 以及基于 NAS 的 RegNet，这些实验都针对尚未得到充分探索的图像分类和对象检测。实验结果验证了我们的方法可以有效地修剪复杂的网络，在不牺牲准确性的情况下提高推理速度。
用于实际网络压缩的组 Fisher 剪枝
主要关键词
相关文件推荐
