详细内容或原文请订阅后点击阅览
压缩和比较：在 ML 模型压缩实验中交互式评估效率和行为
*平等贡献者为了在设备上部署机器学习模型，从业者使用压缩算法来缩小和加速模型，同时保持其高质量的输出。实践中压缩的一个关键方面是模型比较，包括跟踪许多压缩实验、识别模型行为的细微变化以及协商复杂的准确性-效率权衡。然而，现有的压缩工具对比较的支持很差，导致在不相交的工具中进行繁琐且有时不完整的分析。为了支持现实世界的比较工作流程，我们...
来源:Apple机器学习研究*平等贡献者
为了在设备上部署机器学习模型，从业者使用压缩算法来缩小和加快模型，同时保持其高质量的输出。实践中压缩的一个关键方面是模型比较，包括跟踪许多压缩实验，确定模型行为的细微变化以及协商复杂的准确性效率折衷。但是，现有的压缩工具对比较很差，从而导致乏味，有时甚至是不完整的分析，分布在脱节工具中。为了支持现实世界的比较工作流程，我们开发了一种称为“压缩和比较”的交互式视觉系统。在单个接口中，通过可视化压缩模型之间的出处关系并通过比较模型的预测，权重和激活来揭示压缩诱导的行为变化，从而压缩和比较表面有希望的压缩策略。我们演示了压缩和比较如何通过两个案例研究支持常见的压缩分析任务，对生成语言模型的压缩失败并识别图像分类模型中的压缩伪像。我们在用户研究中进一步评估了压缩和比较与八位压缩专家，这说明了其为压缩工作流提供结构的潜力，帮助从业者建立有关压缩的直觉，并鼓励对压缩对模型行为的影响进行彻底分析。通过这些评估，我们确定了未来的视觉分析工具应考虑，压缩和比较可视化的可视化挑战，这些挑战可能会推广到更广泛的模型比较任务。