获取独家产品信息,尽享促销优惠!立即订阅,不容错过
* 限···时··优惠
Instruction-Following Pruning for Large Language Models
随着大语言模型(LLM)的快速缩放,结构化修剪已成为一种广泛使用的技术,可以从较大的模型中学习高效,较小的模型,与SCRATCH类似尺寸的模型相比,较大的模型具有出色的性能。在本文中,我们超越了为模型确定固定修剪掩模的传统静态修剪方法,并提出了一种动态的结构化修剪方法。在我们的方法中,修剪面罩是输入依赖性的,并且根据用户指令中描述的信息动态调整。我们的方法称为…