掩模关键词检索结果

大语模型的指令遵循修剪

Instruction-Following Pruning for Large Language Models

随着大语言模型(LLM)的快速缩放,结构化修剪已成为一种广泛使用的技术,可以从较大的模型中学习高效,较小的模型,与SCRATCH类似尺寸的模型相比,较大的模型具有出色的性能。在本文中,我们超越了为模型确定固定修剪掩模的传统静态修剪方法,并提出了一种动态的结构化修剪方法。在我们的方法中,修剪面罩是输入依赖性的,并且根据用户指令中描述的信息动态调整。我们的方法称为…