Rune关键词检索结果

IDEA Prune:生成式语言模型预训练中的一体化放大与剪枝流程

IDEA Prune: An Integrated Enlarge-and-Prune Pipeline in Generative Language Model Pretraining

大型语言模型的最新进展加剧了在有限推理预算内对高效可部署模型的需求。与从头开始训练目标规模模型相比,结构化剪枝管道在令牌效率方面显示出潜力。