详细内容或原文请订阅后点击阅览
新手微调说明（预训练模型如何学习新技能）
您不需要博士学位就能理解微调。本文解释了预训练模型如何通过微调来学习新技能。
来源:KDnuggets简介
这篇文章是我的菜鸟系列的一部分，我们写了人们在 Google 上搜索最多但可能由于复杂的数学和其他一切而不太理解的问题。因此，如果您在这里，您可能听说过在大型语言模型 (LLM) 背景下的某个地方进行微调。这个概念在传统机器学习中已经存在多年，但在法学硕士之后开始流行，因为现在每个人都可以访问这些巨大的、通用的预训练模型，你可以根据自己的任务、自己的需求和自己的语气进行调整。这种调整行为基本上称为微调，现在是人们使用法学硕士最常见的事情之一。但是，除非您了解前面的步骤，即“预训练”，否则您无法理解它。微调实际上是“调整”已经存在的东西，而这个“东西”是预先训练的模型。所以，让我们尝试分解这些概念，以便将来，如果有人问你，你就知道了。
什么是预训练？
如果你从一个新创建的模型开始，该模型有数百万或数十亿个分配了随机数的参数，并且你尝试直接教它一个非常具体的任务 - 比方说如何将电影分类为不同的类别 - 它必须同时从头开始学习整个英语，这是不可能的，尤其是从你可能拥有的有限数据集来看。这就像在幼儿能够理解语言或基本科学概念之前教他们生物学一样。
你几乎从不自己预训练任何东西。你下载最终的结果——像 Llama、Mistral 或 Qwen 这样的预训练模型——然后从那里开始。这给我们带来了微调的实际主题。
什么是微调？
微调是如何完成的？
我们讨论了下一个标记预测和预训练的过程。现在，让我们看一下微调循环。