详细内容或原文请订阅后点击阅览
6常见的LLM自定义策略简要说明
从理论到实践：了解抹布，代理，微调和MORETHE后6个常见的LLM自定义策略简要解释了，首先出现在数据科学方面。
来源:走向数据科学为什么要自定义LLM？
为什么要自定义LLM？大型语言模型（LLMS）是根据自我监管的学习进行预训练的深度学习模型，需要大量的培训数据，培训时间和持有大量参数的资源。 LLM彻底改变了自然语言处理，尤其是在过去的两年中，在理解和产生类似人类的文本方面表现出了显着的能力。但是，这些通用模型的开箱即用绩效可能并不总是满足特定的业务需求或领域需求。仅LLMS不能回答依赖专有公司数据或闭幕设置的问题，从而使其在其应用程序中相对通用。由于大量的培训数据和资源的需求，从头到尾的训练LLM模型在很大程度上是不可行的。因此，近年来开发了广泛的LLM自定义策略，以调整需要专业知识的各种情况的模型。
llms自定义策略可以大致分为两种类型：
- 使用冷冻模型：这些技术不需要更新模型参数，通常是通过文本学习或及时工程来完成的。它们具有成本效益，因为它们改变了模型的行为而不会产生广泛的培训成本，因此在该行业和学术上都通过每天发表的新研究论文进行了广泛的探索。建立模型参数：这是一种相对较密集的方法，需要使用为预期目的设计设计的定制数据集对预先培训的LLM进行调整。这包括流行技术，例如从人类反馈（RLHF）中进行微调和加强学习。
视频