使用 Amazon SageMaker Pipelines 的新可视化设计器自动微调 Llama 3.x 模型

在这篇文章中,我们将向您展示如何设置自动化的 LLM 自定义(微调)工作流程,以便 Meta 的 Llama 3.x 模型可以为金融应用程序提供高质量的 SEC 文件摘要。微调允许您配置 LLM 以在特定于域的任务上实现更好的性能。

来源:亚马逊云科技 _机器学习

现在,您可以使用Amazon Sagemaker管道的Visual Designer来创建一个端到端的工作流程,以训练,微调,评估,注册和部署生成AI模型。 SageMaker管道是用于基础模型操作(FMOPS)的无服务器工作流编排服务。它可以加速您从原型到生产的生成性AI旅程,因为您无需了解专门的工作流框架即可自动化模型开发或笔记本电脑执行。数据科学家和机器学习(ML)工程师使用管道来进行任务,例如大型语言模型(LLM)和预定的笔记本工作工作流程等任务。管道可以扩大规模以并行运行数以万计的工作流程,并根据您的工作负载自动缩小。

Amazon Sagemaker Pipelines 生成ai

无论您是新手,还是希望简化您的生成AI工作流程的经验丰富的用户,此分步帖子将演示如何使用Visual Designer来增强您的生产力并简化构建复杂的AI和机器学习(AI/ML)管道的过程。具体来说,您将学习如何:

Llama微调管道概述

Llama 3.X模型 sec文件

SEC文件数据集可通过Amazon Sagemaker JumpStart Buck公开获得。这是创建管道的步骤的概述。

Amazon Sagemaker Jumpstart
  • 使用SEC财务数据集中的SageMaker Jumpstart的微调A Meta Llama 3 8B模型。
  • 准备微调的美洲驼3 8B型号,以部署到萨吉人的推理。
  • 将微调的美洲拉玛3 8B型号部署到萨吉人推理。
  • 使用开源基础模型评估(FMEVAL)库评估微调模型的性能
  • 基础模型评估 SageMaker模型注册表

    先决条件

    要构建此解决方案,您需要以下先决条件:

  • AWS帐户将包含您所有的AWS资源。
  • 要求增加配额 管道 导出