详细内容或原文请订阅后点击阅览

使用生成式 AI 和上下文微调生成特定于金融行业的见解

2024年11月12日 17:41 33 Comments
X Twitter Instagram Mail

在这篇博文中，我们演示了使用行业特定语言生成表格数据的准确且相关的分析的提示工程技术。这是通过在提示中提供具有特征和标签的上下文样本数据中的大型语言模型 (LLM) 来实现的。结果类似于微调 LLM，但没有微调模型的复杂性。

来源:亚马逊云科技 _机器学习

在这篇博文中，我们展示了使用行业特定语言生成表格数据的准确且相关的分析的提示工程技术。这是通过在提示中提供具有特征和标签的上下文样本数据中的大型语言模型 (LLM) 来实现的。结果类似于微调 LLM，但没有微调模型的复杂性。我们使用了一种基于白皮书《从监督到生成：使用大型语言模型进行表格深度学习的新范式》的生成表格学习 (GTL) 方法，并使用 Amazon SageMaker 笔记本中完全托管的 JupyterLab 笔记本与托管在 Amazon SageMaker 或 Amazon Bedrock 中的 Meta Llama 模型进行交互，展示了 GTL 的优势。您可以在 aws-samples 上查看其他参考笔记本，了解如何使用托管在 Amazon Bedrock 上的 Meta 的 Llama 模型。

从监督到生成：具有大型语言模型的表格深度学习的新范式 Amazon SageMaker 笔记本 Amazon SageMaker Amazon Bedrock aws-samples

先决条件

以下部分介绍了此演示所需的先决条件。您可以从 AWS 管理控制台或使用最新版本的 AWS 命令​​行界面 (AWS CLI) 执行这些步骤。

AWS 管理控制台 AWS 命令​​行界面
  • 访问托管在 Amazon SageMaker 或 Amazon Bedrock 上的 LLM（例如 Meta 的 Llama 模型）
  • 使用 JupyterLab 笔记本和必要的 Python 库和包配置 Amazon SageMaker 域配置，以便与 LLM 交互
  • 来自金融行业的示例表格数据集被格式化为结构化数据（我们使用来自 Kaggle 的交易所交易基金数据），可使用 Amazon Athena 等 SQL 引擎进行查询。
  • 了解生成式 AI 提示工程技术，为 LLM 提供相关背景和样本数据
  • 能够评估和比较 LLM 生成的输出的准确性和与分析任务的相关性

    • 金融行业数据

    Kaggle 注意 注意 注意
    进行 先决条件 数据 生成 Llama 控制台 复杂性 使用 交易所 准确性 金融 笔记本 语言 行业 注意 AWS Bedrock 白皮书 LLM 数据集 Amazon 表格 SageMaker Meta 相关性 模型