详细内容或原文请订阅后点击阅览
Falcon 3 模型现已在 Amazon SageMaker JumpStart 中可用
我们很高兴地宣布，TII 的 Falcon 3 系列模型已在 Amazon SageMaker JumpStart 中推出。在本文中，我们将探讨如何在 Amazon SageMaker AI 上高效部署此模型。
来源:亚马逊云科技 _机器学习今天，我们很高兴地宣布，TII 的 Falcon 3 模型系列现已在 Amazon SageMaker JumpStart 中推出。在本文中，我们将探讨如何在 Amazon SageMaker AI 上高效部署此模型。
Amazon SageMaker JumpStart Amazon SageMaker AIFalcon 3 模型系列概述
Falcon 3 系列由阿布扎比技术创新研究所 (TII) 开发，代表了开源语言模型的重大进步。该系列包括五个基础模型，参数范围从 10 亿到 100 亿，重点是增强科学、数学和编码能力。该系列包括 Falcon3-1B-Base、Falcon3-3B-Base、Falcon3-Mamba-7B-Base、Falcon3-7B-Base 和 Falcon3-10B-Base 及其指令变体。
这些模型展示了诸多创新，例如高效的预训练技术、扩展以改进推理能力以及知识提炼，以便在较小的模型中实现更好的性能。值得注意的是，Falcon3-10B-Base 模型在零样本和少样本任务中实现了 130 亿个参数以下模型的最优性能。Falcon 3 系列还包括各种微调版本（如 Instruct 模型），并支持不同的量化格式，使其适用于各种应用。
目前，SageMaker JumpStart 提供 Falcon3-3B、Falcon3-7B 和 Falcon3-10B 的基本版本，以及它们相应的 instruct 变体，以及 Falcon3-1B-Instruct。
开始使用 SageMaker JumpStart
SageMaker JumpStart 是一个机器学习 (ML) 中心，可帮助加速您的 ML 之旅。使用 SageMaker JumpStart，您可以评估、比较和选择预先训练的基础模型 (FM)，包括 Falcon 3 模型。这些模型完全可以根据您的数据用例进行自定义。
使用 SageMaker JumpStart UI 部署 Falcon 3
完成以下步骤以通过 JumpStart UI 部署 Falcon 3：