详细内容或原文请订阅后点击阅览
使用 Amazon Bedrock 自定义模型导入部署 DeepSeek-R1 精简版 Llama 模型
在本文中,我们将演示如何使用 Amazon Bedrock 自定义模型导入来部署精简版的 DeepSeek-R1 模型。我们专注于导入当前支持的变体 DeepSeek-R1-Distill-Llama-8B 和 DeepSeek-R1-Distill-Llama-70B,它们在性能和资源效率之间实现了最佳平衡。
来源:亚马逊云科技 _机器学习开放基础模型 (FM) 已成为生成式 AI 创新的基石,使组织能够构建和定制 AI 应用程序,同时控制其成本和部署策略。通过提供高质量、公开可用的模型,AI 社区促进了快速迭代、知识共享和具有成本效益的解决方案,使开发人员和最终用户都受益。DeepSeek AI 是一家专注于推进 AI 技术的研究公司,已成为该生态系统的重要贡献者。他们的 DeepSeek-R1 模型代表了一系列大型语言模型 (LLM),旨在处理从代码生成到一般推理等各种任务,同时保持竞争性性能和效率。
生成式 AI DeepSeek AI DeepSeek-R1Amazon Bedrock Custom Model Import 支持通过单个无服务器统一 API 导入和使用您的自定义模型以及现有的 FM。您可以按需访问导入的自定义模型,而无需管理底层基础设施。通过将您支持的自定义模型与本机 Bedrock 工具和功能(如知识库、Guardrails 和 Agents)集成,加速您的生成式 AI 应用程序开发。
Amazon Bedrock 自定义模型导入在本文中,我们将探讨如何使用 Amazon Bedrock 自定义模型导入部署精简版 DeepSeek-R1,使希望以有效的成本在安全且可扩展的 AWS 基础设施中使用最先进 AI 功能的组织能够使用它们。
DeepSeek-R1 精简版本
Llama-3.1-8B Llama-3.3-70B-Instruct解决方案概述
Amazon Simple Storage Service Amazon SageMaker AI在此工作流程中,存储在 Amazon S3 中的模型工件将导入 Amazon Bedrock,然后自动处理模型的部署和扩展。这种无服务器方法消除了对基础设施管理的需求,同时提供了企业级安全性和可扩展性。
以下笔记本