详细内容或原文请订阅后点击阅览

Nvidia Nemotron Super 49b和Nano 8B推理模型现已在Amazon Bedrock Marketplace和Amazon Sagemaker Jumpstart

2025年6月11日 12:00 33 Comments
X Twitter Instagram Mail

Llama 3.3 Nemotron Super 49b V1 AndlAma 3.1 Nemotron Nano 8b V1现在可以在Amazon Bedrock Marketplace和Amazon Sagemaker Jumpstart中获得。现在，您可以在此发布中，您可以部署Nvidia的Newewest推理模型来构建，实验，实验性地逐步扩展您的生成ai aws aws aws aws aws。

来源:亚马逊云科技 _机器学习
这篇文章与Nvidia的Eliuth Triana Isaza，Abhishek Sawarkar和Abdullahi Olaoye共同编写。 通过此次发布，您现在可以部署NVIDIA的最新推理模型来构建，实验和负责任地扩展您的生成性AI想法。在这篇文章中，我们演示了如何在Amazon Bedrock Marketplace和Sagemaker umpstart和Sagemaker umpstart和Sagemaker上开始这些模型。 EC2），Amazon Elastic Kubernetes Service（Amazon EKS）和Amazon Sagemaker AI，以使生成AI模型大规模地部署。作为AWS Marketplace可用的NVIDIA AI Enterprise的一部分，Nvidia Nim是一组易于使用的微服务，旨在加速生成AI的部署。这些预建的容器支持从开源社区模型到NVIDIA AI基金会和定制模型的广泛生成的AI模型。使用单个命令部署NIM微服务，以便于使用行业标准API和几行代码，或在SageMaker JumpStart Console中使用一些操作，以轻松整合到生成AI应用程序中。 NIM设计为促进无缝生成的AI推断，NIM确保可以在任何地方部署生成AI应用程序。 V1LLAMA-3.3-纽马斯 - 苏珀-49b-v1是LLM，是Meta Llama-3.3-70B-Instruct（参考模型）的衍生物。这是一个推理模型，经过培训，用于推理，人类聊天偏好和任务执行，例如检索功能的生成（RAG）和工具调用。模型
Nvidia NIM 生成 Sagemaker 参考模型 NVIDIA 功能的 使用 模型的 使用的 负责任 行业标准 Amazon 模型 应用程序 推理模型 部署 支持 可用的 聊天 服务 大规模 AI 用于