详细内容或原文请订阅后点击阅览

Nemo Retriever Llama 3.2文本嵌入和重新固定NVIDIA NIM微服务现在在Amazon Sagemaker Jumpstart

2025年3月18日 20:00 33 Comments
X Twitter Instagram Mail

今天，我们很高兴地宣布，Nemo Retriever Llama3.2文本嵌入和重新启动NVIDIA NIM微服务可在Amazon Sagemaker Jumpstart中获得。通过此发布，您现在可以部署NVIDIA优化的重新骑行和嵌入模型来构建，实验和负责任地扩展您的生成AI想法。在这篇文章中，我们演示了如何在Sagemaker Jumpstart上开始这些模型。

来源:亚马逊云科技 _机器学习
今天，我们很高兴地宣布，Nemo Retriever Llama3.2文本嵌入和重新启动NVIDIA NIM微服务可在Amazon Sagemaker Jumpstart中获得。 With this launch, you can now deploy NVIDIA’s optimized reranking and embedding models to build, experiment, and responsibly scale your generative AI ideas on AWS.In this post, we demonstrate how to get started with these models on SageMaker JumpStart.About NVIDIA NIM on AWSNVIDIA NIM microservices integrate closely with AWS managed services such as Amazon Elastic Compute Cloud (Amazon EC2), Amazon Elastic Kubernetes Service（Amazon EKS）和Amazon Sagemaker可以大规模地部署生成AI模型。作为AWS Marketplace可用的NVIDIA AI Enterprise的一部分，NIM是一组用户友好的微服务，旨在简化和加速生成AI的部署。这些预建的容器支持广泛的生成AI模型，从开源社区模型到NVIDIA AI基础模型（FMS）和自定义模型。 NIM微服务可直接使用行业标准的API到生成AI应用程序中，并且只需几行代码即可部署，或者在SageMaker JumpStart Console上单击几下。 NIM的工程为促进无缝的生成AI推断，可帮助您部署生成的AI应用程序。本节中NVIDIA NEMO检索器Nim Microservices的概述，我们提供了NVIDIA NEMO NEMO NEMO RETIEVER NIM MICROSERVICES的概述。 NIM已针对多语言和跨语性文本提问检索进行了优化，并支持长文档（多达8,192个令牌）和动态嵌入式大小（Matryoshka Embeddings）。该模型对26种语言进行了评估：英语，阿拉伯语，孟加拉语，中文，捷克，丹麦语，荷兰语，芬兰语，法语，德语，希伯来语，希伯来语，印地语，匈牙利语，印尼语，意大利语，意大利语，日语，韩文，Nor
检索 NEMO NIM AWS 文本 嵌入式 生成 Sagemaker 希伯来语 NVIDIA 行业标准 Amazon 模型 应用程序 无缝的 部署 用户友好 语言 支持 意大利 意大利语 可用的 广泛的 标准的 动态 大规模 AI 进行