使用亚马逊基岩自定义模型import

现在,您可以为qwen2,qwen2_vl和qwen2_5_vl架构导入自定义权重,包括QWEN 2、2.5编码器,QWEN 2.5 VL和QWQ 32B之类的型号。在这篇文章中,我们介绍了如何使用Amazon BedRock自定义模型导入的如何部署QWEN 2.5型号,这使他们可以在AWS基础架构中以有效的成本在AWS基础架构中使用最先进的AI功能。

来源:亚马逊云科技 _机器学习
我们很高兴地宣布,Amazon Bedrock自定义模型现在支持QWEN模型。 现在,您可以为qwen2,qwen2_vl和qwen2_5_vl架构导入自定义权重,包括QWEN 2、2.5 CODER,QWEN 2.5 VL和QWQ 32B之类的型号。 You can bring your own customized Qwen models into Amazon Bedrock and deploy them in a fully managed, serverless environment—without having to manage infrastructure or model serving.In this post, we cover how to deploy Qwen 2.5 models with Amazon Bedrock Custom Model Import, making them accessible to organizations looking to use state-of-the-art AI capabilities within the AWS infrastructure at an effective cost.Overview of Qwen modelsQwen 2 and 2.5 are families of large language models, available in a wide range of sizes and specialized variants to suit diverse needs:General language models: Models ranging from 0.5B to 72B parameters, with both base and instruct versions for general-purpose tasksQwen 2.5-Coder: Specialized for code generation and completionQwen 2.5-Math: Focused on advanced mathematical reasoningQwen 2.5-VL (vision-language): Image and video处理功能,启用亚马逊基地型自定义模型的多模式应用程序view impartamazon Bedrock自定义模型导入可以通过单个无服务器,统一的API与现有基础模型(FMS)一起导入和使用您的自定义模型。您可以按需访问导入的自定义模型,而无需管理基础基础架构。通过将支持的自定义型号与本机亚马逊基岩工具集成以及亚马逊基岩知识库,亚马逊基岩护栏和亚马逊底石特工等功能来加速您的生成AI应用程序开发。亚马逊基岩定制模型进口通常可在美国东部(N. Virginia),美国西部(俄勒冈州)和欧洲(Frankfurt)AWS地区提供。现在,我们将探讨如何在两个常见用例中使用QWEN 2.5型号:作为编码助手和图像unde