Use Llama 3.1 405B for synthetic data generation and distillation to fine-tune smaller models
今天，我们很高兴地宣布 Llama 3.1 405B 模型已在 Amazon SageMaker JumpStart 和 Amazon Bedrock 上推出预览版。 Llama 3.1 模型是一组先进的预训练和指导微调的生成式人工智能 (AI) 模型，大小分别为 8B、70B 和 405B。Amazon SageMaker JumpStart 是一个机器学习 (ML) 中心，提供对算法、模型和 ML 解决方案的访问，以便您可以快速开始使用 ML。Amazon Bedrock 提供了一种使用 Meta Llama 模型构建和扩展生成式 AI 应用程序的简单方法，只需一个 API 即可。
Llama 3.1 models are now available in Amazon SageMaker JumpStart
今天，我们很高兴地宣布，最先进的 Llama 3.1 多语言大型语言模型 (LLM) 集合（包括 8B、70B 和 405B 大小的预训练和指令调整生成式 AI 模型）可通过 Amazon SageMaker JumpStart 部署以进行推理。Llama 是一种可公开访问的 LLM，专为开发人员、研究人员和企业设计，用于构建、试验和负责任地扩展他们的生成式人工智能 (AI) 创意。在这篇文章中，我们将介绍如何使用 SageMaker JumpStart 发现和部署 Llama 3.1 模型。
Amazon SageMaker unveils the Cohere Command R fine-tuning model
AWS 宣布在 Amazon SageMaker 上推出 Cohere Command R 微调模型。SageMaker 机器学习 (ML) 功能套件的最新成员使企业能够利用大型语言模型 (LLM) 的强大功能，并充分发挥其在各种应用中的潜力。Cohere Command R 是一种可扩展的前沿 […]
Improve RAG accuracy with fine-tuned embedding models on Amazon SageMaker
这篇文章演示了如何使用 Amazon SageMaker 微调 Sentence Transformer 嵌入模型并将其部署到 Amazon SageMaker Endpoint。本文中的代码和更多示例可在 GitHub 存储库中找到。
这篇文章是与 BRIA AI 的 Bar Fingerman 共同撰写的。这篇文章解释了 BRIA AI 如何快速且经济地在包含 PB 级许可图像的数据集上训练高分辨率 (1024×1024) 文本到图像传播模型 BRIA AI 2.0。Amazon SageMaker 训练作业和 Amazon SageMaker 分布式训练库承担了与基础设施相关的无差别繁重工作 [...]
这篇文章向您展示了如何使用其他依赖项扩展 Amazon SageMaker Distribution，以创建针对地理空间分析量身定制的自定义容器映像。虽然这篇文章中的示例侧重于地理空间数据科学，但所介绍的方法可以应用于基于 SageMaker Distribution 的任何类型的自定义映像。
随着生成式人工智能 (AI) 推理对企业越来越重要，客户正在寻求扩展其生成式 AI 操作或将生成式 AI 模型集成到现有工作流程中的方法。模型优化已成为一个关键步骤，使组织能够平衡成本效益和响应能力，从而提高生产力。但是，性价比要求在不同用例之间差异很大。对于 [...]
今天，Amazon SageMaker 宣布了一款新的推理优化工具包，可帮助您将优化生成式人工智能 (AI) 模型所需的时间从数月缩短到数小时，从而为您的用例实现一流的性能。借助这项新功能，您可以从优化技术菜单中进行选择，将它们应用于您的生成式 AI [...]
The Weather Company enhances MLOps with Amazon SageMaker, AWS CloudFormation, and Amazon CloudWatch
在本文中，我们分享了 The Weather Company (TWCo) 如何使用 Amazon SageMaker、AWS CloudFormation 和 Amazon CloudWatch 等服务增强其 MLOps 平台的故事。TWCo 数据科学家和 ML 工程师利用自动化、详细的实验跟踪、集成训练和部署管道来帮助有效扩展 MLOps。TWCo 将基础设施管理时间缩短了 90%，同时还将模型部署时间缩短了 20%。
Generate unique images by fine-tuning Stable Diffusion XL with Amazon SageMaker
Stability AI 的 Stable Diffusion XL 是一种高质量的文本到图像深度学习模型，可让您生成各种风格的专业图像。托管版本的 Stable Diffusion XL 已在 Amazon SageMaker JumpStart 上提供给您（请参阅在 Amazon SageMaker Studio 中将 Stable Diffusion XL 与 Amazon SageMaker JumpStart 结合使用）和 Amazon Bedrock（请参阅 […]
Identify idle endpoints in Amazon SageMaker
Amazon SageMaker 是一个机器学习 (ML) 平台，旨在简化大规模构建、训练、部署和管理 ML 模型的过程。 SageMaker 提供全面的工具和服务，为开发人员和数据科学家提供加速开发和部署 ML 解决方案所需的资源。在当今快节奏的技术环境中，[…]
